Kas yra atsakingas dėl AI padarytos klaidos

Rezultatas išlieka žmogaus darbu, net jei užduotį vykdo AI

AI sistema gali vykdyti užduotį, tačiau pati sistema nėra juridinis asmuo ir jai negalima taikyti atsakomybės. Atsakomybė už rezultatą tenka fiziniam arba juridiniam asmeniui: organizacijai, kuri sistemą naudoja, sistemos tiekėjui arba jų kombinacijai, atsižvelgiant į tai, kas konkrečiai nutiko ir kokios susitarimai dėl to buvo sudaryti. Tai viena iš priežasčių, kodėl ftetoai skiria tris kategorijas, o ne paprastą taip arba ne: daugelio užduočių atveju klausimas nėra tik tai, ar AI gali atlikti darbą, bet ir tai, kas kokį rezultatą tikrina, prieš jam patenkant į viešumą arba sukeliant pasekmes.

Kategorija „iš dalies, su žmogaus priežiūra“ egzistuoja tiksliai dėl šios priežasties. Tokių užduočių atveju AI vykdo darbą, tačiau žmogus rezultatą patvirtina arba atmeta, nurodydamas priežastį. Ta priežiūra yra ne tik kokybės priemonė; tai taip pat momentas, kuriame įtvirtinama atsakomybė už galutinį rezultatą. Be tokios priežiūros dažnai neaišku, kas kokią kontrolę turėjo, o tai tampa aktualiu klausimu tada, kai kažkas nutinka ne taip.

Kur yra įtvirtintos atsakomybės taisyklės

AI sistemų klaidų atsakomybė vertinama pagal esamą teisę: bendrąją sutarčių teisę, gaminių atsakomybę ir specifinį reguliavimą, kuris Europos lygmeniu kuriamas didesnės rizikos AI sistemoms. Kurios taisyklės konkrečiai taikomos, priklauso nuo sistemos tipo, sektoriaus ir nuo to, kokiu būdu sistema buvo naudojama. Tai nėra sritis, kurioje toks įrankis kaip ftetoai galėtų pateikti teiginį, tinkantį kiekvienai situacijai; aktualus teisės aktų tekstas ir jo išaiškinimas, kurį pateikia teisininkas, yra tinkamiausias atspirties taškas. Ftetoai aprašo, kokią dalį užduoties gali perimti sistema ir kokia dalis reikalauja priežiūros, o ne kas konkrečiu atveju yra teisiškai atsakingas.

Atskiras klausimas yra duomenų tvarkymas: kai tik užduotis susijusi su asmens duomenimis, atsiranda antras įsipareigojimų lygmuo. Tai plačiau aptariame puslapyje apie BDAR taikymą automatizuojant užduotis; jame, be kita ko, aprašyta, kodėl AI sistemos vykdomas duomenų tvarkymas reikalauja atskiro vertinimo, nepriklausomai nuo to, ar sistema turinio prasme užduotį atlieka tinkamai.

Ką tai reiškia darbo organizavimui

Kadangi rezultatas teisiniu požiūriu išlieka žmogaus darbu, praktiniai sprendimai priimami darbo organizavimo lygmenyje. Keletas mechanizmų, kurie čia pasikartoja:

Kas ką tikrina ir kokiu pagrindu. Jei užduotis patenka į kategoriją „iš dalies“, patvirtinimo arba atmetimo ir jo pagrindo fiksavimas yra atskaitos taškas, leidžiantis vėliau atkurti, kas įvyko.
Kokias užduotis AI perima visiškai ir kokiomis sąlygomis. Pirmosios kategorijos užduočių atveju žmogaus kontrolės kiekvienu konkrečiu atveju nėra; tada klausimas tampa, kaip organizacija iš anksto nustatė, kad tai yra pagrįsta, ir ar tai atitinka tai, kas dėl to sutarta tarp tiekėjo ir organizacijos.
Kaip priežiūra ir stebėjimas organizuoti proceso ir komandos lygmeniu. Tai susiję su užduotimis, kurios pačios taip pat gali būti iš dalies automatizuotos, pavyzdžiui, ar AI gali perimti biudžeto priežiūrą ir nukrypimų signalizavimą arba ar AI gali stebėti tikslų ir projektų eigą. Ir čia galioja tas pats principas: sistema signalizuoja, o žmogus vertina ir sprendžia, kas su tuo daroma.

Šis skirstymas nesuteikia teisinės konsultacijos, tačiau duoda faktinį vaizdą, kur procese yra kontrolės taškai. Tas vaizdas naudingas pokalbiui su teisininku arba konsultantu apie tai, kaip konkrečioje situacijoje paskirstyta atsakomybė.

Kur tai susijęsu su svarstymu organizacijos viduje

Būdas, kuriuo užduotys paskirstomos tarp AI ir žmogaus, ir tai, kaip organizuojama priežiūra, yra ne tik teisinis klausimas, bet ir klausimas apie paties darbo organizavimą. Darbo procesų pakeitimai ir sistemų naudojimas, kurie paveikia darbuotojų darbą, gali patekti į darbo tarybos kompetencijos sritį; kada tai taikoma ir kokie žingsniai su tuo susiję, aprašyta puslapyje apie kada tai priklauso darbo tarybos kompetencijai. Ir čia galioja tas pats: tai atskiras procesas, nepriklausomas nuo klausimo, ar AI turinio prasme gali perimti užduotį.

Panašus mechanizmas veikia ir susirinkimų atveju, kai AI padeda, o ne pakeičia. Klausimas, ar AI gali vadovauti savaitiniam komandos susirinkimui, susijęs ne tik su tuo, ar sistema gali sudaryti darbotvarkę ir protokoluoti, bet ir su tuo, kas išlieka atsakingas už tame susirinkime priimamus sprendimus. Vykdymas gali būti paremtas; kartu su tuo atsakomybė už rezultatą automatiškai nepersikelia.

Ką galite padaryti dabar

Šis puslapis aprašo mechanizmą, o ne paruoštą atsakymą jūsų situacijai. Atsakomybė dėl AI padarytos klaidos priklauso nuo sistemos tipo, sektoriaus, su tiekėju sudarytų susitarimų ir nuo to, kaip organizuota priežiūra — ir tą vertinimą turėtų atlikti teisininkas ar konsultantas, o ne įrankis, kuris skirsto užduotis.