Kennisbank

Kurš ir atbildīgs AI kļūdas gadījumā

Rezultāts joprojām ir cilvēka darbs, arī tad, ja uzdevumu izpilda AI

AI sistēma var izpildīt uzdevumu, taču pati sistēma nav juridiska persona un to nevar saukt pie atbildības. Atbildība par rezultātu gulstas uz fizisku vai juridisku personu: organizāciju, kas sistēmu izmanto, sistēmas piegādātāju vai abu kombināciju — atkarībā no tā, kas tieši noticis un kādas vienošanās par to ir noslēgtas. Tas ir viens no iemesliem, kāpēc ftetoai izšķir trīs kategorijas, nevis vienkāršu jā vai nē: daudzu uzdevumu gadījumā jautājums ir ne tikai par to, vai AI var paveikt darbu, bet arī par to, kurš pārbauda kādu rezultātu, pirms tas nonāk ārpasaulē vai rada sekas.

Tieši tāpēc pastāv kategorija "daļēji, ar cilvēka uzraudzību". Šo uzdevumu gadījumā AI izpilda darbu, taču cilvēks apstiprina vai noraida rezultātu, pamatojot to. Šī uzraudzība nav tikai kvalitātes pasākums; tas ir arī punkts, kurā tiek noteikta atbildība par galīgo rezultātu. Bez šādas uzraudzības bieži vien nav skaidrs, kam kāda kontrole bija, un tieši tas kļūst nozīmīgi, tiklīdz kaut kas noiet greizi.

Kur ir noteikti atbildības noteikumi

AI sistēmu kļūdu gadījumā atbildība tiek vērtēta, pamatojoties uz spēkā esošajām tiesību normām: vispārējām saistību tiesībām, produktatbildību un īpašu regulējumu, kas Eiropas līmenī tiek izstrādāts paaugstināta riska AI sistēmām. Tas, kuri noteikumi tieši ir piemērojami, ir atkarīgs no sistēmas veida, nozares un tā, kā sistēma tikusi izmantota. Šī nav joma, kurā tāds rīks kā ftetoai var sniegt spriedumu, kas derētu jebkurai situācijai; pašreizējais likuma teksts un jurista sniegts skaidrojums ir pareizais sākumpunkts. Ftetoai apraksta, kuru uzdevuma daļu sistēma var pārņemt un kurai daļai nepieciešama uzraudzība, nevis to, kurš konkrētā gadījumā ir juridiski atbildīgs.

Atsevišķs jautājums ir datu apstrāde: tiklīdz uzdevums skar personas datus, rodas otrs pienākumu slānis. To sīkāk aplūkojam lapā par VDAR uzdevumu automatizācijā; tur cita starpā aprakstīts, kāpēc apstrādei, ko veic AI sistēma, nepieciešams atsevišķs izvērtējums neatkarīgi no tā, vai sistēma uzdevumu satura ziņā izpilda labi.

Ko tas nozīmē darba organizācijai

Tā kā rezultāts juridiskā nozīmē paliek cilvēka darbs, tieši darba organizācijā tiek pieņemti praktiskie lēmumi. Daži mehānismi, kas šeit atkārtoti parādās:

• Kurš ko pārbauda un uz kāda pamata. Ja uzdevums ietilpst kategorijā "daļēji", apstiprinājuma vai noraidījuma un tā pamatojuma fiksēšana ir pamats, lai vēlāk varētu rekonstruēt, kas noticis.
• Kurus uzdevumus AI pārņem pilnībā un ar kādiem nosacījumiem. Pirmās kategorijas uzdevumu gadījumā katrā atsevišķā gadījumā cilvēka kontroles nav; tad jautājums ir par to, kā organizācija iepriekš noteikusi, ka tas ir atbildīgi, un vai tas atbilst piegādātāja un organizācijas savstarpējām vienošanām par šo jautājumu.
• Kā uzraudzība un monitorings organizēti procesa un komandas līmenī. Tas skar uzdevumus, kas paši savukārt arī ir daļēji automatizējami, piemēram, vai AI var pārņemt budžeta uzraudzību un noviržu signalizēšanu vai vai AI var uzraudzīt mērķu un projektu progresu. Arī šeit ir spēkā: sistēma signalizē, cilvēks izvērtē un lemj, kas ar to jādara.

Šāds iedalījums nesniedz juridisku konsultāciju, bet gan faktisku ainu par to, kur procesā atrodas kontroles punkti. Šī aina ir noderīga sarunā ar juristu vai konsultantu par to, kā atbildība sadalīta konkrētā situācijā.

Kur tas skar organizācijas iekšējo apspriešanos

Veids, kā uzdevumi tiek sadalīti starp AI un cilvēku, un kā organizēta uzraudzība, ir ne tikai juridisks jautājums, bet arī jautājums par paša darba organizāciju. Izmaiņas darba procesos un tādu sistēmu izmantošana, kas skar darbinieku darbu, var ietilpt darbinieku līdzdalības jomā; kad tas tā ir un kādi soļi tam seko, aprakstīts lapā par to, kad tas ir uzņēmuma padomes kompetencē. Arī šeit ir spēkā: šis ir atsevišķs process papildus jautājumam, vai AI var pārņemt uzdevumu pēc būtības.

Līdzīgs mehānisms darbojas apspriedēs, kuras AI atbalsta, nevis aizstāj. Jautājumā par to, vai AI var vadīt iknedēļas komandas sanāksmi, runa nav tikai par to, vai sistēma var sagatavot darba kārtību un rakstīt protokolu, bet arī par to, kurš paliek atbildīgs par lēmumiem, kas šajā sanāksmē tiek pieņemti. Izpildi var atbalstīt; atbildība par rezultātu tādēļ automātiski nepāriet līdzi.

Ko jūs varat darīt tagad

Šī lapa apraksta mehānismu, nevis gatavu atbildi jūsu situācijai. Atbildība AI kļūdas gadījumā ir atkarīga no sistēmas veida, nozares, ar piegādātāju noslēgtajām vienošanām un veida, kā organizēta uzraudzība — un šis izvērtējums ir jurista vai konsultanta, nevis uzdevumus iedalošā rīka, kompetencē.

Ko jūs gan varat pats noskaidrot, ir tas, kura darba daļa jūsu organizācijā šobrīd tiek vadīta ar AI, kura daļa ir pakļauta uzraudzībai un kura daļa ir cilvēka darbs. Bezmaksas ftetoai ātrā pārbaude sastāv no divpadsmit jautājumiem, tai nav vajadzīgs konts, un tā sniedz norādi par to, kādu daļu no jūsu profila stundām šodien var pārņemt AI. Pilnīgā darba pārbaude, kas dziļāk aplūko atsevišķus uzdevumus un uzraudzības struktūras, vēl tiek izstrādāta.