Kdo je odgovoren pri napaki AI

Rezultat ostaja delo ljudi, tudi kadar nalogo izvaja AI

Sistem umetne inteligence lahko izvede nalogo, vendar sam sistem ni pravna oseba in ne more biti odgovoren. Odgovornost za rezultat leži pri fizični ali pravni osebi: pri organizaciji, ki sistem uporablja, pri dobavitelju sistema, ali pri kombinaciji obeh, odvisno od tega, kaj natanko je šlo narobe in kakšni dogovori so bili o tem sklenjeni. To je eden od razlogov, zakaj ftetoai razlikuje tri kategorije namesto preprostega da ali ne: pri mnogih nalogah vprašanje ni le, ali lahko AI opravi delo, temveč kdo nadzoruje kateri rezultat, preden ta pride v javnost ali ima posledice.

Kategorija "delno, s človeškim nadzorom" obstaja prav zaradi tega razloga. Pri teh nalogah AI opravi delo, vendar človek rezultat odobri ali zavrne, z razlogom. Ta nadzor ni le ukrep kakovosti; je tudi točka, kjer se določa odgovornost za končni rezultat. Brez tega nadzora pogosto ni jasno, kdo je imel kakšen nadzor, in prav to vprašanje postane pomembno, ko gre kaj narobe.

Kje so zapisana pravila glede odgovornosti

Odgovornost pri napakah sistemov umetne inteligence se presoja na podlagi obstoječega prava: splošnega obligacijskega prava, odgovornosti za izdelke in specifične zakonodaje, ki se na evropski ravni razvija za sisteme umetne inteligence s povečanim tveganjem. Katera pravila natanko veljajo, je odvisno od vrste sistema, panoge in načina, kako je sistem uveden. To ni področje, kjer bi orodje kot ftetoai lahko podalo izjavo, ki bi veljala za vsako situacijo; veljavno zakonsko besedilo in razlaga pravnika sta pravi izhodišči. Ftetoai opisuje, kateri del naloge lahko prevzame sistem in kateri del zahteva nadzor, ne pa, kdo je v konkretnem primeru pravno odgovoren.

Posebna točka je obdelava podatkov: takoj ko naloga vpliva na osebne podatke, nastane druga plast obveznosti. To podrobneje obravnavamo na strani o GDPR pri avtomatizaciji nalog; tam je med drugim opisano, zakaj obdelava s strani sistema umetne inteligence zahteva lastno presojo, ločeno od vprašanja, ali sistem nalogo vsebinsko dobro opravlja.

Kaj to pomeni za organizacijo dela

Ker rezultat v pravnem smislu ostaja delo ljudi, je organizacija dela tisto mesto, kjer se sprejemajo praktične odločitve. Nekaj mehanizmov, ki se pri tem pojavljajo:

Kdo nadzoruje kaj, in na podlagi katerega razloga. Če naloga sodi v kategorijo "delno", je beleženje odobritve ali zavrnitve ter osnovnega razloga izhodišče, na podlagi katerega je mogoče naknadno rekonstruirati, kaj se je zgodilo.
Katere naloge v celoti prevzame AI in pod kakšnimi pogoji. Pri nalogah iz prve kategorije ni človeškega nadzora za posamezen primer; vprašanje potem postane, kako je organizacija vnaprej ugotovila, da je to odgovorno, in ali se to sklada s tem, kar sta dobavitelj in organizacija o tem dogovorila.
Kako sta nadzor in spremljanje organizirana na ravni procesa in ekipe. To se dotika nalog, ki so same po sebi tudi delno avtomatizirane, na primer, ali lahko AI prevzame nadzor nad proračunom in signaliziranje odstopanj ali ali lahko AI spremlja napredek ciljev in projektov. Tudi tu velja: sistem signalizira, človek presoja in odloča, kaj se s tem naredi.

Ta razdelitev ne pomeni pravnega nasveta, temveč stvarno sliko o tem, kje v procesu ležijo kontrolne točke. Ta slika je uporabna pri pogovoru s pravnikom ali svetovalcem o tem, kako je odgovornost razdeljena v konkretni situaciji.

Kje se to dotika posvetovanja znotraj organizacije

Način, kako se naloge delijo med AI in človeka, in kako je organiziran nadzor, ni le pravno vprašanje, temveč tudi vprašanje organizacije samega dela. Spremembe v delovnih procesih in uporaba sistemov, ki vplivajo na delo zaposlenih, lahko sodijo pod soodločanje; kdaj je to primer in kateri koraki so pri tem potrebni, je opisano na strani o kdaj je to stvar sveta delavcev. Tudi tu velja: to je ločen proces poleg vprašanja, ali AI lahko vsebinsko prevzame nalogo.

Podoben mehanizem se pojavlja pri posvetovanjih, ki jih AI podpira namesto da bi jih nadomestil. Pri vprašanju, ali lahko AI vodi tedenski sestanek ekipe, ne gre le za vprašanje, ali sistem lahko pripravi dnevni red in vodi zapisnik, temveč tudi za to, kdo ostane odgovoren za odločitve, sprejete na tem sestanku. Izvedba je lahko podprta; odgovornost za rezultat se s tem ne premakne samodejno.

Kaj lahko storite zdaj

Ta stran opisuje mehanizem, ne pripravljenega odgovora za vašo situacijo. Odgovornost pri napaki AI je odvisna od vrste sistema, panoge, sklenjenih dogovorov z dobaviteljem in načina, kako je organiziran nadzor — in ta presoja je stvar pravnika ali svetovalca, ne orodja, ki razvršča naloge.