Tko je odgovoran za pogrešku AI-ja

Rezultat ostaje ljudski posao, i kada AI izvršava zadatak

AI sustav može izvršiti zadatak, ali sam sustav nije pravna osoba i ne može se smatrati odgovornim. Odgovornost za rezultat leži na fizičkoj ili pravnoj osobi: organizaciji koja sustav primjenjuje, dobavljaču sustava, ili kombinaciji oboje, ovisno o tome što je točno pošlo po zlu i kakvi su dogovori o tome sklopljeni. To je jedan od razloga zašto ftetoai razlikuje tri kategorije umjesto jednostavnog da ili ne: kod mnogih zadataka pitanje nije samo može li AI obaviti posao, nego tko provjerava koji rezultat prije nego što izađe u javnost ili ima posljedice.

Kategorija "djelomično, uz ljudski nadzor" postoji upravo iz tog razloga. Kod tih zadataka AI izvršava posao, ali čovjek odobrava ili odbija rezultat, s razlogom. Taj nadzor nije samo mjera kvalitete; to je i točka u kojoj se utvrđuje odgovornost za konačan rezultat. Bez tog nadzora često je nejasno tko je imao kakvu kontrolu, a to je upravo pitanje koje postaje relevantno čim nešto krene po zlu.

Gdje su utvrđena pravila o odgovornosti

Odgovornost za pogreške AI sustava procjenjuje se na temelju postojećeg prava: općeg obveznog prava, odgovornosti za proizvode, te posebnih propisa koji se na europskoj razini razvijaju za AI sustave s povećanim rizikom. Koja se pravila točno primjenjuju ovisi o vrsti sustava, sektoru i načinu na koji je sustav primijenjen. To nije područje na kojem alat kao ftetoai može donijeti izjavu koja vrijedi za svaku situaciju; aktualni zakonski tekst i njegovo tumačenje od strane pravnika predstavljaju odgovarajuću polaznu točku. Ftetoai opisuje koji dio zadatka sustav može preuzeti i koji dio zahtijeva nadzor, ne tko je u konkretnom slučaju pravno odgovoran.

Posebna je točka obrada podataka: čim zadatak zadire u osobne podatke, nastaje drugi sloj obveza. To detaljnije razmatramo na stranici o GDPR-u kod automatizacije zadataka; tamo je, među ostalim, opisano zašto obrada od strane AI sustava zahtijeva vlastitu procjenu, odvojeno od pitanja izvršava li sustav zadatak sadržajno dobro.

Što to znači za organizaciju rada

Budući da rezultat u pravnom smislu ostaje ljudski posao, organizacija rada je mjesto gdje se donose praktični izbori. Nekoliko mehanizama koji se pri tome vraćaju:

Tko što provjerava, i na temelju kojeg razloga. Ako zadatak spada u kategoriju "djelomično", bilježenje odobrenja ili odbijanja i temeljnog razloga polazna je točka za naknadnu rekonstrukciju onoga što se dogodilo.
Koje zadatke AI potpuno preuzima, i pod kojim uvjetima. Kod zadataka u prvoj kategoriji nema ljudske kontrole po slučaju; pitanje tada postaje kako je organizacija unaprijed utvrdila da je to odgovorno, i odgovara li to onome što su dobavljač i organizacija o tome dogovorili.
Kako su nadzor i praćenje organizirani na razini procesa i tima. To se dotiče zadataka koji su i sami djelomično automatizirani, kao što je može li AI preuzeti praćenje proračuna i signaliziranje odstupanja ili može li AI pratiti napredak ciljeva i projekata. I tu vrijedi: sustav signalizira, čovjek procjenjuje i odlučuje što se s tim radi.

Ova podjela ne daje pravni savjet, već činjeničnu slika o tome gdje se u procesu nalaze kontrolne točke. Ta slika korisna je u razgovoru s pravnikom ili savjetnikom o tome kako je odgovornost podijeljena u konkretnoj situaciji.

Gdje se to dotiče dogovora unutar organizacije

Način na koji se zadaci raspodjeljuju između AI-ja i čovjeka, i kako je nadzor organiziran, nije samo pravno pitanje nego i pitanje o organizaciji samog rada. Izmjene u radnim procesima i primjena sustava koji utječu na rad zaposlenika mogu spadati pod suodlučivanje; kada je to slučaj i koji koraci uz to idu, opisano je na stranici o tome kada je to na radničkom vijeću. I ovdje vrijedi: to je poseban put uz pitanje može li AI sadržajno preuzeti zadatak.

Sličan mehanizam igra ulogu kod sastanaka koje AI podupire umjesto da ih zamjenjuje. Kod pitanja može li AI voditi tjedni sastanak tima ne radi se samo o tome može li sustav izraditi dnevni red i voditi zapisnik, nego i o tome tko ostaje odgovoran za odluke donesene na tom sastanku. Izvršenje se može poduprijeti; odgovornost za rezultat time se ne pomiče automatski zajedno s time.

Što možete učiniti sada

Ova stranica opisuje mehanizam, ne unaprijed pripremljen odgovor za vašu situaciju. Odgovornost za pogrešku AI-ja ovisi o vrsti sustava, sektoru, sklopljenim dogovorima s dobavljačem, i načinu na koji je nadzor organiziran — a ta procjena leži na pravniku ili savjetniku, ne na alatu koji razvrstava zadatke.