Kto je zodpovedný pri chybe AI

Výsledok zostáva ľudskou prácou, aj keď úlohu vykonáva AI

Systém AI môže vykonávať úlohu, ale samotný systém nie je právnickou osobou a nemôže byť braný na zodpovednosť. Zodpovednosť za výsledok nesie fyzická alebo právnická osoba: organizácia, ktorá systém nasadzuje, dodávateľ systému, alebo kombinácia oboch, v závislosti od toho, čo presne sa pokazilo a aké dohody o tom boli uzavreté. Toto je jeden z dôvodov, prečo ftetoai rozlišuje tri kategórie namiesto jednoduchého áno alebo nie: pri mnohých úlohách otázka nie je len to, či AI dokáže danú prácu vykonať, ale kto a aký výsledok kontroluje predtým, než sa dostane navonok alebo má dôsledky.

Kategória "čiastočne, s ľudským dohľadom" existuje presne z tohto dôvodu. Pri týchto úlohách vykonáva prácu AI, ale človek výsledok schvaľuje alebo zamieta, a to na základe dôvodu. Tento dohľad nie je len opatrením kvality; je to zároveň bod, v ktorom sa zaznamenáva zodpovednosť za konečný výsledok. Bez tohto dohľadu je často nejasné, kto mal akú kontrolu, a to je presne otázka, ktorá sa stáva relevantnou vo chvíli, keď sa niečo pokazí.

Kde sú zakotvené pravidlá zodpovednosti

Zodpovednosť pri chybách systémov AI sa posudzuje na základe existujúceho práva: všeobecného záväzkového práva, zodpovednosti za výrobok a špecifickej regulácie, ktorá sa na európskej úrovni vyvíja pre systémy AI so zvýšeným rizikom. Ktoré pravidlá presne platia, závisí od typu systému, sektora a spôsobu, akým je systém nasadený. Toto nie je oblasť, v ktorej by nástroj ako ftetoai mohol urobiť vyjadrenie platné pre každú situáciu; aktuálne znenie zákona a jeho výklad právnikom sú vhodným východiskovým bodom. Ftetoai popisuje, akú časť úlohy môže systém prevziať a akú časť si vyžaduje dohľad, nie kto je v konkrétnom prípade právne zodpovedný.

Osobitným bodom je spracovanie údajov: hneď ako sa úloha dotýka osobných údajov, vzniká druhá vrstva povinností. Podrobnejšie o tom hovoríme na stránke o GDPR pri automatizácii úloh; tam je okrem iného popísané, prečo si spracovanie systémom AI vyžaduje samostatné posúdenie, nezávisle od otázky, či systém úlohu obsahovo vykonáva správne.

Čo to znamená pre usporiadanie práce

Pretože výsledok zostáva z právneho hľadiska ľudskou prácou, usporiadanie práce je miestom, kde sa robia praktické rozhodnutia. Niekoľko mechanizmov, ktoré sa v tejto súvislosti opakujú:

Kto čo kontroluje a na základe akého dôvodu. Ak úloha spadá do kategórie "čiastočne", zaznamenanie schválenia alebo zamietnutia a jeho dôvodu je bodom, ktorý umožňuje spätne zrekonštruovať, čo sa stalo.
Ktoré úlohy AI prevezme úplne a za akých podmienok. Pri úlohách v prvej kategórii nie je ľudská kontrola pri každom prípade; otázkou potom je, ako organizácia vopred stanovila, že je to zodpovedné, a či to zodpovedá tomu, čo si o tom dodávateľ a organizácia dohodli.
Ako je nastavený dohľad a monitorovanie na úrovni procesov a tímov. To sa dotýka úloh, ktoré sú samy o sebe opäť čiastočne automatizovateľné, ako napríklad či AI môže prevziať sledovanie rozpočtu a signalizáciu odchýlok alebo či AI môže monitorovať priebeh cieľov a projektov. Aj tu platí: systém signalizuje, človek posudzuje a rozhoduje, čo sa s tým stane.

Toto rozdelenie neprináša právne poradenstvo, ale poskytuje vecný obraz o tom, kde sa v procese nachádzajú kontrolné body. Tento obraz je použiteľný pri rozhovore s právnikom alebo poradcom o tom, ako je zodpovednosť v konkrétnej situácii rozdelená.

Kde sa to dotýka rokovania v rámci organizácie

Spôsob, akým sú úlohy rozdelené medzi AI a človeka, a ako je nastavený dohľad, nie je len právnou otázkou, ale aj otázkou organizácie samotnej práce. Zmeny v pracovných procesoch a nasadenie systémov, ktoré sa dotýkajú práce zamestnancov, môžu spadať pod spoluúčasť zamestnancov na rozhodovaní; kedy je to tak a aké kroky s tým súvisia, je popísané na stránke o tom, kedy je to záležitosťou zamestnaneckej rady. Aj tu platí: je to samostatný postup vedľa otázky, či AI môže úlohu obsahovo prevziať.

Podobný mechanizmus sa uplatňuje pri porade, ktorú AI podporuje, nie nahrádza. Pri otázke, či AI môže viesť týždennú tímovú poradu, nejde len o to, či systém dokáže zostaviť agendu a robiť zápisnicu, ale aj o to, kto zostáva zodpovedný za rozhodnutia prijaté na tejto porade. Vykonávanie môže byť podporené; zodpovednosť za výsledok sa tým automaticky neprenáša.

Čo môžete urobiť teraz

Táto stránka popisuje mechanizmus, nie hotovú odpoveď pre vašu situáciu. Zodpovednosť pri chybe AI závisí od typu systému, sektora, uzavretých dohôd s dodávateľom a spôsobu, akým je nastavený dohľad — a toto posúdenie patrí právnikovi alebo poradcovi, nie nástroju, ktorý zaraďuje úlohy.