Kdo je odpovědný za chybu AI

Výsledek zůstává lidskou prací, i když úkol vykonává AI

Systém AI může vykonávat úkol, ale samotný systém není právnickou osobou a nelze ho žádat o odpovědnost. Odpovědnost za výsledek nese fyzická nebo právnická osoba: organizace, která systém nasazuje, dodavatel systému, nebo kombinace obou, závisí na tom, co přesně se pokazilo a jaké dohody o tom byly uzavřeny. To je jeden z důvodů, proč ftetoai rozlišuje tři kategorie místo jednoduchého ano nebo ne: u mnoha úkolů není otázkou jen to, zda AI může práci vykonat, ale kdo který výsledek kontroluje předtím, než se dostane ven nebo má následky.

Kategorie „částečně, s lidským dohledem“ existuje přesně z tohoto důvodu. U těchto úkolů vykonává práci AI, ale člověk výsledek schvaluje nebo zamítá, s uvedením důvodu. Tento dohled není jen opatřením pro kvalitu; je to také bod, kde se zakotvuje odpovědnost za konečný výsledek. Bez tohoto dohledu je často nejasné, kdo měl jakou kontrolu, a to je přesně otázka, která se stává relevantní, jakmile se něco pokazí.

Kde jsou zakotvena pravidla odpovědnosti

Odpovědnost za chyby systémů AI se posuzuje na základě stávajícího práva: obecného smluvního práva, odpovědnosti za produkty a specifické regulace, která se vyvíjí na evropské úrovni pro systémy AI se zvýšeným rizikem. Která pravidla přesně platí, závisí na typu systému, sektoru a způsobu, jakým je systém nasazen. Toto není oblast, ve které by nástroj jako ftetoai mohl vyslovit tvrzení, jež by platilo pro každou situaci; aktuální znění zákona a jeho výklad právníkem jsou správným výchozím bodem. Ftetoai popisuje, kterou část úkolu může systém převzít a která část vyžaduje dohled, nikoli kdo je v konkrétním případě právně odpovědný.

Samostatným bodem je zpracování údajů: jakmile se úkol dotýká osobních údajů, vzniká druhá vrstva povinností. Tu podrobněji rozebíráme na stránce o GDPR při automatizaci úkolů; tam je mimo jiné popsáno, proč zpracování systémem AI vyžaduje vlastní posouzení, nezávisle na otázce, zda systém úkol obsahově vykonává správně.

Co to znamená pro uspořádání práce

Protože výsledek zůstává v právním smyslu lidskou prací, je uspořádání práce místem, kde se dělají praktická rozhodnutí. Několik mechanismů, které se v tom opakují:

Kdo co kontroluje a na základě jakého důvodu. Pokud úkol spadá do kategorie „částečně“, je zaznamenání schválení nebo zamítnutí a jejich odůvodnění klíčovým bodem pro pozdější rekonstrukci toho, co se stalo.
Které úkoly převezme AI zcela a za jakých podmínek. U úkolů v první kategorii neprobíhá lidská kontrola v jednotlivých případech; otázkou se pak stává, jak organizace předem stanovila, že je to odpovědné, a zda to odpovídá tomu, co si o tom dodavatel a organizace dohodli.
Jak je uspořádán dohled a monitorování na úrovni procesu a týmu. To se dotýká úkolů, které jsou samy o sobě částečně automatizovatelné, jako například zda AI může převzít sledování rozpočtu a signalizaci odchylek nebo zda AI může monitorovat pokrok cílů a projektů. I zde platí: systém signalizuje, člověk posuzuje a rozhoduje, co se s tím stane.

Toto rozdělení nepředstavuje právní poradenství, ale poskytuje faktický obraz toho, kde v procesu leží kontrolní body. Tento obraz je použitelný při rozhovoru s právníkem nebo poradcem o tom, jak je odpovědnost v konkrétní situaci rozdělena.

Kde se to dotýká jednání v rámci organizace

Způsob, jakým jsou úkoly rozděleny mezi AI a člověka, a jak je uspořádán dohled, není jen právní otázkou, ale i otázkou o organizaci samotné práce. Změny v pracovních procesech a nasazení systémů, které se dotýkají práce zaměstnanců, mohou spadat pod spolurozhodování; kdy to platí a jaké kroky s tím souvisí, je popsáno na stránce o tom, kdy o tom rozhoduje podniková rada. I zde platí: toto je samostatný proces vedle otázky, zda AI může úkol obsahově převzít.

Podobný mechanismus se projevuje u jednání, které AI podporuje, nikoli nahrazuje. U otázky, zda AI může vést týdenní týmovou schůzku, nejde jen o to, zda systém může sestavit agendu a zapsat zápis, ale také o to, kdo zůstává odpovědný za rozhodnutí, která se na této schůzce přijímají. Provedení lze podpořit; odpovědnost za výsledek se tím automaticky nepřesouvá.

Co můžete udělat nyní

Tato stránka popisuje mechanismus, nikoli hotovou odpověď pro vaši situaci. Odpovědnost za chybu AI závisí na typu systému, sektoru, uzavřených dohodách s dodavatelem a způsobu, jakým je uspořádán dohled — a toto posouzení náleží právníkovi nebo poradci, nikoli nástroji, který rozřazuje úkoly.