Kto jest odpowiedzialny za błąd AI

Wynik pozostaje ludzką pracą, nawet gdy zadanie wykonuje AI

System AI może wykonać zadanie, ale sam system nie jest osobą prawną i nie może zostać pociągnięty do odpowiedzialności. Odpowiedzialność za wynik spoczywa na osobie fizycznej lub prawnej: organizacji, która wdraża system, dostawcy systemu, lub na obu tych podmiotach łącznie, w zależności od tego, co dokładnie poszło nie tak i jakie ustalenia w tej sprawie zostały poczynione. To jeden z powodów, dla których ftetoai rozróżnia trzy kategorie zamiast prostego tak lub nie: przy wielu zadaniach pytanie nie brzmi tylko, czy AI może wykonać pracę, lecz kto kontroluje dany wynik, zanim ten trafi na zewnątrz lub wywoła skutki.

Kategoria „częściowo, z nadzorem człowieka” istnieje właśnie z tego powodu. Przy tych zadaniach AI wykonuje pracę, ale człowiek zatwierdza lub odrzuca wynik, z podaniem powodu. Ten nadzór to nie tylko środek zapewnienia jakości; to również punkt, w którym ustala się odpowiedzialność za ostateczny wynik. Bez tego nadzoru często nie wiadomo, kto sprawował jaką kontrolę, a to właśnie pytanie staje się istotne, gdy coś pójdzie nie tak.

Gdzie ustalone są zasady odpowiedzialności

Odpowiedzialność za błędy systemów AI ocenia się na podstawie obowiązującego prawa: ogólnego prawa zobowiązań, odpowiedzialności za produkt oraz szczegółowych regulacji opracowywanych na poziomie europejskim dla systemów AI wysokiego ryzyka. To, które zasady dokładnie mają zastosowanie, zależy od typu systemu, sektora oraz sposobu wdrożenia systemu. Nie jest to obszar, w którym narzędzie takie jak ftetoai może wydać stwierdzenie trafne dla każdej sytuacji; aktualny tekst prawny oraz jego wykładnia dokonana przez prawnika stanowią właściwy punkt wyjścia. Ftetoai opisuje, jaką część zadania może przejąć system, a jaka część wymaga nadzoru, a nie kto w konkretnym przypadku ponosi odpowiedzialność prawną.

Osobną kwestią jest przetwarzanie danych: gdy tylko zadanie dotyczy danych osobowych, powstaje druga warstwa obowiązków. Omawiamy to szerzej na stronie o RODO przy automatyzacji zadań; opisano tam między innymi, dlaczego przetwarzanie przez system AI wymaga odrębnej oceny, niezależnie od pytania, czy system merytorycznie dobrze wykonuje zadanie.

Co to oznacza dla organizacji pracy

Ponieważ wynik w sensie prawnym pozostaje ludzką pracą, to organizacja pracy jest miejscem, w którym dokonuje się praktycznych wyborów. Kilka mechanizmów, które się w tym kontekście powtarzają:

Kto co kontroluje i na jakiej podstawie. Jeśli zadanie mieści się w kategorii „częściowo”, odnotowanie zatwierdzenia lub odrzucenia oraz leżącego u jego podstaw powodu stanowi punkt zaczepienia pozwalający później zrekonstruować, co się wydarzyło.
Które zadania są w pełni przejmowane przez AI i na jakich warunkach. Przy zadaniach z pierwszej kategorii nie ma kontroli człowieka dla każdego przypadku z osobna; pytanie dotyczy wówczas tego, w jaki sposób organizacja z góry ustaliła, że jest to odpowiedzialne, oraz czy jest to zgodne z ustaleniami poczynionymi między dostawcą a organizacją w tej sprawie.
Jak zorganizowano nadzór i monitorowanie na poziomie procesów i zespołów. Dotyczy to zadań, które same również są częściowo automatyzowalne, na przykład czy AI może przejąć pilnowanie budżetu i sygnalizowanie odchyleń lub czy AI może monitorować postęp celów i projektów. Także tutaj obowiązuje zasada: system sygnalizuje, a człowiek ocenia i decyduje, co z tym zrobić.

Ten podział nie stanowi porady prawnej, lecz daje rzeczowy obraz tego, gdzie w procesie znajdują się punkty kontrolne. Ten obraz jest przydatny w rozmowie z prawnikiem lub doradcą na temat tego, jak w konkretnej sytuacji rozłożona jest odpowiedzialność.

Gdzie to dotyka konsultacji wewnątrz organizacji

Sposób, w jaki zadania są rozdzielane między AI a człowieka, oraz sposób organizacji nadzoru, to nie tylko kwestia prawna, ale też kwestia organizacji samej pracy. Zmiany w procesach pracy oraz wdrażanie systemów wpływających na pracę pracowników mogą podlegać współdecydowaniu pracowniczemu; kiedy tak się dzieje i jakie kroki się z tym wiążą, opisano na stronie o tym, kiedy dotyczy to rady zakładowej. Także tutaj obowiązuje zasada: to odrębny proces, niezależny od pytania, czy AI może merytorycznie przejąć zadanie.

Podobny mechanizm występuje przy konsultacjach, które AI wspiera, a nie zastępuje. Przy pytaniu, czy AI może prowadzić cotygodniowe spotkanie zespołu, nie chodzi tylko o to, czy system może ułożyć agendę i sporządzić notatki, ale też o to, kto pozostaje odpowiedzialny za decyzje podejmowane podczas tego spotkania. Wykonanie może być wspierane; odpowiedzialność za wynik nie przesuwa się przez to automatycznie.

Co można zrobić już teraz

Ta strona opisuje mechanizm, a nie gotową odpowiedź dopasowaną do Państwa sytuacji. Odpowiedzialność za błąd AI zależy od typu systemu, sektora, ustaleń poczynionych z dostawcą oraz sposobu zorganizowania nadzoru — a ta ocena należy do prawnika lub doradcy, nie do narzędzia, które klasyfikuje zadania.