Hvem er ansvarlig ved en fejl fra AI

Resultatet forbliver menneskeværk, også når AI udfører opgaven

Et AI-system kan udføre en opgave, men systemet selv er ikke en juridisk person og kan ikke holdes ansvarligt. Ansvaret for et resultat ligger hos en fysisk eller juridisk person: den organisation der anvender systemet, leverandøren af systemet, eller en kombination af begge, afhængigt af hvad der præcis gik galt og hvilke aftaler der er indgået herom. Dette er en af grundene til, at ftetoai skelner mellem tre kategorier i stedet for et simpelt ja eller nej: ved mange opgaver er spørgsmålet ikke kun, om AI kan udføre arbejdet, men hvem der kontrollerer hvilket resultat, før det går videre eller får konsekvenser.

Kategorien "delvist, med menneskeligt tilsyn" findes netop af den grund. Ved disse opgaver udfører AI arbejdet, men et menneske godkender eller afviser resultatet, med en begrundelse. Dette tilsyn er ikke kun en kvalitetsforanstaltning; det er også det punkt, hvor ansvaret for det endelige resultat fastlægges. Uden dette tilsyn er det ofte uklart, hvem der havde hvilken kontrol, og det er netop det spørgsmål, der bliver relevant, så snart noget går galt.

Hvor reglerne for ansvar er fastlagt

Ansvar ved fejl i AI-systemer vurderes ud fra gældende ret: almindelig aftaleret, produktansvar, og specifik regulering der udvikles på europæisk niveau for AI-systemer med forhøjet risiko. Hvilke regler der præcis finder anvendelse, afhænger af typen af system, sektoren, og måden hvorpå systemet er taget i brug. Dette er ikke et område, hvor et værktøj som ftetoai kan give en udtalelse, der passer på enhver situation; den aktuelle lovtekst og en jurists fortolkning heraf er det rette udgangspunkt. Ftetoai beskriver hvilken del af en opgave et system kan overtage, og hvilken del der kræver tilsyn, ikke hvem der i en konkret sag er juridisk ansvarlig.

Et separat punkt er databehandling: så snart en opgave berører persondata, opstår der et andet lag af forpligtelser. Det behandler vi mere indgående på siden om GDPR ved automatisering af opgaver; der beskrives blandt andet, hvorfor behandling udført af et AI-system kræver sin egen vurdering, uafhængigt af spørgsmålet om systemet indholdsmæssigt udfører opgaven korrekt.

Hvad dette betyder for tilrettelæggelsen af arbejdet

Fordi resultatet i juridisk forstand forbliver menneskeværk, er tilrettelæggelsen af arbejdet dér, hvor de praktiske valg træffes. Nogle mekanismer der går igen:

Hvem kontrollerer hvad, og på hvilket grundlag. Falder en opgave i kategorien "delvist", er registreringen af godkendelsen eller afvisningen og den underliggende begrundelse tilknytningspunktet for efterfølgende at kunne rekonstruere, hvad der skete.
Hvilke opgaver overtages fuldt ud af AI, og på hvilke betingelser. Ved opgaver i den første kategori er der ingen menneskelig kontrol i det enkelte tilfælde; spørgsmålet bliver da, hvordan organisationen på forhånd har fastslået, at dette er forsvarligt, og om det stemmer overens med, hvad leverandør og organisation har aftalt herom.
Hvordan tilsyn og overvågning er tilrettelagt på proces- og teamniveau. Det berører opgaver der selv også delvist kan automatiseres, såsom om AI kan overtage budgetovervågning og afvigelsesregistrering eller AI kan overvåge fremdriften af mål og projekter. Også her gælder: systemet registrerer, et menneske vurderer og beslutter, hvad der skal ske med det.

Denne opdeling giver ikke juridisk rådgivning, men wel et faktuelt billede af, hvor kontrolpunkterne ligger i processen. Det billede er nyttigt i samtalen med en jurist eller rådgiver om, hvordan ansvaret er fordelt i en konkret situation.

Hvor dette berører drøftelser internt i organisationen

Måden hvorpå opgaver fordeles mellem AI og mennesker, og hvordan tilsyn tilrettelægges, er ikke kun et juridisk spørgsmål, men også et spørgsmål om selve organiseringen af arbejdet. Ændringer i arbejdsprocesser og anvendelsen af systemer der berører medarbejdernes arbejde, kan være omfattet af medbestemmelse; hvornår det er tilfældet, og hvilke skridt der hører til, er beskrevet på siden om hvornår samarbejdsudvalget skal involveres. Også her gælder: dette er et separat forløb ved siden af spørgsmålet om, hvorvidt AI indholdsmæssigt kan overtage opgaven.

En tilsvarende mekanisme gør sig gældende ved møder, som AI understøtter i stedet for at erstatte. Ved spørgsmålet om AI kan lede det ugentlige teammøde handler det ikke kun om, hvorvidt et system kan udarbejde en dagsorden og føre referat, men også om hvem der forbliver ansvarlig for beslutninger der træffes på det møde. Udførelsen kan understøttes; ansvaret for resultatet flytter dermed ikke automatisk med.

Hvad De kan gøre nu

Denne side beskriver mekanismen, ikke et færdigt svar på Deres situation. Ansvar ved en fejl fra AI afhænger af typen af system, sektoren, de indgåede aftaler med en leverandør, og måden hvorpå tilsyn er tilrettelagt — og den vurdering ligger hos en jurist eller rådgiver, ikke hos et værktøj der inddeler opgaver.