Vem är ansvarig vid ett fel av AI

Resultatet förblir mänskligt arbete, även när AI utför uppgiften

Ett AI-system kan utföra en uppgift, men systemet i sig är ingen juridisk person och kan inte hållas ansvarigt. Ansvaret för ett resultat ligger hos en fysisk eller juridisk person: den organisation som använder systemet, leverantören av systemet, eller en kombination av båda, beroende på vad som exakt gick fel och vilka avtal som är gjorda om detta. Detta är en av anledningarna till att ftetoai skiljer mellan tre kategorier istället för ett enkelt ja eller nej: för många uppgifter är frågan inte bara om AI kan utföra arbetet, utan vem som kontrollerar vilket resultat innan det går ut eller får konsekvenser.

Kategorin "delvis, med mänsklig tillsyn" finns just av den anledningen. För dessa uppgifter utför AI arbetet, men en människa godkänner eller avvisar resultatet, med en motivering. Den tillsynen är inte bara en kvalitetsåtgärd; det är också den punkt där ansvaret för det slutliga resultatet fastställs. Utan den tillsynen är det ofta oklart vem som hade vilken kontroll, och det är exakt den fråga som blir relevant så snart något går fel.

Var reglerna för ansvar regleras

Ansvar vid fel i AI-system bedöms utifrån befintlig rätt: allmän avtalsrätt, produktansvar, och specifik reglering som utvecklas på EU-nivå för AI-system med förhöjd risk. Vilka regler som exakt gäller beror på typen av system, sektorn, och det sätt på vilket systemet har använts. Detta är inget område där ett verktyg som ftetoai kan göra ett uttalande som gäller för varje situation; den aktuella lagtexten och en jurists tolkning av den är den lämpliga utgångspunkten. Ftetoai beskriver vilken del av en uppgift ett system kan ta över och vilken del som kräver tillsyn, inte vem som i ett konkret fall är juridiskt ansvarig.

En separat punkt är databehandling: så snart en uppgift berör personuppgifter uppstår ett andra lager av skyldigheter. Det diskuterar vi mer utförligt på sidan om GDPR vid automatisering av uppgifter; där beskrivs bland annat varför behandling av ett AI-system kräver en egen bedömning, oberoende av frågan om systemet utför uppgiften innehållsmässigt korrekt.

Vad detta betyder för hur arbetet organiseras

Eftersom resultatet i juridisk mening förblir mänskligt arbete, är organisationen av arbetet där de praktiska valen görs. Några mekanismer som återkommer i det sammanhanget:

Vem kontrollerar vad, och på vilken grund. Om en uppgift faller inom kategorin "delvis", är dokumentationen av godkännandet eller avvisandet och den underliggande motiveringen utgångspunkten för att i efterhand kunna rekonstruera vad som hänt.
Vilka uppgifter tas helt över av AI, och under vilka villkor. För uppgifter i den första kategorin finns ingen mänsklig kontroll per fall; frågan blir då hur organisationen i förväg har fastställt att detta är ansvarsfullt, och om det stämmer med vad leverantör och organisation har avtalat om detta.
Hur tillsyn och övervakning är organiserad på process- och teamnivå. Det berör uppgifter som själva också delvis kan automatiseras, som om AI kan ta över budgetövervakning och signalering av avvikelser eller om AI kan övervaka framsteg för mål och projekt. Även där gäller: systemet signalerar, en människa bedömer och beslutar vad som ska göras med det.

Denna indelning ger inte juridisk rådgivning, men väl en saklig bild av var i processen kontrollpunkterna finns. Den bilden är användbar i samtalet med en jurist eller rådgivare om hur ansvaret är fördelat i en specifik situation.

Var detta berör samråd inom organisationen

Sättet på vilket uppgifter fördelas mellan AI och människa, och hur tillsyn organiseras, är inte bara en juridisk fråga utan också en fråga om organisationen av arbetet i sig. Förändringar i arbetsprocesser och användningen av system som berör medarbetarnas arbete kan omfattas av medbestämmande; när det är fallet och vilka steg som då hör till beskrivs på sidan om när det är företagsrådets sak. Även här gäller: detta är ett separat spår vid sidan av frågan om AI innehållsmässigt kan ta över uppgiften.

En liknande mekanism gäller för möten som AI stöder istället för ersätter. Vid frågan om AI kan leda det veckovisa teammötet handlar det inte bara om huruvida ett system kan upprätta en agenda och föra protokoll, utan även om vem som förblir ansvarig för beslut som fattas under det mötet. Genomförandet kan stödjas; ansvaret för resultatet flyttar inte automatiskt med det.

Vad ni kan göra nu

Denna sida beskriver mekanismen, inget färdigt svar för er situation. Ansvar vid ett fel av AI beror på typen av system, sektorn, de avtal som gjorts med en leverantör, och det sätt på vilket tillsyn är organiserad — och den bedömningen ligger hos en jurist eller rådgivare, inte hos ett verktyg som kategoriserar uppgifter.