Een AI-systeem kan een taak uitvoeren, maar het systeem zelf is geen rechtspersoon en kan niet aansprakelijk worden gesteld. De verantwoordelijkheid voor een uitkomst ligt bij een natuurlijke of rechtspersoon: de organisatie die het systeem inzet, de leverancier van het systeem, of een combinatie van beide, afhankelijk van wat er precies misging en welke afspraken daarover zijn gemaakt. Dit is een van de redenen waarom ftetoai drie categorieën onderscheidt in plaats van een simpel ja of nee: bij veel taken is de vraag niet alleen of AI het werk kan doen, maar wie welke uitkomst controleert voordat die naar buiten gaat of gevolgen heeft.
De categorie "deels, met menselijk toezicht" bestaat precies om die reden. Bij die taken voert AI het werk uit, maar een mens keurt de uitkomst goed of af, met een reden. Dat toezicht is niet alleen een kwaliteitsmaatregel; het is ook het punt waar de verantwoordelijkheid voor de uiteindelijke uitkomst wordt vastgelegd. Zonder dat toezicht is vaak onduidelijk wie welke controle had, en dat is precies de vraag die relevant wordt zodra iets fout gaat.
Aansprakelijkheid bij fouten van AI-systemen wordt beoordeeld aan de hand van bestaand recht: algemeen verbintenissenrecht, productaansprakelijkheid, en specifieke regelgeving die op Europees niveau wordt ontwikkeld voor AI-systemen met verhoogd risico. Welke regels precies van toepassing zijn, hangt af van het type systeem, de sector, en de manier waarop het systeem is ingezet. Dit is geen terrein waarop een tool als ftetoai een uitspraak kan doen die voor elke situatie klopt; de actuele wettekst en de uitleg daarvan door een jurist zijn het aangewezen vertrekpunt. Ftetoai beschrijft welk deel van een taak een systeem kan overnemen en welk deel toezicht vraagt, niet wie in een concreet geval juridisch aansprakelijk is.
Een apart punt is gegevensverwerking: zodra een taak persoonsgegevens raakt, ontstaat een tweede laag van verplichtingen. Die bespreken we uitgebreider in de pagina over de AVG bij het automatiseren van taken; daar staat onder meer beschreven waarom verwerking door een AI-systeem een eigen beoordeling vraagt, los van de vraag of het systeem de taak inhoudelijk goed uitvoert.
Omdat de uitkomst mensenwerk blijft in juridische zin, is de inrichting van het werk waar de praktische keuzes worden gemaakt. Een paar mechanismen die daarbij terugkomen:
Deze indeling levert geen juridisch advies op, maar wel een feitelijk beeld van waar in het proces de controlepunten liggen. Dat beeld is bruikbaar bij het gesprek met een jurist of adviseur over hoe aansprakelijkheid in een specifieke situatie is verdeeld.
De manier waarop taken worden verdeeld tussen AI en mens, en hoe toezicht wordt ingericht, is niet alleen een juridische vraag maar ook een vraag over de organisatie van het werk zelf. Wijzigingen in werkprocessen en de inzet van systemen die het werk van medewerkers raken, kunnen onder de medezeggenschap vallen; wanneer dat het geval is en welke stappen daarbij horen, staat beschreven in de pagina over wanneer de ondernemingsraad erover gaat. Ook hier geldt: dit is een apart traject naast de vraag of AI de taak inhoudelijk kan overnemen.
Een vergelijkbaar mechanisme speelt bij overleg dat AI ondersteunt in plaats van vervangt. Bij de vraag of AI het wekelijkse teamoverleg kan leiden gaat het niet alleen om de vraag of een systeem een agenda kan opstellen en notuleren, maar ook om wie verantwoordelijk blijft voor besluiten die in dat overleg worden genomen. De uitvoering kan worden ondersteund; de verantwoordelijkheid voor de uitkomst verschuift daarmee niet automatisch mee.
Deze pagina beschrijft het mechanisme, geen pasklaar antwoord voor uw situatie. Aansprakelijkheid bij een fout van AI hangt af van het type systeem, de sector, de gemaakte afspraken met een leverancier, en de manier waarop toezicht is ingericht — en die beoordeling ligt bij een jurist of adviseur, niet bij een tool die taken indeelt.
Wat u wel zelf in kaart kunt brengen, is welk deel van het werk in uw organisatie op dit moment AI-gestuurd is, welk deel onder toezicht valt en welk deel mensenwerk is. De gratis quickscan van ftetoai bestaat uit twaalf vragen, vraagt geen account, en geeft een indicatie van welk deel van de uren in uw profiel vandaag door AI over te nemen is. De volledige werkscan, die dieper op individuele taken en toezichtstructuren ingaat, is nog in aanbouw.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.