ftetoai Op de wachtlijst

Kennisbank

Menselijk toezicht op AI in de praktijk

Waarom categorie 2 het lastigste deel is

Bij [ftetoai.com](https://ftetoai.com) verdelen wij taken in drie categorieën: AI kan de taak overnemen, AI kan het deels met menselijk toezicht, of het blijft mensenwerk. Die middelste categorie is in de praktijk de belangrijkste, omdat ze niet vanzelf werkt. "Toezicht" is geen vast begrip met één invulling; het krijgt pas betekenis als u vastlegt wie waarop let, hoe vaak, en wat er gebeurt bij een afkeuring. Deze pagina beschrijft dat mechanisme. Zij vervangt geen juridisch of arbeidsrechtelijk advies en geeft geen onderbouwing voor beslissingen over personeel — daarvoor gelden eigen wettelijke vereisten en een eigen adviseur.

Wie keurt: welke rol, welk niveau

Menselijk toezicht veronderstelt een persoon die bevoegd en bekwaam is om de uitkomst van een taak te beoordelen. Dat is niet automatisch de medewerker die de taak vroeger deed. Bij een taak als het beantwoorden van personeelsvragen ligt de beoordeling vaak bij iemand met vakinhoudelijke kennis, terwijl bij een taak als planning de beoordeling eerder bij een leidinggevende ligt die de operationele gevolgen kan overzien. De vraag "wie keurt" is dus per taak anders en hangt af van wat er fout kan gaan als de AI-uitkomst ongecontroleerd wordt gebruikt.

Waarop wordt gekeurd

Toezicht zonder duidelijk toetsingskader is moeilijk uitvoerbaar. In de praktijk gaat het om een beperkt aantal vragen: is de uitkomst feitelijk juist, is ze volledig, is ze in lijn met geldende regels of afspraken, en is ze passend voor de specifieke situatie van de persoon of het geval. Bij uren registreren betekent dat bijvoorbeeld een controle op afwijkende patronen; bij verlofsaldo bijhouden gaat het vaker om controle op uitzonderingen zoals bijzonder verlof of overgangsregelingen die niet standaard in een systeem zijn verwerkt. Het toetsingskader hoort schriftelijk vastgelegd te zijn, zodat de keuring reproduceerbaar is en niet afhankelijk van het geheugen van één persoon.

Hoe vaak: steekproef of volledige controle

De frequentie van toezicht is een aparte keuze, los van de vraag wie keurt en waarop. Twee uitersten: elke uitkomst wordt gecontroleerd voordat ze wordt gebruikt, of een steekproef wordt achteraf beoordeeld en de rest loopt door. Tussenvormen zijn gangbaar, bijvoorbeeld volledige controle bij een nieuwe toepassing die afbouwt naar een steekproef zodra de uitkomsten stabiel blijken. Welke frequentie passend is, hangt af van de gevolgen van een fout: hoe groter de impact op een individu of de organisatie, hoe minder ruimte voor een lage controlefrequentie. Bij taken die onder hoog-risico-AI op de werkvloer vallen, ligt een lagere controlefrequentie doorgaans niet voor de hand, en gelden er bovendien eigen verplichtingen rond toezicht die apart moeten worden nagegaan.

Goedkeuren en afkeuren met reden

Een kern van werkbaar toezicht is dat een afkeuring een reden krijgt. Zonder reden is een afkeuring een losse waarneming; met reden wordt ze een signaal waarmee de AI-toepassing, de instructie, of het proces kan worden bijgesteld. Praktisch betekent dit meestal een vast, kort format: wat was de uitkomst, wat klopte niet, en welke aanpassing volgt daaruit. Dit hoeft geen zwaar systeem te zijn — voor kleinere toepassingen volstaat vaak een logboek — maar zonder enige vastlegging is niet aan te tonen dat er daadwerkelijk toezicht is gehouden, en dat aantoonbaarheid kan relevant worden zodra een taak raakt aan verwerking van persoonsgegevens of aan besluiten die gevolgen hebben voor individuen. Zie voor de gegevensbeschermingskant de AVG bij het automatiseren van taken.

Wanneer u het toezicht mag afbouwen

Er bestaat geen vast percentage of vaste termijn waarna toezicht mag worden verminderd; dat hangt af van de aard van de taak, de foutgevoeligheid van de uitkomsten in de praktijk, en eventuele wettelijke vereisten die voor die specifieke taak gelden. Wat wel als algemeen mechanisme geldt: afbouw is verdedigbaar op het moment dat er voldoende geregistreerde ervaring is die laat zien dat de foutmarge binnen een geaccepteerde grens blijft, en dat die grens vooraf is vastgesteld en niet achteraf wordt gekozen om de afbouw te rechtvaardigen. Bij taken met gevolgen voor individuele medewerkers — denk aan verlof, uren of loon — is een geleidelijke afbouw met behoud van steekproefcontrole gebruikelijker dan een abrupte overgang naar categorie 1. Of en wanneer volledige afbouw verantwoord is, is een beoordeling die per organisatie en per taak verschilt en die niet los te maken is van eventuele sectorale of wettelijke normen.

Toezicht is geen vervanging van personeelsbeleid

Deze pagina beschrijft hoe toezicht op AI-uitkomsten werkt als controlemechanisme. Zij zegt niets over of, hoeveel, of welk personeel als gevolg van AI-inzet minder werk heeft. Die vraag valt buiten het mechanisme van toezicht en buiten deze pagina; besluiten daarover kennen hun eigen wettelijke vereisten en horen bij de werkgever en diens adviseur, niet bij een tool die taken indeelt.

Wat u nu kunt doen

Om te bepalen of een taak in uw organisatie in categorie 1, 2 of 3 valt, en dus of en hoeveel toezicht nodig is, helpt het om eerst een concreet beeld te hebben van de taken die in aanmerking komen. De gratis quickscan van ftetoai bestaat uit twaalf vragen, vraagt geen account, en geeft een indicatie welk deel van de uren in uw profiel vandaag door AI is over te nemen. De volledige werkscan, die dieper op individuele taken en toezichtvormen ingaat, is nog in aanbouw — die bieden wij hier dus nog niet aan, wel de quickscan als eerste, vrijblijvende stap.

KIPPde assistent van de werkscan

Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.

Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.