De Europese AI-verordening (AI Act) deelt AI-systemen in naar risico. Een deel van de toepassingen die met personeel te maken hebben, valt in de categorie hoog risico. Dat is geen kwalificatie van hoe goed of slecht een systeem werkt, maar een classificatie op basis van wat het systeem beslist of adviseert en over wie. Systemen die gaan over aanwerving, promotie, beoordeling of ontslag van mensen raken een grondrecht — het recht op eerlijke behandeling in de arbeidsrelatie — en krijgen daarom een zwaarder regime: extra documentatie, menselijk toezicht, en in veel gevallen een verplichting om betrokkenen te informeren.
Deze pagina beschrijft het mechanisme zoals dat in de verordening is opgezet. De volledige, actuele tekst met de precieze bijlagen en definities staat op de website van de Europese Unie en bij de rijksoverheid; daar leest u de formulering die juridisch telt.
De AI-verordening noemt als voorbeelden van hoog-risico-toepassingen in de arbeidscontext onder meer systemen die:
De gemeenschappelijke noemer is dat het systeem een uitkomst genereert die direct doorwerkt in de positie van een individuele werknemer of sollicitant. Een planningstool die roosters optimaliseert voor de hele afdeling zit daar meestal niet in; een tool die per medewerker een score genereert die meeweegt bij een beoordelingsgesprek, zit er wel in. Waar precies de grens loopt binnen uw eigen processen, is een vraag voor een jurist of compliance-adviseur, niet iets dat deze pagina voor u vaststelt.
Dit is het onderdeel waar veel organisaties op vastlopen, en het is ook precies de vraag die de drie categorieën van deze tool proberen te ordenen. Een taak die AI volledig kan overnemen, is doorgaans een taak zonder blijvend oordeel over een persoon: tekst samenvatten, een rooster doorrekenen, een planning optimaliseren. Zodra het systeem output produceert die als input dient voor een besluit over een individu — aannemen, niet aannemen, promoveren, een contract niet verlengen — verschuift de taak naar de tweede of derde categorie: menselijk toezicht dat goedkeurt of afkeurt met reden, of volledig mensenwerk.
Het praktische kenmerk van een hulpmiddel is dat de mens de input controleert, de output kan negeren zonder gevolgen, en de uiteindelijke afweging zelf maakt op basis van meer dan de systeemuitkomst. Het praktische kenmerk van een beoordelingssysteem is dat de uitkomst een zwaar of doorslaggevend gewicht krijgt in een besluit over die specifieke persoon, ook als er formeel een mens “akkoord” zegt. Een score die in de praktijk altijd wordt overgenomen, functioneert als beoordelingssysteem, ongeacht hoe het intern wordt genoemd. Deze afbakening is vergelijkbaar met wat geldt bij de AVG bij het automatiseren van taken: ook daar telt niet het label van de tool, maar wat die tool feitelijk beslist en welke gegevens daarvoor worden gebruikt.
Als een systeem als hoog risico geldt, brengt dat verplichtingen met zich mee voor de partij die het inzet: een risicobeoordeling, documentatie over de werking, menselijk toezicht dat daadwerkelijk kan ingrijpen, en transparantie naar de betrokken werknemers of sollicitanten over het feit dat een AI-systeem een rol speelt. Deze pagina noemt geen percentages, termijnen of bedragen die aan deze verplichtingen hangen, omdat die per situatie en per fase van de regelgeving verschillen. Raadpleeg voor de exacte eisen en data de officiële teksten, of een adviseur die de actuele stand kent.
Belangrijk is ook dat deze classificatie los staat van personeelsbeslissingen. De AI-verordening zegt iets over het systeem, niet over wat een organisatie met de uitkomst van een reorganisatie of functiewijziging doet. Voor besluiten die de arbeidsrelatie raken, gelden eigen wettelijke vereisten — denk aan het ontslagrecht en de rol van medezeggenschap — die apart en voorafgaand aan de inzet van een systeem beoordeeld moeten worden. Deze pagina doet daar geen uitspraak over.
De invoering van een systeem dat gedrag of prestaties van werknemers monitort of beoordeelt, is vaak niet alleen een AI Act-vraag maar ook een medezeggenschapsvraag. Instemmingsrechten kunnen al gelden voordat een systeem als hoog risico is geclassificeerd. Wanneer de ondernemingsraad daarbij betrokken moet worden en op welk moment, staat beschreven op wanneer de ondernemingsraad erover gaat. Dat traject loopt naast, niet in plaats van, de verplichtingen uit de AI-verordening.
Deze pagina beschrijft het mechanisme: welke toepassingen genoemd worden, en waar het praktische onderscheid ligt tussen een hulpmiddel en een beoordelingssysteem. Of een specifiek systeem in uw organisatie onder de hoog-risico-categorie valt, en welke stappen daaruit volgen, is een vraag die per situatie moet worden beantwoord — vergelijkbaar met de nuances die ook gelden in wat kan AI overnemen in de zakelijke dienstverlening, waar dezelfde vraag naar toezicht en verantwoordelijkheid terugkomt.
Wilt u een eerste indruk van welk deel van de taken in uw functieprofiel vandaag door AI is over te nemen, zonder daarbij naar beoordelingssystemen over personen te kijken? De gratis quickscan van ftetoai bestaat uit twaalf vragen, werkt zonder account, en geeft een indicatie per profiel. De volledige werkscan, die dieper op individuele processen en risicoclassificatie ingaat, is nog in aanbouw.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Antwoorden komen uit de kennisbank van deze site. Geen advies op maat, en geen scan van uw bedrijf.