Den europæiske AI-forordning (AI Act) deler AI-systemer op efter risiko. En del af de anvendelser, der har at gøre med personale, falder i kategorien højrisiko. Det er ikke en kvalificering af hvor godt eller dårligt et system fungerer, men en klassificering baseret på hvad systemet beslutter eller rådgiver om, og om hvem. Systemer der handler om ansættelse, forfremmelse, bedømmelse eller afskedigelse af mennesker berører en grundrettighed — retten til fair behandling i arbejdsrelationen — og får derfor et tungere regime: ekstra dokumentation, menneskeligt tilsyn, og i mange tilfælde en forpligtelse til at informere de involverede.
Denne side beskriver mekanismen, som den er opstillet i forordningen. Den fuldstændige, aktuelle tekst med de præcise bilag og definitioner findes på Den Europæiske Unions hjemmeside og hos de nationale myndigheder; der finder De den formulering, der juridisk gælder.
AI-forordningen nævner som eksempler på højrisiko-anvendelser i arbejdskonteksten blandt andet systemer der:
Den fælles nævner er, at systemet genererer et resultat, der direkte påvirker en individuel medarbejders eller ansøgers position. Et planlægningsværktøj, der optimerer vagtplaner for hele afdelingen, hører sædvanligvis ikke til her; et værktøj, der genererer en score per medarbejder, som indgår i en bedømmelsessamtale, hører til her. Hvor grænsen præcist ligger inden for Deres egne processer, er et spørgsmål for en jurist eller compliance-rådgiver, ikke noget denne side fastlægger for Dem.
Dette er det element, mange organisationer sidder fast på, og det er også netop det spørgsmål, som de tre kategorier i dette værktøj forsøger at ordne. En opgave, som AI fuldstændigt kan overtage, er som regel en opgave uden varigt skøn over en person: opsummere tekst, beregne en vagtplan, optimere en planlægning. Så snart systemet producerer et resultat, der fungerer som input til en beslutning om en individuel person — ansætte, ikke ansætte, forfremme, ikke forlænge en kontrakt — flytter opgaven til den anden eller tredje kategori: menneskeligt tilsyn der godkender eller afviser med begrundelse, eller fuldstændigt menneskeligt arbejde.
Det praktiske kendetegn ved et hjælpemiddel er, at mennesket kontrollerer input, kan ignorere output uden konsekvenser, og selv laver den endelige afvejning baseret på mere end systemresultatet. Det praktiske kendetegn ved et bedømmelsessystem er, at resultatet får en tung eller afgørende vægt i en beslutning om denne specifikke person, også selv om et menneske formelt siger "godkendt". En score, der i praksis altid overtages, fungerer som et bedømmelsessystem, uanset hvordan den internt betegnes. Denne afgrænsning kan sammenlignes med det, der gælder ved GDPR ved automatisering af opgaver: heller ikke der er det etiketten på værktøjet, der tæller, men hvad værktøjet faktisk beslutter og hvilke data der bruges til det.
Hvis et system anses for at være højrisiko, medfører det forpligtelser for den part, der anvender det: en risikovurdering, dokumentation om funktionen, menneskeligt tilsyn der faktisk kan gribe ind, og gennemsigtighed mod de involverede medarbejdere eller ansøgere om, at et AI-system spiller en rolle. Denne side nævner ikke procentsatser, tidsfrister eller beløb, der er knyttet til disse forpligtelser, fordi de varierer efter situation og fase af reguleringen. Konsulter for de nøjagtige krav og datoer de officielle tekster, eller en rådgiver der kender den aktuelle status.
Det er også vigtigt, at denne klassificering står separat fra personalebeslutninger. AI-forordningen siger noget om systemet, ikke om hvad en organisation gør med resultatet af en omstrukturering eller funktionsændring. For beslutninger, der berører arbejdsrelationen, gælder egne lovmæssige krav — tænk på afskedigelsesretten og medbestemmelsens rolle — som skal vurderes separat og forud for indførelsen af et system. Denne side tager ikke stilling til det.
Indførelsen af et system, der overvåger eller bedømmer medarbejderes adfærd eller præstationer, er ofte ikke kun et AI Act-spørgsmål, men også et medbestemmelsesspørgsmål. Samtykkerettigheder kan allerede gælde, før et system er klassificeret som højrisiko. Hvornår samarbejdsudvalget skal involveres og på hvilket tidspunkt, er beskrevet på hvornår samarbejdsudvalget skal involveres. Det forløb kører sideløbende med, ikke i stedet for, forpligtelserne fra AI-forordningen.
Denne side beskriver mekanismen: hvilke anvendelser der nævnes, og hvor den praktiske skelnen ligger mellem et hjælpemiddel og et bedømmelsessystem. Om et specifikt system i Deres organisation falder under højrisiko-kategorien, og hvilke skridt der følger deraf, er et spørgsmål der skal besvares fra sag til sag — sammenligneligt med de nuancer, der også gælder i hvad kan AI overtage inden for forretningsservice, hvor det samme spørgsmål om tilsyn og ansvar kommer tilbage.
Vil De have et første indtryk af, hvilken del af opgaverne i Deres funktionsprofil der i dag kan overtages af AI, uden at se på bedømmelsessystemer om personer? Den gratis quickscan fra ftetoai består af tolv spørgsmål, virker uden konto, og giver en indikation per profil. Den fuldstændige workscan, som går dybere ind i individuelle processer og risikoklassificering, er endnu under opbygning.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.