Den europeiska AI-förordningen (AI Act) delar in AI-system efter risk. En del av de tillämpningar som rör personal faller in i kategorin högrisk. Det är ingen kvalificering av hur bra eller dåligt ett system fungerar, utan en klassificering utifrån vad systemet beslutar eller ger råd om, och om vem. System som rör anställning, befordran, bedömning eller uppsägning av personer berör en grundläggande rättighet — rätten till rättvis behandling i arbetsrelationen — och får därför ett tyngre regelverk: extra dokumentation, mänsklig tillsyn, och i många fall en skyldighet att informera berörda personer.
Denna sida beskriver mekanismen som den är utformad i förordningen. Den fullständiga, aktuella texten med de exakta bilagorna och definitionerna finns på Europeiska unionens webbplats och hos rijksoverheid; där kan ni läsa den formulering som juridiskt gäller.
AI-förordningen nämner som exempel på högrisktillämpningar i arbetslivssammanhang bland annat system som:
Den gemensamma nämnaren är att systemet genererar ett utfall som direkt påverkar en enskild arbetstagares eller sökandes position. Ett planeringsverktyg som optimerar scheman för hela avdelningen ingår vanligtvis inte i detta; ett verktyg som genererar en poäng per medarbetare som vägs in i ett bedömningssamtal, gör det. Var exakt gränsen ligger inom era egna processer är en fråga för en jurist eller compliance-rådgivare, inte något denna sida fastställer för er.
Detta är den del där många organisationer fastnar, och det är också exakt den fråga som denna verktygs tre kategorier försöker ordna. En uppgift som AI helt kan ta över är i regel en uppgift utan bestående omdöme om en person: sammanfatta text, räkna igenom ett schema, optimera en planering. När systemet börjar producera output som fungerar som input för ett beslut om en individ — anställa, inte anställa, befordra, inte förlänga ett kontrakt — flyttas uppgiften till den andra eller tredje kategorin: mänsklig tillsyn som godkänner eller avslår med motivering, eller helt mänskligt arbete.
Det praktiska kännetecknet för ett hjälpmedel är att människan kontrollerar inputen, kan bortse från outputen utan konsekvenser, och själv gör den slutliga avvägningen baserat på mer än systemets resultat. Det praktiska kännetecknet för ett bedömningssystem är att utfallet får en tung eller avgörande vikt i ett beslut om just den personen, även om en människa formellt säger "godkänt". En poäng som i praktiken alltid följs, fungerar som ett bedömningssystem, oavsett vad det internt kallas. Denna avgränsning liknar det som gäller vid GDPR vid automatisering av uppgifter: även där räknas inte verktygets etikett, utan vad verktyget faktiskt beslutar och vilka uppgifter som används för det.
Om ett system räknas som högrisk, medför det skyldigheter för den part som använder det: en riskbedömning, dokumentation om funktionen, mänsklig tillsyn som verkligen kan ingripa, och transparens gentemot berörda arbetstagare eller sökande om att ett AI-system spelar en roll. Denna sida nämner inga procentsatser, tidsfrister eller belopp som är knutna till dessa skyldigheter, eftersom dessa varierar per situation och per fas av regelverket. Rådfråga de officiella texterna, eller en rådgivare som känner till det aktuella läget, för de exakta kraven och datumen.
Det är också viktigt att denna klassificering är fristående från personalbeslut. AI-förordningen säger något om systemet, inte om vad en organisation gör med resultatet av en omorganisation eller funktionsändring. För beslut som berör arbetsrelationen gäller egna lagstadgade krav — tänk på uppsägningsrätten och medbestämmandets roll — som måste bedömas separat och innan ett system tas i bruk. Denna sida uttalar sig inte om detta.
Införandet av ett system som övervakar eller bedömer arbetstagares beteende eller prestationer är ofta inte bara en AI Act-fråga utan även en medbestämmandefråga. Rättigheter till samtycke kan redan gälla innan ett system klassificerats som högrisk. När företagsnämnden ska involveras i detta och vid vilken tidpunkt beskrivs på när företagsnämnden är involverad. Den processen löper parallellt med, inte i stället för, skyldigheterna enligt AI-förordningen.
Denna sida beskriver mekanismen: vilka tillämpningar som nämns, och var den praktiska gränsen ligger mellan ett hjälpmedel och ett bedömningssystem. Om ett specifikt system i er organisation faller under högriskkategorin, och vilka steg som följer av det, är en fråga som måste besvaras från fall till fall — jämförbart med de nyanser som också gäller i vad kan AI ta över inom företagstjänster, där samma fråga om tillsyn och ansvar återkommer.
Vill ni få en första bild av vilken del av uppgifterna i er befattningsprofil som idag kan tas över av AI, utan att titta på bedömningssystem om personer? Den kostnadsfria snabbanalysen från ftetoai består av tolv frågor, fungerar utan konto, och ger en indikation per profil. Den fullständiga arbetsanalysen, som går djupare in på individuella processer och riskklassificering, är fortfarande under uppbyggnad.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.