Evropské nařízení o AI (AI Act) rozděluje systémy AI podle rizika. Část aplikací, které se týkají personálu, spadá do kategorie vysokého rizika. Nejde o kvalifikaci toho, jak dobře či špatně systém funguje, ale o klasifikaci na základě toho, o čem systém rozhoduje nebo co doporučuje a o koho se jedná. Systémy, které se týkají náboru, povýšení, hodnocení nebo propuštění lidí, se dotýkají základního práva — práva na spravedlivé zacházení v pracovním vztahu — a proto na ně platí přísnější režim: doplňující dokumentace, lidský dohled a v mnoha případech povinnost informovat dotčené osoby.
Tato stránka popisuje mechanismus tak, jak je nastaven v nařízení. Úplné, aktuální znění s přesnými přílohami a definicemi najdete na webových stránkách Evropské unie a u nizozemské vlády (rijksoverheid); tam si přečtete formulaci, která je právně závazná.
Nařízení o AI uvádí jako příklady aplikací s vysokým rizikem v pracovním kontextu mimo jiné systémy, které:
Společným jmenovatelem je, že systém generuje výsledek, který se přímo promítá do postavení jednotlivého zaměstnance nebo uchazeče. Nástroj pro plánování, který optimalizuje rozvrhy pro celé oddělení, do toho obvykle nespadá; nástroj, který generuje skóre za jednotlivého zaměstnance, které se zohledňuje při hodnotícím pohovoru, do toho spadá. Kde přesně leží hranice ve vašich vlastních procesech, je otázka pro právníka nebo poradce v oblasti compliance, nikoli něco, co za vás stanovuje tato stránka.
Toto je bod, na kterém mnoho organizací naráží, a je to zároveň přesně otázka, kterou se snaží uspořádat tři kategorie tohoto nástroje. Úkol, který AI může zcela převzít, je obvykle úkol bez trvalého úsudku o osobě: shrnutí textu, výpočet rozvrhu, optimalizace plánu. Jakmile systém produkuje výstup, který slouží jako vstup pro rozhodnutí o jednotlivci — přijetí, nepřijetí, povýšení, neprodloužení smlouvy — přesouvá se úkol do druhé nebo třetí kategorie: lidský dohled, který schvaluje nebo zamítá s odůvodněním, nebo zcela lidská práce.
Praktickým znakem pomocného nástroje je, že člověk kontroluje vstup, může výstup ignorovat bez následků a konečné rozhodnutí učiní sám na základě více než jen výsledku systému. Praktickým znakem hodnotícího systému je, že výsledek získává velkou nebo rozhodující váhu v rozhodnutí o konkrétní osobě, a to i pokud formálně „souhlas“ dává člověk. Skóre, které je v praxi vždy přebíráno, funguje jako hodnotící systém, bez ohledu na to, jak je interně nazýváno. Toto vymezení je srovnatelné s tím, co platí u GDPR při automatizaci úkolů: i tam nerozhoduje označení nástroje, ale to, co daný nástroj fakticky rozhoduje a jaké údaje se pro to používají.
Pokud je systém klasifikován jako vysoce rizikový, přináší to povinnosti pro stranu, která jej nasazuje: posouzení rizik, dokumentaci o způsobu fungování, lidský dohled, který skutečně může zasáhnout, a transparentnost vůči dotčeným zaměstnancům nebo uchazečům ohledně skutečnosti, že roli hraje systém AI. Tato stránka neuvádí žádná procenta, lhůty ani částky spojené s těmito povinnostmi, protože se liší podle situace a podle fáze regulace. Ohledně přesných požadavků a dat se obraťte na úřední texty nebo na poradce, který znázorňuje aktuální stav.
Důležité je také, že tato klasifikace je nezávislá na personálních rozhodnutích. Nařízení o AI vypovídá o systému, nikoli o tom, co organizace udělá s výsledkem reorganizace či změny funkce. Pro rozhodnutí, která se dotýkají pracovního vztahu, platí vlastní zákonné požadavky — myslete na pracovní právo v oblasti propouštění a roli spolurozhodování (medezeggenschap) — které musí být posouzeny samostatně a předem, před nasazením systému. Tato stránka se k tomu nevyjadřuje.
Zavedení systému, který sleduje nebo hodnotí chování či výkon zaměstnanců, není často pouze otázkou AI Act, ale i otázkou spolurozhodování (medezeggenschap). Práva na souhlas mohou platit již dříve, než je systém klasifikován jako vysoce rizikový. Kdy musí být do toho zapojena podniková rada a v jakém okamžiku, je popsáno na stránce kdy o tom rozhoduje podniková rada. Tento proces probíhá souběžně s povinnostmi z nařízení o AI, nikoli namísto nich.
Tato stránka popisuje mechanismus: které aplikace jsou uváděny a kde leží praktický rozdíl mezi pomocným nástrojem a hodnotícím systémem. Zda konkrétní systém ve vaší organizaci spadá do kategorie vysokého rizika a jaké kroky z toho vyplývají, je otázka, kterou je nutné zodpovědět v každé situaci samostatně — obdobně jako nuance, které platí i v textu co může AI převzít v odborných obchodních službách, kde se stejná otázka dohledu a odpovědnosti opakuje.
Chcete získat první představu o tom, jakou část úkolů ve vašem profilu funkce lze dnes převést na AI, aniž byste se přitom zabývali hodnotícími systémy o osobách? Bezplatný quickscan od ftetoai se skládá ze dvanácti otázek, funguje bez účtu a poskytuje orientační odhad podle profilu. Kompletní pracovní scan, který se hlouběji zabývá jednotlivými procesy a klasifikací rizik, se stále připravuje.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.