Európske nariadenie o AI (AI Act) delí AI systémy podľa rizika. Časť aplikácií, ktoré sa týkajú personálu, spadá do kategórie vysoké riziko. To nie je hodnotenie toho, ako dobre alebo zle systém funguje, ale klasifikácia na základe toho, o čom systém rozhoduje alebo čo odporúča a o kom. Systémy, ktoré sa týkajú náboru, povýšenia, hodnotenia alebo prepustenia ľudí, zasahujú do základného práva — práva na spravodlivé zaobchádzanie v pracovnom vzťahu — a preto podliehajú prísnejšiemu režimu: dodatočnej dokumentácii, ľudskému dohľadu a v mnohých prípadoch povinnosti informovať dotknuté osoby.
Táto stránka popisuje mechanizmus, ako je nastavený v nariadení. Úplný, aktuálny text s presnými prílohami a definíciami sa nachádza na webovej stránke Európskej únie a u holandskej vlády (rijksoverheid); tam si prečítate znenie, ktoré je právne záväzné.
Nariadenie o AI uvádza ako príklady vysokorizikových aplikácií v pracovnom kontexte okrem iného systémy, ktoré:
Spoločným menovateľom je, že systém generuje výsledok, ktorý má priamy dopad na postavenie konkrétneho zamestnanca alebo uchádzača. Plánovací nástroj, ktorý optimalizuje rozvrhy pre celé oddelenie, do toho zvyčajne nespadá; nástroj, ktorý pre jednotlivého zamestnanca generuje skóre, ktoré sa zohľadňuje pri hodnotiacom pohovore, do toho spadá. Presne kde v rámci vašich vlastných procesov leží táto hranica, je otázka pre právnika alebo compliance poradcu, nie niečo, čo by táto stránka pre vás stanovila.
Toto je časť, na ktorej mnohé organizácie zaseknú, a je to zároveň presne tá otázka, ktorú sa snažia usporiadať tri kategórie tohto nástroja. Úloha, ktorú AI môže úplne prevziať, je zvyčajne úloha bez trvalého úsudku o osobe: zhrnutie textu, prepočet rozvrhu, optimalizácia plánu. Hneď ako systém produkuje výstup, ktorý slúži ako vstup pre rozhodnutie o jednotlivcovi — prijať, neprijať, povýšiť, neprodĺžiť zmluvu — úloha sa posúva do druhej alebo tretej kategórie: ľudský dohľad, ktorý schvaľuje alebo zamieta s odôvodnením, alebo úplne ľudská práca.
Praktickým znakom pomôcky je, že človek kontroluje vstup, môže ignorovať výstup bez následkov a konečné rozhodnutie robí sám na základe viac než len výsledku systému. Praktickým znakom hodnotiaceho systému je, že výsledok získava veľkú alebo rozhodujúcu váhu v rozhodnutí o danej konkrétnej osobe, aj keď formálne človek povie „súhlasím“. Skóre, ktoré sa v praxi vždy prevezme, funguje ako hodnotiaci systém, bez ohľadu na to, ako sa interne nazýva. Toto vymedzenie je podobné tomu, čo platí pri GDPR pri automatizácii úloh: aj tam nezáleží na označení nástroja, ale na tom, čo daný nástroj skutočne rozhoduje a aké údaje sa na to používajú.
Ak systém platí ako vysokorizikový, prináša to povinnosti pre stranu, ktorá ho nasadzuje: posúdenie rizika, dokumentáciu o fungovaní, ľudský dohľad, ktorý môže skutočne zasiahnuť, a transparentnosť voči dotknutým zamestnancom alebo uchádzačom o tom, že AI systém hrá pri tom rolu. Táto stránka neuvádza žiadne percentá, lehoty ani sumy spojené s týmito povinnosťami, pretože sa líšia podľa situácie a podľa fázy regulácie. Pre presné požiadavky a dátumy si preštudujte oficiálne texty alebo sa obráťte na poradcu, ktorý pozná aktuálny stav.
Dôležité je aj to, že táto klasifikácia je oddelená od personálnych rozhodnutí. Nariadenie o AI hovorí o systéme, nie o tom, čo organizácia s výsledkom reorganizácie alebo zmeny funkcie urobí. Pre rozhodnutia, ktoré sa dotýkajú pracovného vzťahu, platia samostatné právne požiadavky — myslite napríklad na pracovné právo v oblasti prepúšťania a úlohu zamestnaneckej participácie — ktoré sa musia posúdiť samostatne a ešte pred nasadením systému. Táto stránka sa k tomu nevyjadruje.
Zavedenie systému, ktorý monitoruje alebo hodnotí správanie či výkon zamestnancov, nie je často len otázkou AI Act, ale aj otázkou zamestnaneckej participácie. Práva na súhlas môžu platiť už predtým, než je systém klasifikovaný ako vysokorizikový. Kedy a v akom momente musí byť do toho zapojená podniková rada, je popísané na stránke kedy o tom rozhoduje podniková rada. Tento proces prebieha vedľa, nie namiesto, povinností vyplývajúcich z nariadenia o AI.
Táto stránka popisuje mechanizmus: ktoré aplikácie sa uvádzajú a kde leží praktický rozdiel medzi pomôckou a hodnotiacim systémom. Či konkrétny systém vo vašej organizácii spadá do kategórie vysokého rizika a aké kroky z toho vyplývajú, je otázka, ktorá sa musí zodpovedať pre každú situáciu osobitne — podobne ako nuansy, ktoré platia aj v čo môže AI prevziať v obchodných službách, kde sa vracia rovnaká otázka dohľadu a zodpovednosti.
Chcete získať prvý dojem o tom, akú časť úloh vo vašom pracovnom profile môže dnes prevziať AI, bez toho, aby sa pritom pozeralo na hodnotiace systémy o osobách? Bezplatný quickscan od ftetoai obsahuje dvanásť otázok, funguje bez konta a poskytuje indikáciu pre daný profil. Kompletný workscan, ktorý sa hlbšie zaoberá jednotlivými procesmi a klasifikáciou rizika, sa ešte pripravuje.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.