Европейският регламент за изкуствения интелект (AI Act) разделя системите с ИИ по риск. Част от приложенията, свързани с персонала, попада в категорията с висок риск. Това не е квалификация за това колко добре или зле работи дадена система, а класификация въз основа на това какво системата решава или препоръчва и за кого. Системите, свързани с наемане на работа, повишение, оценяване или уволнение на хора, засягат основно право — правото на справедливо отношение в трудовото правоотношение — и затова получават по-строг режим: допълнителна документация, човешки надзор и в много случаи задължение да се информират засегнатите лица.
Тази страница описва механизма, така както е установен в регламента. Пълният, актуален текст с точните приложения и определения се намира на уебсайта на Европейския съюз и при държавната администрация; там ще намерите формулировката, която е юридически валидна.
Регламентът за ИИ посочва като примери за приложения с висок риск в контекста на трудовата заетост, наред с други, системи, които:
Общият знаменател е, че системата генерира резултат, който пряко влияе на позицията на отделен служител или кандидат. Инструмент за планиране, който оптимизира графици за целия отдел, обикновено не попада в тази категория; инструмент, който генерира оценка за всеки служител, която се взема предвид при разговор за оценка, попада в нея. Къде точно минава границата във вашите собствени процеси, е въпрос за юрист или консултант по съответствие, а не нещо, което тази страница определя вместо вас.
Това е частта, върху която много организации се затрудняват, и е точно въпросът, който трите категории на този инструмент се опитват да подредят. Задача, която ИИ може напълно да поеме, обикновено е задача без трайна преценка за дадено лице: обобщаване на текст, изчисляване на график, оптимизиране на разписание. Веднага щом системата произвежда резултат, който служи като входна информация за решение относно отделен човек — наемане, отказ от наемане, повишение, непродължаване на договор — задачата се измества към втората или третата категория: човешки надзор, който одобрява или отхвърля с обосновка, или изцяло човешка работа.
Практическата характеристика на помощно средство е, че човекът проверява входните данни, може да игнорира резултата без последствия и сам прави окончателната преценка въз основа на повече от резултата на системата. Практическата характеристика на система за оценяване е, че резултатът получава голяма или решаваща тежест в решение относно конкретния човек, дори ако формално човек казва „одобрено“. Оценка, която на практика винаги се приема, функционира като система за оценяване, независимо как е наречена вътрешно. Това разграничение е сходно с това, което важи при ОРЗД при автоматизиране на задачи: и там не се брои етикетът на инструмента, а какво той фактически решава и какви данни се използват за това.
Ако дадена система се счита за високорискова, това носи задължения за страната, която я използва: оценка на риска, документация за начина на функциониране, човешки надзор, който действително може да се намеси, и прозрачност спрямо засегнатите служители или кандидати относно факта, че система с ИИ играе роля. Тази страница не посочва проценти, срокове или суми, свързани с тези задължения, тъй като те варират според ситуацията и фазата на регулацията. За точните изисквания и дати се консултирайте с официалните текстове или с консултант, който познава актуалното положение.
Важно е също, че тази класификация е отделна от решенията за персонала. Регламентът за ИИ казва нещо за системата, а не за това какво организацията прави с резултата от реорганизация или промяна на функция. За решения, засягащи трудовото правоотношение, важат собствени законови изисквания — например правото на уволнение и ролята на представителството на служителите — които трябва да се преценят отделно и предварително спрямо въвеждането на дадена система. Тази страница не се произнася по този въпрос.
Въвеждането на система, която наблюдава или оценява поведението или изпълнението на служителите, често не е само въпрос по AI Act, но и въпрос на представителство на служителите. Права на съгласуване могат да важат още преди дадена система да бъде класифицирана като високорискова. Кога и в кой момент трябва да бъде включен производственият съвет, е описано на кога производственият съвет има думата. Този процес протича успоредно с, а не вместо, задълженията от Регламента за ИИ.
Тази страница описва механизма: кои приложения се споменават и къде се намира практическото разграничение между помощно средство и система за оценяване. Дали конкретна система във вашата организация попада в категорията с висок риск и какви стъпки следват от това, е въпрос, на който трябва да се отговори за всеки конкретен случай — подобно на нюансите, които важат и в какво може ИИ да поеме в бизнес услугите, където се връща същият въпрос за надзор и отговорност.
Желаете ли първоначална представа коя част от задачите във вашия функционален профил може днес да бъде поета от ИИ, без да разглеждате системи за оценяване на хора? Безплатният бърз тест на ftetoai се състои от дванадесет въпроса, работи без регистрация и дава индикация за всеки профил. Пълният работен анализ, който навлиза по-дълбоко в индивидуалните процеси и класификацията на риска, все още се разработва.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.