O Regulamento Europeu de IA (AI Act) classifica os sistemas de IA por risco. Uma parte das aplicações relacionadas com pessoal enquadra-se na categoria de alto risco. Isso não é uma qualificação de quão bem ou mal um sistema funciona, mas uma classificação com base no que o sistema decide ou aconselha e sobre quem. Sistemas relacionados com contratação, promoção, avaliação ou despedimento de pessoas afetam um direito fundamental — o direito a um tratamento justo na relação laboral — e por isso recebem um regime mais rigoroso: documentação adicional, supervisão humana e, em muitos casos, uma obrigação de informar os envolvidos.
Esta página descreve o mecanismo tal como está estruturado no regulamento. O texto completo e atualizado, com os anexos e definições precisas, encontra-se no site da União Europeia e nas entidades governamentais competentes; é lá que consta a formulação juridicamente vinculativa.
O Regulamento de IA menciona como exemplos de aplicações de alto risco no contexto laboral, entre outros, sistemas que:
O denominador comum é que o sistema gera um resultado que afeta diretamente a posição de um trabalhador ou candidato individual. Uma ferramenta de planeamento que otimiza escalas para todo o departamento normalmente não se enquadra nisso; uma ferramenta que gera uma pontuação por colaborador, a qual é considerada numa conversa de avaliação, enquadra-se sim. Onde exatamente está a fronteira dentro dos seus próprios processos é uma questão para um jurista ou consultor de conformidade, não algo que esta página determina por si.
Este é o ponto onde muitas organizações encalham, e é precisamente a questão que as três categorias desta ferramenta tentam ordenar. Uma tarefa que a IA pode assumir totalmente é geralmente uma tarefa sem juízo duradouro sobre uma pessoa: resumir texto, calcular uma escala, otimizar um planeamento. Assim que o sistema produz um resultado que serve de input para uma decisão sobre um indivíduo — contratar, não contratar, promover, não renovar um contrato — a tarefa desloca-se para a segunda ou terceira categoria: supervisão humana que aprova ou reprova com justificação, ou trabalho totalmente humano.
A característica prática de uma ferramenta de apoio é que a pessoa controla o input, pode ignorar o output sem consequências, e faz a ponderação final com base em mais do que o resultado do sistema. A característica prática de um sistema de avaliação é que o resultado recebe um peso significativo ou decisivo numa decisão sobre essa pessoa específica, mesmo que formalmente uma pessoa dê o seu "aval". Uma pontuação que na prática é sempre seguida funciona como um sistema de avaliação, independentemente de como é internamente designada. Esta delimitação é semelhante ao que se aplica em o RGPD na automatização de tarefas: também aí não conta a etiqueta da ferramenta, mas sim o que essa ferramenta efetivamente decide e que dados são usados para isso.
Se um sistema for considerado de alto risco, isso implica obrigações para a parte que o utiliza: uma avaliação de risco, documentação sobre o funcionamento, supervisão humana que possa efetivamente intervir, e transparência para com os trabalhadores ou candidatos envolvidos sobre o facto de um sistema de IA desempenhar um papel. Esta página não menciona percentagens, prazos ou montantes associados a estas obrigações, porque estes variam consoante a situação e a fase da regulamentação. Consulte os textos oficiais, ou um consultor que conheça a situação atual, para os requisitos e datas exatos.
É também importante que esta classificação seja independente das decisões relativas ao pessoal. O Regulamento de IA diz algo sobre o sistema, não sobre o que uma organização faz com o resultado de uma reorganização ou alteração de função. Para decisões que afetam a relação laboral, aplicam-se requisitos legais próprios — pense no direito do trabalho e no papel da participação dos trabalhadores — que devem ser avaliados separadamente e antes da implementação de um sistema. Esta página não se pronuncia sobre isso.
A introdução de um sistema que monitoriza ou avalia o comportamento ou desempenho de trabalhadores é frequentemente não apenas uma questão do AI Act, mas também uma questão de participação dos trabalhadores. Os direitos de consentimento podem já ser aplicáveis antes de um sistema ser classificado como de alto risco. Quando o conselho de empresa deve ser envolvido e em que momento, está descrito em quando o conselho de empresa tem competência sobre o assunto. Esse processo decorre paralelamente, e não em substituição, das obrigações decorrentes do Regulamento de IA.
Esta página descreve o mecanismo: quais aplicações são mencionadas, e onde está a distinção prática entre uma ferramenta de apoio e um sistema de avaliação. Se um sistema específico na sua organização se enquadra na categoria de alto risco, e que passos daí decorrem, é uma questão que deve ser respondida caso a caso — de forma semelhante às nuances que também se aplicam em o que a IA pode assumir nos serviços empresariais, onde a mesma questão de supervisão e responsabilidade regressa.
Deseja obter uma primeira impressão de que parte das tarefas no seu perfil de função pode hoje ser assumida pela IA, sem olhar para sistemas de avaliação sobre pessoas? A quickscan gratuita da ftetoai consiste em doze perguntas, funciona sem conta, e fornece uma indicação por perfil. A workscan completa, que aprofunda processos individuais e a classificação de risco, ainda está em desenvolvimento.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.