Le règlement européen sur l'IA (AI Act) classe les systèmes d'IA selon leur niveau de risque. Une partie des applications liées au personnel relève de la catégorie à haut risque. Il ne s'agit pas d'une appréciation de la qualité de fonctionnement d'un système, mais d'une classification fondée sur ce que le système décide ou recommande, et à propos de qui. Les systèmes qui concernent le recrutement, la promotion, l'évaluation ou le licenciement de personnes touchent à un droit fondamental — le droit à un traitement équitable dans la relation de travail — et se voient donc soumis à un régime plus strict : documentation supplémentaire, contrôle humain, et dans de nombreux cas une obligation d'informer les personnes concernées.
Cette page décrit le mécanisme tel qu'il est prévu par le règlement. Le texte complet et actualisé, avec les annexes et définitions précises, figure sur le site de l'Union européenne et auprès des autorités nationales compétentes ; c'est là que vous trouverez la formulation qui a valeur juridique.
Le règlement sur l'IA cite comme exemples d'applications à haut risque dans le contexte professionnel, entre autres, les systèmes qui :
Le point commun est que le système génère un résultat qui a une incidence directe sur la position d'un salarié ou d'un candidat individuel. Un outil de planification qui optimise les plannings pour l'ensemble d'un service n'entre généralement pas dans cette catégorie ; un outil qui génère un score par salarié, pris en compte lors d'un entretien d'évaluation, en relève en revanche. La question de savoir où se situe exactement la frontière au sein de vos propres processus relève d'un juriste ou d'un conseiller en conformité, et non de cette page.
C'est le point sur lequel de nombreuses organisations se heurtent, et c'est précisément la question que les trois catégories de cet outil tentent de structurer. Une tâche que l'IA peut entièrement reprendre est en général une tâche sans jugement durable sur une personne : résumer un texte, calculer un planning, optimiser une planification. Dès que le système produit un résultat qui sert d'input à une décision concernant un individu — embaucher, ne pas embaucher, promouvoir, ne pas renouveler un contrat — la tâche bascule vers la deuxième ou la troisième catégorie : un contrôle humain qui approuve ou rejette avec motivation, ou un travail entièrement humain.
La caractéristique pratique d'un outil d'aide est que la personne contrôle les données d'entrée, peut ignorer le résultat sans conséquence, et effectue elle-même l'arbitrage final sur la base de plus que le seul résultat du système. La caractéristique pratique d'un système d'évaluation est que le résultat obtient un poids important ou déterminant dans une décision concernant cette personne spécifique, même si, formellement, une personne donne son « accord ». Un score qui, dans la pratique, est toujours repris tel quel fonctionne comme un système d'évaluation, quelle que soit la manière dont il est désigné en interne. Cette délimitation est comparable à ce qui s'applique dans le RGPD lors de l'automatisation des tâches : là aussi, ce n'est pas l'étiquette de l'outil qui compte, mais ce que cet outil décide effectivement et quelles données sont utilisées à cette fin.
Si un système est considéré comme à haut risque, cela entraîne des obligations pour la partie qui le déploie : une évaluation des risques, une documentation sur son fonctionnement, un contrôle humain réellement capable d'intervenir, et une transparence envers les salariés ou candidats concernés sur le fait qu'un système d'IA joue un rôle. Cette page ne mentionne aucun pourcentage, délai ou montant lié à ces obligations, car ceux-ci varient selon la situation et la phase de la réglementation. Pour les exigences et échéances exactes, consultez les textes officiels ou un conseiller au fait de l'état actuel de la réglementation.
Il est également important de noter que cette classification est indépendante des décisions relatives au personnel. Le règlement sur l'IA se prononce sur le système, pas sur ce qu'une organisation fait du résultat d'une réorganisation ou d'un changement de fonction. Pour les décisions qui touchent à la relation de travail, des exigences légales propres s'appliquent — pensez au droit du licenciement et au rôle de la représentation du personnel — qui doivent être évaluées séparément et préalablement à la mise en œuvre d'un système. Cette page ne se prononce pas sur ce point.
L'introduction d'un système qui surveille ou évalue le comportement ou les performances des salariés n'est souvent pas seulement une question relevant de l'AI Act, mais aussi une question de représentation du personnel. Des droits de consentement peuvent déjà s'appliquer avant même qu'un système soit classé à haut risque. Le moment auquel le comité d'entreprise doit être associé, et à quel stade, est décrit sur quand le comité d'entreprise doit être associé. Cette démarche s'applique en parallèle, et non à la place, des obligations issues du règlement sur l'IA.
Cette page décrit le mécanisme : quelles applications sont citées, et où se situe la distinction pratique entre un outil d'aide et un système d'évaluation. La question de savoir si un système spécifique de votre organisation relève de la catégorie à haut risque, et quelles étapes en découlent, doit être examinée au cas par cas — de manière comparable aux nuances qui s'appliquent également dans ce que l'IA peut reprendre dans les services aux entreprises, où la même question de contrôle et de responsabilité revient.
Souhaitez-vous une première indication de la part des tâches de votre profil de fonction qui peut aujourd'hui être reprise par l'IA, sans porter sur des systèmes d'évaluation de personnes ? Le quickscan gratuit de ftetoai comprend douze questions, fonctionne sans compte, et fournit une indication par profil. Le scan de travail complet, qui approfondit les processus individuels et la classification des risques, est encore en cours de développement.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.