Le règlement européen sur l'IA (AI Act) oblige les fournisseurs et utilisateurs de systèmes d'IA à assurer un certain niveau de maîtrise de l'IA au sein de leur personnel. L'idée sous-jacente est simple : quiconque travaille avec un système d'IA ou fonde des décisions sur celui-ci doit comprendre ce que fait le système, quelles données il utilise, et où se situent les limites de sa fiabilité. Sans cette compréhension, personne ne peut correctement évaluer si un résultat est correct ou si quelque chose va de travers.
Les obligations exactes, les personnes précisément concernées et les échéances applicables figurent dans le règlement lui-même et dans les documents d'exécution qui l'accompagnent. Comme les textes et les dates d'application peuvent être ajustés ou précisés, l'état actuel des choses se trouve auprès des sources officielles de l'UE et des autorités de contrôle qui publient sur ce sujet. Cette page décrit le mécanisme, non la date précise ou le numéro exact de l'article.
La maîtrise de l'IA n'est pas une exigence de diplôme ni une obligation de suivre une formation en tant que telle. Il s'agit d'un résultat fonctionnel : les employés qui travaillent avec un système d'IA doivent être capables de :
La rigueur de cette exigence dépend fortement du niveau de risque du système. Pour les systèmes classés à haut risque, comme expliqué sur la page consacrée à l'IA à haut risque sur le lieu de travail, les attentes en matière de connaissances, de contrôle et de documentation sont nettement plus élevées que pour un simple outil d'aide à la rédaction ou à la planification.
La maîtrise de l'IA touche directement à la question de savoir quelles tâches une organisation confie à l'IA, lesquelles restent sous contrôle et lesquelles restent un travail humain. C'est précisément la répartition en trois catégories qu'ftetoai.com évalue par tâche :
1. l'IA exécute la tâche de manière autonome ; 2. l'IA exécute la tâche en partie, avec un employé qui approuve ou rejette le résultat et motive cette décision ; 3. la tâche reste un travail humain.
La deuxième catégorie est précisément celle où la maîtrise de l'IA est la plus nécessaire. Un employé chargé d'approuver ou de rejeter un résultat de l'IA ne peut le faire de manière pertinente que s'il comprend ce que le système a fait et où il se trompe typiquement. Sans cette compréhension, le « contrôle humain » devient une signature sans contenu, ce qui ne réduit pas le risque d'erreurs mais le déplace.
Cette dépendance varie fortement selon le secteur et la tâche. Dans le commerce de gros, d'autres systèmes et risques entrent en jeu que dans l'industrie manufacturière ou le secteur du transport : voir par exemple les aperçus de ce que l'IA peut reprendre dans le commerce de gros, ce que l'IA peut reprendre dans l'industrie manufacturière et ce que l'IA peut reprendre dans le secteur du transport. Le niveau de maîtrise de l'IA requis suit la tâche, pas le titre de fonction : deux employés occupant la même fonction peuvent avoir besoin d'un niveau de connaissances différent, selon les tâches assistées par l'IA qu'ils exécutent réellement.
Les organisations qui déploient des systèmes d'IA doivent, en pratique, consigner et garantir :
Ces points touchent également au traitement plus large des données autour des systèmes d'IA. Lorsqu'une tâche traite des données personnelles, les exigences décrites sur la page consacrée au RGPD lors de l'automatisation des tâches s'appliquent en outre, en complément des exigences relatives à la maîtrise de l'IA elle-même.
La maîtrise de l'IA ne constitue pas une base pour des décisions relatives au personnel, et cette page ne fournit aucun fondement en ce sens. La question de savoir si un manque de connaissances a des conséquences pour une fonction, un rôle ou une relation de travail relève d'exigences légales propres, notamment en matière de droit du travail et de représentation du personnel. Cette page ne se prononce pas sur ce point ; cela nécessite un avis spécifique, adapté à la situation.
Cette page ne prétend pas non plus savoir quel budget ou quel temps de formation la maîtrise de l'IA exige dans une organisation donnée. Cela dépend du nombre de systèmes, de leur classe de risque, de la complexité des tâches et du niveau de connaissances existant. Qui cherche un chiffre à ce sujet ne le trouvera pas dans des textes généraux, mais dans une analyse de ses propres tâches et systèmes.
Une première étape consiste à déterminer précisément quelles tâches de votre organisation sont déjà assistées par l'IA, et lesquelles relèvent d'un contrôle par rapport à celles entièrement automatisées. Cette distinction permet de voir immédiatement où la maîtrise de l'IA pèse le plus lourd.
Le quickscan gratuit d'ftetoai offre une première orientation à cet égard : douze questions, sans compte, avec une indication de la part des heures de votre profil qui pourrait aujourd'hui être reprise par l'IA. Le scan de travail complet, qui approfondit le niveau des tâches et les exigences de contrôle, est encore en cours de développement. Le quickscan constitue une indication, pas une évaluation juridique de l'exigence de maîtrise de l'IA dans votre organisation.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.