Un système d'IA peut exécuter une tâche, mais le système en lui-même n'est pas une personne morale et ne peut être tenu responsable. La responsabilité d'un résultat incombe à une personne physique ou morale : l'organisation qui déploie le système, le fournisseur du système, ou une combinaison des deux, selon ce qui s'est précisément mal passé et les accords conclus à ce sujet. C'est l'une des raisons pour lesquelles ftetoai distingue trois catégories plutôt qu'un simple oui ou non : pour de nombreuses tâches, la question n'est pas seulement de savoir si l'IA peut faire le travail, mais qui contrôle quel résultat avant qu'il ne soit diffusé ou n'ait des conséquences.
La catégorie « partiellement, avec contrôle humain » existe précisément pour cette raison. Pour ces tâches, l'IA exécute le travail, mais une personne approuve ou rejette le résultat, pour une raison donnée. Ce contrôle n'est pas seulement une mesure de qualité ; c'est aussi le point où la responsabilité du résultat final est établie. Sans ce contrôle, on ne sait souvent pas clairement qui exerçait quel contrôle, et c'est précisément la question qui devient pertinente dès que quelque chose se passe mal.
La responsabilité en cas d'erreurs de systèmes d'IA est évaluée à l'aune du droit existant : le droit des obligations en général, la responsabilité du fait des produits, et la réglementation spécifique en cours d'élaboration au niveau européen pour les systèmes d'IA à risque élevé. Les règles précisément applicables dépendent du type de système, du secteur et de la manière dont le système a été déployé. Ce n'est pas un domaine dans lequel un outil comme ftetoai peut formuler une conclusion valable pour chaque situation ; le texte de loi en vigueur et son interprétation par un juriste constituent le point de départ indiqué. Ftetoai décrit quelle partie d'une tâche un système peut reprendre et quelle partie nécessite un contrôle, et non qui est juridiquement responsable dans un cas concret.
Un point distinct concerne le traitement des données : dès qu'une tâche touche des données à caractère personnel, une seconde couche d'obligations apparaît. Nous en discutons plus en détail dans la page consacrée au RGPD dans l'automatisation des tâches ; celle-ci décrit notamment pourquoi le traitement par un système d'IA requiert une évaluation propre, indépendamment de la question de savoir si le système exécute correctement la tâche sur le fond.
Comme le résultat reste un travail humain au sens juridique, c'est dans l'organisation du travail que se prennent les choix pratiques. Quelques mécanismes qui reviennent à cet égard :
Cette classification ne constitue pas un avis juridique, mais elle donne une image factuelle des points de contrôle dans le processus. Cette image est utile lors de l'échange avec un juriste ou un conseiller sur la répartition de la responsabilité dans une situation spécifique.
La manière dont les tâches sont réparties entre l'IA et l'humain, et la façon dont le contrôle est organisé, ne constituent pas seulement une question juridique mais aussi une question relative à l'organisation du travail lui-même. Les changements dans les processus de travail et le déploiement de systèmes touchant au travail des employés peuvent relever de la concertation sociale ; les cas où cela s'applique et les démarches associées sont décrits dans la page consacrée au moment où le comité d'entreprise est compétent. Là aussi, il s'agit d'une démarche distincte de la question de savoir si l'IA peut reprendre la tâche sur le fond.
Un mécanisme comparable se joue dans la concertation que l'IA soutient plutôt qu'elle ne remplace. Pour la question de savoir si l'IA peut animer la réunion d'équipe hebdomadaire, il ne s'agit pas seulement de savoir si un système peut établir un ordre du jour et rédiger un compte rendu, mais aussi de savoir qui reste responsable des décisions prises lors de cette réunion. L'exécution peut être soutenue ; la responsabilité du résultat ne se déplace pas automatiquement pour autant.
Cette page décrit le mécanisme, et non une réponse toute faite pour votre situation. La responsabilité en cas d'erreur de l'IA dépend du type de système, du secteur, des accords conclus avec un fournisseur et de la manière dont le contrôle est organisé — et cette évaluation relève d'un juriste ou d'un conseiller, non d'un outil qui classe des tâches.
Ce que vous pouvez cartographier vous-même, en revanche, c'est quelle partie du travail dans votre organisation est aujourd'hui pilotée par l'IA, quelle partie est soumise à un contrôle et quelle partie reste un travail humain. Le quickscan gratuit de ftetoai comprend douze questions, ne nécessite pas de compte, et donne une indication de la part des heures de votre profil qui peut être reprise aujourd'hui par l'IA. Le scan de travail complet, qui approfondit les tâches individuelles et les structures de contrôle, est encore en construction.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.