Quem é responsável em caso de erro da IA

O resultado continua a ser trabalho humano, mesmo quando a IA executa a tarefa

Um sistema de IA pode executar uma tarefa, mas o sistema em si não é uma pessoa jurídica e não pode ser responsabilizado. A responsabilidade por um resultado recai sobre uma pessoa singular ou coletiva: a organização que utiliza o sistema, o fornecedor do sistema, ou uma combinação de ambos, dependendo do que exatamente correu mal e dos acordos feitos a esse respeito. Esta é uma das razões pelas quais a ftetoai distingue três categorias em vez de um simples sim ou não: em muitas tarefas, a questão não é apenas se a IA consegue fazer o trabalho, mas sim quem controla qual resultado antes de este ser divulgado ou ter consequências.

A categoria "parcialmente, com supervisão humana" existe exatamente por essa razão. Nessas tarefas, a IA executa o trabalho, mas uma pessoa aprova ou rejeita o resultado, com um motivo. Essa supervisão não é apenas uma medida de qualidade; é também o ponto onde a responsabilidade pelo resultado final fica estabelecida. Sem essa supervisão, muitas vezes não fica claro quem tinha que controlo, e é precisamente essa a questão que se torna relevante assim que algo corre mal.

Onde estão estabelecidas as regras de responsabilidade

A responsabilidade em caso de erros de sistemas de IA é avaliada com base no direito existente: direito das obrigações em geral, responsabilidade pelo produto, e regulamentação específica que está a ser desenvolvida a nível europeu para sistemas de IA de risco elevado. Quais as regras exatamente aplicáveis depende do tipo de sistema, do setor e da forma como o sistema foi utilizado. Este não é um terreno onde uma ferramenta como a ftetoai possa fazer uma afirmação válida para todas as situações; o texto legal atual e a sua interpretação por um jurista são o ponto de partida adequado. A ftetoai descreve que parte de uma tarefa um sistema pode assumir e que parte exige supervisão, não quem é juridicamente responsável num caso concreto.

Um ponto à parte é o tratamento de dados: assim que uma tarefa envolve dados pessoais, surge uma segunda camada de obrigações. Discutimos isso mais detalhadamente na página sobre o RGPD na automatização de tarefas; aí está descrito, entre outras coisas, por que razão o tratamento por um sistema de IA exige uma avaliação própria, independentemente da questão de saber se o sistema executa a tarefa de forma correta em termos de conteúdo.

O que isto significa para a organização do trabalho

Como o resultado continua a ser trabalho humano em termos jurídicos, é na organização do trabalho que se fazem as escolhas práticas. Alguns mecanismos que aí voltam a surgir:

Quem controla o quê, e com base em que motivo. Se uma tarefa se enquadra na categoria "parcialmente", o registo da aprovação ou rejeição e do motivo subjacente é o ponto de referência para poder reconstruir, mais tarde, o que aconteceu.
Que tarefas são totalmente assumidas pela IA, e em que condições. Nas tarefas da primeira categoria não há controlo humano caso a caso; a questão passa a ser como a organização determinou previamente que isso é responsável, e se isso corresponde ao que fornecedor e organização acordaram a esse respeito.
Como estão organizadas a supervisão e a monitorização a nível de processo e de equipa. Isso está relacionado com tarefas que, por sua vez, também são parcialmente automatizáveis, como saber se a IA pode assumir o controlo orçamental e a sinalização de desvios ou se a IA pode monitorizar o progresso de objetivos e projetos. Também aqui se aplica: o sistema sinaliza, uma pessoa avalia e decide o que fazer com isso.

Esta divisão não constitui aconselhamento jurídico, mas dá uma imagem factual de onde no processo se situam os pontos de controlo. Essa imagem é útil na conversa com um jurista ou consultor sobre como a responsabilidade está distribuída numa situação específica.

Onde isto se relaciona com a consulta interna na organização

A forma como as tarefas são divididas entre a IA e o ser humano, e como a supervisão é organizada, não é apenas uma questão jurídica, mas também uma questão sobre a organização do próprio trabalho. Alterações nos processos de trabalho e a utilização de sistemas que afetam o trabalho dos colaboradores podem estar sujeitas à participação dos trabalhadores; quando isso se aplica e quais os passos correspondentes está descrito na página sobre quando o conselho de empresa tem competência sobre o assunto. Também aqui se aplica: trata-se de um processo à parte, além da questão de saber se a IA pode assumir a tarefa em termos de conteúdo.

Um mecanismo semelhante ocorre em reuniões que a IA apoia em vez de substituir. Na questão de saber se a IA pode liderar a reunião semanal de equipa, não se trata apenas de saber se um sistema pode elaborar uma agenda e fazer atas, mas também de quem continua responsável pelas decisões tomadas nessa reunião. A execução pode ser apoiada; a responsabilidade pelo resultado não se transfere automaticamente com ela.

O que pode fazer agora

Esta página descreve o mecanismo, não uma resposta pronta para a sua situação. A responsabilidade em caso de erro da IA depende do tipo de sistema, do setor, dos acordos feitos com um fornecedor, e da forma como a supervisão está organizada — e essa avaliação cabe a um jurista ou consultor, não a uma ferramenta que classifica tarefas.