Un sistema de IA puede ejecutar una tarea, pero el sistema en sí no es una persona jurídica y no puede ser declarado responsable. La responsabilidad de un resultado corresponde a una persona física o jurídica: la organización que utiliza el sistema, el proveedor del sistema, o una combinación de ambos, dependiendo de qué salió exactamente mal y de qué acuerdos se hayan hecho al respecto. Esta es una de las razones por las que ftetoai distingue tres categorías en lugar de un simple sí o no: en muchas tareas, la pregunta no es solo si la IA puede hacer el trabajo, sino quién controla qué resultado antes de que este salga al exterior o tenga consecuencias.
La categoría "parcialmente, con supervisión humana" existe precisamente por esa razón. En esas tareas, la IA ejecuta el trabajo, pero una persona aprueba o rechaza el resultado, con un motivo. Esa supervisión no es solo una medida de calidad; es también el punto donde se establece la responsabilidad del resultado final. Sin esa supervisión, a menudo no queda claro quién tenía qué control, y esa es exactamente la pregunta que se vuelve relevante en cuanto algo sale mal.
La responsabilidad ante errores de sistemas de IA se evalúa conforme al derecho existente: el derecho general de obligaciones, la responsabilidad por productos, y la normativa específica que se está desarrollando a nivel europeo para sistemas de IA de alto riesgo. Qué normas se aplican exactamente depende del tipo de sistema, del sector y de la forma en que se ha implementado el sistema. Este no es un terreno en el que una herramienta como ftetoai pueda emitir una afirmación válida para cada situación; el texto legal vigente y su interpretación por parte de un jurista son el punto de partida adecuado. Ftetoai describe qué parte de una tarea puede asumir un sistema y qué parte requiere supervisión, no quién es jurídicamente responsable en un caso concreto.
Un punto aparte es el tratamiento de datos: en cuanto una tarea afecta datos personales, surge una segunda capa de obligaciones. Esto lo tratamos con más detalle en la página sobre el RGPD al automatizar tareas; ahí se describe, entre otras cosas, por qué el tratamiento por parte de un sistema de IA requiere una evaluación propia, independiente de si el sistema ejecuta la tarea correctamente en cuanto al contenido.
Como el resultado sigue siendo trabajo humano en sentido jurídico, la organización del trabajo es donde se toman las decisiones prácticas. Algunos mecanismos que aparecen recurrentemente en este contexto:
Esta clasificación no constituye asesoramiento jurídico, pero sí ofrece una imagen objetiva de dónde se encuentran los puntos de control en el proceso. Esa imagen resulta útil en la conversación con un jurista o asesor sobre cómo se distribuye la responsabilidad en una situación específica.
La forma en que se distribuyen las tareas entre la IA y las personas, y cómo se organiza la supervisión, no es solo una cuestión jurídica sino también una cuestión sobre la organización del trabajo en sí. Los cambios en los procesos de trabajo y el uso de sistemas que afectan el trabajo de los empleados pueden estar sujetos a la participación de los trabajadores; cuándo es el caso y qué pasos corresponden entonces, se describe en la página sobre cuándo interviene el consejo de empresa. También aquí se aplica: se trata de un proceso independiente, aparte de la cuestión de si la IA puede asumir la tarea en cuanto al contenido.
Un mecanismo similar se da en las reuniones donde la IA da apoyo en lugar de sustituir. En la pregunta de si la IA puede dirigir la reunión semanal de equipo no solo se trata de si un sistema puede elaborar una agenda y tomar actas, sino también de quién sigue siendo responsable de las decisiones que se toman en esa reunión. La ejecución puede recibir apoyo; la responsabilidad del resultado no se traslada automáticamente con ella.
Esta página describe el mecanismo, no una respuesta lista para su situación. La responsabilidad ante un error de la IA depende del tipo de sistema, del sector, de los acuerdos hechos con un proveedor y de la forma en que se ha organizado la supervisión — y esa evaluación corresponde a un jurista o asesor, no a una herramienta que clasifica tareas.
Lo que sí puede identificar usted mismo es qué parte del trabajo en su organización está impulsada por IA en este momento, qué parte está bajo supervisión y qué parte sigue siendo trabajo humano. El quickscan gratuito de ftetoai consta de doce preguntas, no requiere una cuenta, y ofrece una indicación de qué parte de las horas de su perfil puede ser asumida hoy por la IA. El escaneo de trabajo completo, que profundiza en tareas individuales y estructuras de supervisión, todavía está en construcción.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.