ftetoai En la lista de espera

Kennisbank

Supervisión humana de la IA en la práctica

Por qué la categoría 2 es la parte más difícil

En [ftetoai.com](https://ftetoai.com) dividimos las tareas en tres categorías: la IA puede asumir la tarea, la IA puede hacerla parcialmente con supervisión humana, o sigue siendo trabajo humano. En la práctica, esa categoría intermedia es la más importante, porque no funciona por sí sola. La "supervisión" no es un concepto fijo con una única interpretación; solo adquiere significado cuando usted establece quién controla qué, con qué frecuencia, y qué ocurre en caso de rechazo. Esta página describe ese mecanismo. No sustituye el asesoramiento jurídico o laboral y no ofrece fundamentación para decisiones sobre personal; para ello rigen requisitos legales propios y debe consultarse a un asesor específico.

Quién valida: qué función, qué nivel

La supervisión humana presupone una persona con la autoridad y la competencia para evaluar el resultado de una tarea. No se trata automáticamente del empleado que antes realizaba la tarea. En una tarea como responder preguntas de personal, la evaluación suele recaer en alguien con conocimiento especializado en la materia, mientras que en una tarea como la planificación, la evaluación recae más bien en un responsable que pueda valorar las consecuencias operativas. La pregunta "quién valida" difiere, por tanto, según la tarea, y depende de lo que pueda salir mal si el resultado de la IA se utiliza sin control.

Sobre qué se valida

La supervisión sin un marco de evaluación claro es difícil de ejecutar. En la práctica, se trata de un número limitado de preguntas: ¿el resultado es correcto en los hechos?, ¿es completo?, ¿está en línea con las normas o acuerdos vigentes?, y ¿es adecuado para la situación específica de la persona o el caso? En el registro de horas, por ejemplo, esto significa un control de patrones atípicos; en el mantenimiento del saldo de vacaciones se trata más a menudo de un control de excepciones, como permisos especiales o regímenes transitorios que no están incorporados de forma estándar en un sistema. El marco de evaluación debe quedar registrado por escrito, para que la validación sea reproducible y no dependa de la memoria de una sola persona.

Con qué frecuencia: muestreo o control total

La frecuencia de la supervisión es una decisión aparte, independiente de quién valida y sobre qué. Dos extremos: cada resultado se controla antes de utilizarse, o se evalúa una muestra a posteriori y el resto continúa su curso. Las formas intermedias son habituales, por ejemplo un control total al inicio de una nueva aplicación que se va reduciendo hacia un muestreo una vez que los resultados demuestran ser estables. La frecuencia adecuada depende de las consecuencias de un error: cuanto mayor sea el impacto sobre un individuo o la organización, menor será el margen para una baja frecuencia de control. En tareas que entran dentro de la IA de alto riesgo en el entorno laboral, una frecuencia de control más baja no suele ser recomendable, y además rigen obligaciones propias en materia de supervisión que deben verificarse por separado.

Aprobar y rechazar con motivo

Un elemento central de una supervisión viable es que todo rechazo tenga un motivo. Sin motivo, un rechazo es una observación aislada; con motivo, se convierte en una señal con la que se puede ajustar la aplicación de IA, la instrucción o el proceso. En la práctica, esto suele significar un formato fijo y breve: cuál fue el resultado, qué no era correcto, y qué ajuste se deriva de ello. Esto no requiere un sistema complejo —para aplicaciones más pequeñas suele bastar con un registro—, pero sin ningún tipo de constancia no se puede demostrar que realmente ha existido supervisión, y esa demostrabilidad puede volverse relevante en cuanto una tarea afecte al tratamiento de datos personales o a decisiones con consecuencias para individuos. Para el aspecto de protección de datos, véase el RGPD al automatizar tareas.

Cuándo puede reducir la supervisión

No existe un porcentaje ni un plazo fijo a partir del cual pueda reducirse la supervisión; ello depende de la naturaleza de la tarea, de la propensión al error de los resultados en la práctica, y de eventuales requisitos legales que rijan para esa tarea específica. Lo que sí vale como mecanismo general es que la reducción es defendible en el momento en que existe suficiente experiencia registrada que demuestra que el margen de error se mantiene dentro de un límite aceptado, y que ese límite se ha establecido de antemano y no se elige a posteriori para justificar la reducción. En tareas con consecuencias para empleados individuales —piense en vacaciones, horas o salario— es más habitual una reducción gradual manteniendo un control por muestreo que una transición abrupta a la categoría 1. Si y cuándo una reducción completa está justificada es una valoración que varía según la organización y la tarea, y que no puede separarse de eventuales normas sectoriales o legales.

La supervisión no sustituye la política de personal

Esta página describe cómo funciona la supervisión de los resultados de la IA como mecanismo de control. No dice nada sobre si, cuánto, o qué personal tendrá menos trabajo como consecuencia del uso de IA. Esa pregunta queda fuera del mecanismo de supervisión y fuera de esta página; las decisiones al respecto tienen sus propios requisitos legales y corresponden al empleador y a su asesor, no a una herramienta que clasifica tareas.

Qué puede hacer ahora

Para determinar si una tarea en su organización se encuentra en la categoría 1, 2 o 3, y por tanto si es necesaria supervisión y en qué medida, ayuda tener primero una idea concreta de las tareas que entran en consideración. El quickscan gratuito de ftetoai consta de doce preguntas, no requiere cuenta, y ofrece una indicación de qué parte de las horas de su perfil puede ser asumida hoy por la IA. El escaneo de trabajo completo, que profundiza en tareas individuales y formas de supervisión, todavía está en construcción, por lo que aún no lo ofrecemos aquí; sí ofrecemos el quickscan como primer paso, sin compromiso.

KIPPde assistent van de werkscan

Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.

Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.