El Reglamento europeo de IA (AI Act) clasifica los sistemas de IA según su riesgo. Una parte de las aplicaciones relacionadas con el personal se encuadra en la categoría de alto riesgo. Esto no es una calificación de lo bien o mal que funciona un sistema, sino una clasificación basada en lo que el sistema decide o aconseja y sobre quién. Los sistemas relacionados con la contratación, promoción, evaluación o despido de personas afectan a un derecho fundamental —el derecho a un trato justo en la relación laboral— y por ello reciben un régimen más estricto: documentación adicional, supervisión humana y, en muchos casos, la obligación de informar a los interesados.
Esta página describe el mecanismo tal como está establecido en el reglamento. El texto completo y actualizado, con los anexos y definiciones precisos, se encuentra en el sitio web de la Unión Europea y en el de la administración pública neerlandesa (rijksoverheid); allí encontrará la formulación que jurídicamente prevalece.
El Reglamento de IA menciona como ejemplos de aplicaciones de alto riesgo en el contexto laboral, entre otros, los sistemas que:
El denominador común es que el sistema genera un resultado que repercute directamente en la posición de un trabajador o solicitante individual. Una herramienta de planificación que optimiza los horarios de todo un departamento generalmente no queda comprendida en esto; una herramienta que genera una puntuación por empleado que se tiene en cuenta en una conversación de evaluación, sí queda comprendida. Dónde se encuentra exactamente el límite dentro de sus propios procesos es una cuestión para un jurista o asesor de cumplimiento normativo, no algo que esta página determine por usted.
Este es el aspecto en el que muchas organizaciones se estancan, y es precisamente la cuestión que las tres categorías de esta herramienta intentan ordenar. Una tarea que la IA puede asumir por completo suele ser una tarea sin juicio duradero sobre una persona: resumir un texto, calcular un horario, optimizar una planificación. En el momento en que el sistema produce un resultado que sirve de insumo para una decisión sobre un individuo —contratar, no contratar, promover, no renovar un contrato— la tarea se desplaza hacia la segunda o tercera categoría: supervisión humana que aprueba o rechaza con motivación, o trabajo enteramente humano.
La característica práctica de una herramienta es que la persona controla el insumo, puede ignorar el resultado sin consecuencias, y toma la decisión final basándose en algo más que el resultado del sistema. La característica práctica de un sistema de evaluación es que el resultado recibe un peso considerable o decisivo en una decisión sobre esa persona específica, incluso si formalmente una persona da su “visto bueno”. Una puntuación que en la práctica siempre se acepta funciona como un sistema de evaluación, independientemente de cómo se denomine internamente. Esta delimitación es comparable a lo que se aplica en el RGPD al automatizar tareas: también allí no cuenta la etiqueta de la herramienta, sino lo que esa herramienta decide de hecho y qué datos se utilizan para ello.
Si un sistema se considera de alto riesgo, esto conlleva obligaciones para la parte que lo implementa: una evaluación de riesgos, documentación sobre su funcionamiento, supervisión humana que pueda intervenir realmente, y transparencia hacia los trabajadores o solicitantes afectados sobre el hecho de que un sistema de IA desempeña un papel. Esta página no menciona porcentajes, plazos ni importes vinculados a estas obligaciones, ya que estos varían según la situación y la fase de la normativa. Para conocer los requisitos y fechas exactos, consulte los textos oficiales o a un asesor que conozca el estado actual.
También es importante señalar que esta clasificación es independiente de las decisiones de personal. El Reglamento de IA se refiere al sistema, no a lo que una organización hace con el resultado de una reorganización o un cambio de función. Para las decisiones que afectan a la relación laboral se aplican requisitos legales propios —piense en el derecho al despido y el papel de la participación de los trabajadores— que deben evaluarse de forma separada y con anterioridad a la implementación de un sistema. Esta página no se pronuncia al respecto.
La introducción de un sistema que supervisa o evalúa el comportamiento o el rendimiento de los trabajadores no es solo una cuestión relacionada con el AI Act, sino a menudo también una cuestión de participación de los trabajadores. Los derechos de consentimiento pueden aplicarse ya antes de que un sistema se clasifique como de alto riesgo. Cuándo debe involucrarse al consejo de empresa y en qué momento se describe en cuándo interviene el consejo de empresa. Ese proceso se desarrolla junto a, no en lugar de, las obligaciones derivadas del Reglamento de IA.
Esta página describe el mecanismo: qué aplicaciones se mencionan y dónde se encuentra la distinción práctica entre una herramienta y un sistema de evaluación. Si un sistema específico dentro de su organización queda comprendido en la categoría de alto riesgo, y qué pasos se derivan de ello, es una cuestión que debe responderse caso por caso, comparable a los matices que también se aplican en qué puede asumir la IA en los servicios profesionales, donde vuelve a surgir la misma pregunta sobre supervisión y responsabilidad.
¿Desea obtener una primera impresión de qué parte de las tareas de su perfil de puesto puede ser asumida hoy por la IA, sin fijarse en los sistemas de evaluación sobre personas? El quickscan gratuito de ftetoai consta de doce preguntas, funciona sin necesidad de crear una cuenta, y ofrece una indicación por perfil. El workscan completo, que profundiza más en los procesos individuales y la clasificación de riesgos, aún está en construcción.
Vraag maar. Ik ken de kennisbank van deze site; wat ik niet weet, zeg ik erbij.
Answers come from this site’s knowledge base. Not tailored advice, and not a scan of your company.