Qué se evalúa
La evaluación analiza las consecuencias de introducir un sistema de IA en una actividad laboral. Puede tratarse de una herramienta que aconseja al profesional, organiza turnos, asigna tareas, interpreta imágenes o interviene en un equipo. El punto de partida es describir qué cambia para las personas y qué decisiones dependen del resultado del sistema.
Debe distinguirse la IA utilizada para evaluar riesgos de los riesgos generados por su propio uso. Ambas cuestiones pueden coincidir, pero no son equivalentes. Una herramienta preventiva puede ahorrar tiempo y, simultáneamente, introducir omisiones o exceso de confianza. La evaluación tiene que considerar beneficios esperados y posibles efectos adversos en condiciones reales.
Delimitar el sistema y sus usuarios
Conviene identificar finalidad, población afectada, datos de entrada, resultados y conexiones con otros procesos. También deben describirse quién utiliza el sistema, qué formación recibe y qué margen tiene para apartarse de una recomendación. Un mismo modelo puede plantear riesgos diferentes si solo prepara un borrador o si su salida desencadena una acción sobre equipos o personas.
La gestión del cambio permite estudiar estos aspectos antes de la implantación. Deben participar prevención, responsables del proceso, especialistas técnicos y personas trabajadoras según corresponda. La información del proveedor es necesaria, pero debe complementarse con conocimiento del puesto y de las condiciones concretas en que se utilizará la herramienta.
Identificar daños y situaciones de fallo
Entre las situaciones a analizar figuran resultados incorrectos, información incompleta, cambios de datos, indisponibilidad y utilización fuera del alcance previsto. Debe valorarse qué ocurre si una alerta no se emite, si se generan demasiadas alarmas o si se propone una actuación incompatible con el procedimiento real. La consecuencia depende del uso que se haga del resultado.
El análisis también incluye interacciones entre personas y sistema. Una interfaz confusa, una respuesta excesivamente segura o la dificultad para consultar la fuente pueden dificultar la detección de errores. Conviene estudiar tanto el funcionamiento habitual como excepciones previsibles, cambios de turno y momentos en los que hay menos apoyo técnico disponible.
Organización y riesgos psicosociales
La gestión algorítmica puede modificar ritmo, autonomía, supervisión y relación con el mando. Es necesario comprobar si los objetivos o valoraciones generan presión, si las personas comprenden las reglas y si disponen de canales para cuestionar resultados. La observación del proceso y la consulta complementan las métricas técnicas.
El análisis psicosocial debe examinar la organización, no atribuir todos los problemas a la adaptación individual a la tecnología. Una herramienta que exige revisar muchas recomendaciones en poco tiempo puede aumentar carga mental aunque automatice parte de la tarea. Las medidas deben ajustar volumen, funciones, apoyo y capacidad de decisión a las exigencias reales.
Datos, privacidad y requisitos aplicables
La calidad de datos influye en la fiabilidad de los resultados. Debe comprobarse si los registros representan los centros, tareas y circunstancias sobre los que se pretende actuar. Los vacíos, duplicados o cambios de criterio pueden crear una apariencia de precisión que no corresponde con la información disponible.
La evaluación preventiva debe coordinarse con protección de datos y con la normativa de IA aplicable. El Reglamento europeo de IA establece obligaciones según el tipo de sistema y los roles, con reglas específicas y un calendario de aplicación. Esa clasificación jurídica no sustituye la evaluación de riesgos laborales. Un uso que no sea de alto riesgo en ese reglamento puede requerir medidas preventivas en el puesto.
Seleccionar y comprobar medidas
Las medidas pueden incluir rediseñar el proceso, limitar funciones, mejorar datos, evitar acciones automáticas con consecuencias críticas y establecer supervisión humana efectiva. La formación debe explicar límites y errores posibles, además de enseñar a utilizar la interfaz. Un aviso genérico de precaución no compensa una configuración que dificulta intervenir.
Antes del despliegue conviene realizar pruebas representativas y definir criterios de aceptación. También se necesita una forma segura de continuar el trabajo si el sistema falla o debe retirarse. Las comprobaciones deben centrarse en consecuencias para la seguridad y salud, además de rendimiento informático, y conservar evidencia de los problemas detectados y las correcciones realizadas.
Ejemplo práctico
En una situación hipotética, una empresa prueba un sistema que prioriza inspecciones según incidentes registrados. Los centros que comunican más observaciones reciben más inspecciones, mientras otros con escasa notificación parecen seguros. La evaluación identifica que el sistema puede confundir una buena cultura de comunicación con mayor peligrosidad.
Se revisan las variables, la cobertura de datos y los criterios de prioridad. Se incorporan comprobaciones independientes y se evita que el resultado sea la única base de planificación. El caso muestra que un cálculo correcto puede producir una decisión preventiva inadecuada cuando la información utilizada no representa de forma comparable la exposición.
Seguimiento tras la implantación
La evaluación debe mantenerse viva durante el uso. Cambios de modelo, reglas, datos, puestos o conexiones pueden alterar los riesgos. Deben existir responsables para revisar incidencias, quejas, desviaciones y efectos no previstos, así como para modificar o suspender la herramienta cuando las medidas dejan de ser suficientes.
La eficacia se comprueba observando el trabajo y sus resultados, no solo contabilizando usuarios o respuestas generadas. Conviene contrastar calidad de decisiones, carga de revisión, acceso a apoyo y funcionamiento de los controles. La implantación es más sólida cuando la organización puede explicar qué riesgos ha identificado y qué evidencia muestra que están controlados.
