Qué significa supervisar
Supervisar un sistema de IA significa comprobar su funcionamiento y sus resultados con capacidad real de intervenir. En SST, la finalidad es evitar que una salida incorrecta o incompleta se convierta en una decisión que afecte a la seguridad y salud. El control debe estar integrado en el proceso donde se usa la herramienta.
La persona supervisora necesita conocer el objetivo del sistema y el uso que se dará a su respuesta. No es lo mismo revisar un borrador informativo que aceptar una recomendación que modifica una medida de control. La evaluación del uso de IA ayuda a determinar dónde es necesaria la intervención y con qué intensidad.
Competencia y responsabilidades
La competencia combina conocimiento del trabajo, formación sobre la herramienta y comprensión de sus límites. La persona debe poder reconocer cuándo falta información, cuándo una recomendación contradice las condiciones reales y cuándo necesita apoyo especializado. Saber utilizar una interfaz no equivale a estar cualificado para validar cualquier resultado.
La organización debe asignar funciones y sustituciones, y definir quién puede aprobar, corregir o detener cada proceso. La supervisión no debe utilizarse para trasladar toda la responsabilidad a quien revisa el último documento. Quienes diseñan, seleccionan y organizan el uso del sistema también toman decisiones que condicionan su fiabilidad y sus efectos.
Información suficiente para revisar
La revisión necesita fuentes, contexto y criterios. En un informe de siniestralidad deben poder comprobarse registros, periodo, población y cálculo. En un procedimiento preventivo es necesario contrastar tarea, equipos y medidas. Un texto redactado con claridad puede seguir siendo inadecuado si parte de información desactualizada o de otro centro.
La calidad de los datos y la presentación de incertidumbre influyen en el control. Conviene distinguir hechos registrados, inferencias y propuestas. La persona revisora debe poder acceder a lo necesario sin recibir una cantidad de información que haga impracticable la comprobación. Añadir más pantallas no siempre facilita entender qué respalda la decisión.
Evitar la aprobación automática
La confianza excesiva en sistemas automatizados puede reducir el contraste crítico. Una respuesta rápida, una cifra precisa o una interfaz profesional pueden generar una impresión de fiabilidad superior a la evidencia disponible. El proceso debe favorecer que se detecten errores y que sea aceptable rechazar una propuesta cuando no está suficientemente fundamentada.
Es útil definir comprobaciones vinculadas al riesgo: coherencia con el encargo, adecuación de fuentes, datos esenciales y consecuencias de aplicar el resultado. La organización debe reservar tiempo para esa revisión. Si el volumen de propuestas supera la capacidad disponible, conviene modificar el proceso en lugar de convertir la validación en una confirmación rutinaria.
Intervenir y mantener una alternativa
La capacidad de control incluye corregir una salida, solicitar información adicional y suspender su utilización cuando procede. Debe estar claro qué ocurre después de una discrepancia y quién resuelve. Un canal de incidencias que no produce respuesta deja a la persona entre aceptar una recomendación dudosa o paralizar el trabajo sin apoyo.
Cuando la IA interviene en tareas relevantes, debe existir un procedimiento alternativo viable. En los agentes de IA, además de revisar el texto final, puede ser necesario controlar acciones sobre registros o comunicaciones. La supervisión debe situarse antes del efecto que se quiere prevenir; detectar un error después de distribuirlo cumple otra función y puede exigir correcciones adicionales.
Relación con el marco normativo
El artículo 14 del Reglamento europeo de IA contempla supervisión humana para los sistemas de alto riesgo, proporcionada a riesgos, autonomía y contexto. Entre sus elementos figuran comprender límites, interpretar resultados e intervenir. Su aplicación concreta requiere comprobar clasificación, función de la organización y calendario normativo correspondiente.
Estas reglas se coordinan con las obligaciones preventivas y profesionales aplicables. No toda herramienta de SST recibe automáticamente la misma clasificación jurídica. Aun cuando un requisito específico del reglamento no resulte aplicable, la empresa debe analizar los riesgos laborales de su uso. La supervisión es una medida de control que debe demostrar utilidad en el contexto real.
Ejemplo práctico
En una situación hipotética, un sistema redacta una propuesta de evaluación a partir de documentos anteriores. La persona revisora detecta que se describe una operación manual que ahora está mecanizada y que no aparece una nueva tarea de mantenimiento. Corregir únicamente nombres y fechas habría mantenido un diagnóstico preventivo incorrecto.
La revisión solicita información del cambio, comprueba la tarea y rehace las partes afectadas. También comunica el fallo para evitar reutilizar el documento como referencia válida. El resultado se incorpora al proceso preventivo con la revisión profesional correspondiente. La herramienta aporta un punto de partida, pero la validación comprueba el trabajo que realmente se realiza.
Medir si el control funciona
La organización puede analizar errores detectados, correcciones, casos escalados y fallos que pasaron la revisión. Conviene interpretar esos datos junto con carga de trabajo y dificultad de los casos. Una tasa muy baja de rechazo puede indicar buen funcionamiento, pero también una revisión superficial; el número aislado no resuelve la cuestión.
La evidencia de revisión debe permitir reconstruir decisiones relevantes sin generar burocracia desproporcionada. Las pruebas y observaciones deben actualizarse cuando cambian herramienta, usuarios o finalidad. El objetivo es comprobar que la intervención humana mejora las decisiones y dispone de condiciones suficientes para seguir haciéndolo.
