Què significa supervisar
Supervisar un sistema d’IA significa comprovar el seu funcionament i els seus resultats amb capacitat real d’intervenir. En SST, la finalitat és evitar que una sortida incorrecta o incompleta es converteixi en una decisió que afecti la seguretat i salut. El control ha d’estar integrat en el procés on s’usa l’eina.
La persona supervisora necessita conèixer l’objectiu del sistema i l’ús que es donarà a la seva resposta. No és el mateix revisar un esborrany informatiu que acceptar una recomanació que modifica una mesura de control. La avaluació de l’ús d’IA ajuda a determinar on és necessària la intervenció i amb quina intensitat.
Competència i responsabilitats
La competència combina coneixement del treball, formació sobre l’eina i comprensió dels seus límits. La persona ha de poder reconèixer quan falta informació, quan una recomanació contradiu les condicions reals i quan necessita suport especialitzat. Saber utilitzar una interfície no equival a estar qualificat per a validar qualsevol resultat.
L’organització ha d’assignar funcions i substitucions, i definir qui pot aprovar, corregir o detenir cada procés. La supervisió no ha d’utilitzar-se per a traslladar tota la responsabilitat a qui revisa l’últim document. Els qui dissenyen, seleccionen i organitzen l’ús del sistema també prenen decisions que condicionen la seva fiabilitat i els seus efectes.
Informació suficient per a revisar
La revisió necessita fonts, context i criteris. En un informe de sinistralitat han de poder comprovar-se registres, període, població i càlcul. En un procediment preventiu és necessari contrastar tasca, equips i mesures. Un text redactat amb claredat pot continuar sent inadequat si part d’informació desactualitzada o d’un altre centre.
La qualitat de les dades i la presentació d’incertesa influeixen en el control. Convé distingir fets registrats, inferències i propostes. La persona revisora ha de poder accedir al necessari sense rebre una quantitat d’informació que faci impracticable la comprovació. Afegir més pantalles no sempre facilita entendre què recolza la decisió.
Evitar l’aprovació automàtica
La confiança excessiva en sistemes automatitzats pot reduir el contrast crític. Una resposta ràpida, una xifra precisa o una interfície professional poden generar una impressió de fiabilitat superior a l’evidència disponible. El procés ha d’afavorir que es detectin errors i que sigui acceptable rebutjar una proposta quan no està prou fonamentada.
És útil definir comprovacions vinculades al risc: coherència amb l’encàrrec, adequació de fonts, dades essencials i conseqüències d’aplicar el resultat. L’organització ha de reservar temps per a aquesta revisió. Si el volum de propostes supera la capacitat disponible, convé modificar el procés en lloc de convertir la validació en una confirmació rutinària.
Intervenir i mantenir una alternativa
La capacitat de control inclou corregir una sortida, sol·licitar informació addicional i suspendre la seva utilització quan procedeix. Ha de ser clar què ocorre després d’una discrepància i qui resol. Un canal d’incidències que no produeix resposta deixa a la persona entre acceptar una recomanació dubtosa o paralitzar el treball sense suport.
Quan la IA intervé en tasques rellevants, ha d’existir un procediment alternatiu viable. En els agents d’IA, a més de revisar el text final, pot ser necessari controlar accions sobre registres o comunicacions. La supervisió ha de situar-se abans de l’efecte que es vol prevenir; detectar un error després de distribuir-lo compleix una altra funció i pot exigir correccions addicionals.
Relació amb el marc normatiu
L’article 14 del Reglament europeu d’IA contempla supervisió humana per als sistemes d’alt risc, proporcionada a riscos, autonomia i context. Entre els seus elements figuren comprendre límits, interpretar resultats i intervenir. La seva aplicació concreta requereix comprovar classificació, funció de l’organització i calendari normatiu corresponent.
Aquestes regles es coordinen amb les obligacions preventives i professionals aplicables. No tota eina de SST rep automàticament la mateixa classificació jurídica. Encara que un requisit específic del reglament no resulti aplicable, l’empresa ha d’analitzar els riscos laborals del seu ús. La supervisió és una mesura de control que ha de demostrar utilitat en el context real.
Exemple pràctic
En una situació hipotètica, un sistema redacta una proposta d’avaluació a partir de documents anteriors. La persona revisora detecta que es descriu una operació manual que ara està mecanitzada i que no apareix una nova tasca de manteniment. Corregir únicament noms i dates hauria mantingut un diagnòstic preventiu incorrecte.
La revisió sol·licita informació del canvi, comprova la tasca i refà les parts afectades. També comunica la fallada per a evitar reutilitzar el document com a referència vàlida. El resultat s’incorpora al procés preventiu amb la revisió professional corresponent. L’eina aporta un punt de partida, però la validació comprova el treball que realment es realitza.
Mesurar si el control funciona
L’organització pot analitzar errors detectats, correccions, casos escalats i fallades que van passar la revisió. Convé interpretar aquestes dades juntament amb càrrega de treball i dificultat dels casos. Una taxa molt baixa de rebuig pot indicar bon funcionament, però també una revisió superficial; el número aïllat no resol la qüestió.
La evidència de revisió ha de permetre reconstruir decisions rellevants sense generar burocràcia desproporcionada. Les proves i observacions han d’actualitzar-se quan canvien eina, usuaris o finalitat. L’objectiu és comprovar que la intervenció humana millora les decisions i disposa de condicions suficients per a continuar fent-ho.
