Què s’avalua
L’avaluació analitza les conseqüències d’introduir un sistema d’IA en una activitat laboral. Pot tractar-se d’una eina que aconsella al professional, organitza torns, assigna tasques, interpreta imatges o intervé en un equip. El punt de partida és descriure què canvia per a les persones i quines decisions depenen del resultat del sistema.
Ha de distingir-se la IA utilitzada per a avaluar riscos dels riscos generats pel seu propi ús. Totes dues qüestions poden coincidir, però no són equivalents. Una eina preventiva pot estalviar temps i, simultàniament, introduir omissions o excés de confiança. L’avaluació ha de considerar beneficis esperats i possibles efectes adversos en condicions reals.
Delimitar el sistema i els seus usuaris
Convé identificar finalitat, població afectada, dades d’entrada, resultats i connexions amb altres processos. També han de descriure’s qui utilitza el sistema, quina formació rep i quin marge té per a apartar-se d’una recomanació. Un mateix model pot plantejar riscos diferents si només prepara un esborrany o si la seva sortida desencadena una acció sobre equips o persones.
La gestió del canvi permet estudiar aquests aspectes abans de la implantació. Han de participar prevenció, responsables del procés, especialistes tècnics i persones treballadores segons correspongui. La informació del proveïdor és necessària, però ha de complementar-se amb coneixement del lloc i de les condicions concretes en què s’utilitzarà l’eina.
Identificar danys i situacions de fallada
Entre les situacions a analitzar figuren resultats incorrectes, informació incompleta, canvis de dades, indisponibilitat i utilització fora de l’abast previst. Ha de valorar-se què ocorre si una alerta no s’emet, si es generen massa alarmes o si es proposa una actuació incompatible amb el procediment real. La conseqüència depèn de l’ús que es faci del resultat.
L’anàlisi també inclou interaccions entre persones i sistema. Una interfície confusa, una resposta excessivament segura o la dificultat per a consultar la font poden dificultar la detecció d’errors. Convé estudiar tant el funcionament habitual com excepcions previsibles, canvis de torn i moments en els quals hi ha menys suport tècnic disponible.
Organització i riscos psicosocials
La gestió algorítmica pot modificar ritme, autonomia, supervisió i relació amb el comandament. És necessari comprovar si els objectius o valoracions generen pressió, si les persones comprenen les regles i si disposen de canals per a qüestionar resultats. L’observació del procés i la consulta complementen les mètriques tècniques.
El anàlisi psicosocial ha d’examinar l’organització, no atribuir tots els problemes a l’adaptació individual a la tecnologia. Una eina que exigeix revisar moltes recomanacions en poc temps pot augmentar càrrega mental encara que automatitzi part de la tasca. Les mesures han d’ajustar volum, funcions, suport i capacitat de decisió a les exigències reals.
Dades, privacitat i requisits aplicables
La qualitat de dades influeix en la fiabilitat dels resultats. Ha de comprovar-se si els registres representen els centres, tasques i circumstàncies sobre els quals es pretén actuar. Els buits, duplicats o canvis de criteri poden crear una aparença de precisió que no correspon amb la informació disponible.
L’avaluació preventiva ha de coordinar-se amb protecció de dades i amb la normativa d’IA aplicable. El Reglament europeu d’IA estableix obligacions segons el tipus de sistema i els rols, amb regles específiques i un calendari d’aplicació. Aquesta classificació jurídica no substitueix l’avaluació de riscos laborals. Un ús que no sigui d’alt risc en aquest reglament pot requerir mesures preventives en el lloc.
Seleccionar i comprovar mesures
Les mesures poden incloure redissenyar el procés, limitar funcions, millorar dades, evitar accions automàtiques amb conseqüències crítiques i establir supervisió humana efectiva. La formació ha d’explicar límits i errors possibles, a més d’ensenyar a utilitzar la interfície. Un avís genèric de precaució no compensa una configuració que dificulta intervenir.
Abans del desplegament convé realitzar proves representatives i definir criteris d’acceptació. També es necessita una forma segura de continuar el treball si el sistema falla o ha de retirar-se. Les comprovacions han de centrar-se en conseqüències per a la seguretat i salut, a més de rendiment informàtic, i conservar evidència dels problemes detectats i les correccions realitzades.
Exemple pràctic
En una situació hipotètica, una empresa prova un sistema que prioritza inspeccions segons incidents registrats. Els centres que comuniquen més observacions reben més inspeccions, mentre uns altres amb escassa notificació semblen segurs. L’avaluació identifica que el sistema pot confondre una bona cultura de comunicació amb major perillositat.
Es revisen les variables, la cobertura de dades i els criteris de prioritat. S’incorporen comprovacions independents i s’evita que el resultat sigui l’única base de planificació. El cas mostra que un càlcul correcte pot produir una decisió preventiva inadequada quan la informació utilitzada no representa de manera comparable l’exposició.
Seguiment després de la implantació
L’avaluació ha de mantenir-se visqui durant l’ús. Canvis de model, regles, dades, llocs o connexions poden alterar els riscos. Han d’existir responsables per a revisar incidències, queixes, desviacions i efectes no previstos, així com per a modificar o suspendre l’eina quan les mesures deixen de ser suficients.
L’eficàcia es comprova observant el treball i els seus resultats, no sols comptabilitzant usuaris o respostes generades. Convé contrastar qualitat de decisions, càrrega de revisió, accés a suport i funcionament dels controls. La implantació és més sòlida quan l’organització pot explicar quins riscos ha identificat i quina evidència mostra que estan controlats.
