Què és un model de llenguatge i què fa un agent
Un model de llenguatge genera text a partir de patrons apresos i del context que rep. L’aplicació pot afegir cerca, documents o eines. Per això, dues aplicacions basades en models similars poden oferir resultats molt distints.
Un agent d’IA pot utilitzar eines i executar passos per a aconseguir un objectiu; la generació de text és només una capacitat possible. Tenir accés a documents no garanteix que els interpreti bé. Convé diferenciar una resposta redactada pel model, una cita recuperada i una acció realitzada sobre un sistema.
Per a què pot servir en el treball preventiu
Les tasques delimitades, amb materials revisats i un resultat comprovable, faciliten un ús útil. Alguns exemples són convertir notes en un esborrany d’acta, resumir un informe, adaptar vocabulari per a un públic concret o comparar dues versions d’un procediment.
També pot proposar preguntes per a una recerca o assenyalar incoherències que una persona revisarà. La cerca normativa requereix obrir i comprovar la font oficial. No n’hi ha prou amb demanar «la legislació vigent». Una avaluació de riscos exigeix conèixer tasques, equips i condicions reals; descriure’ls de manera convincent no demostra que s’hagin observat.
Riscos que han de controlar-se
Els models poden generar referències inexistents, barrejar obligacions de països diferents o mantenir informació desactualitzada. També poden ometre una excepció important, simplificar una instrucció fins a tornar-la insegura o assumir dades que ningú va proporcionar.
El perfil d’IA generativa del NIST ofereix un marc voluntari per a gestionar riscos al llarg de l’ús del sistema. En prevenció, interessa registrar fallades rellevants i comprovar si es repeteixen. No existeix un percentatge d’encert genèric que faci adequada qualsevol aplicació: el criteri depèn de la tasca i de les conseqüències d’un error.
Com verificar una resposta abans d’utilitzar-la
- Defineix la tasca, el país, el centre i el tipus de document esperat.
- Aporta només la informació necessària i separa fets d’hipòtesis.
- Demana que s’identifiquin les fonts i les incerteses.
- Obre cada referència: comprova que existeix, que recolza l’afirmació i que correspon a la versió aplicable.
- Contrasta mesures, xifres i condicions amb la situació real.
- Assigna una revisió competent i conserva la versió aprovada quan formi part de l’expedient preventiu.
Una segona resposta del mateix model no constitueix una verificació independent. Si la font no apareix o es contradiu amb les dades del centre, l’afirmació ha de quedar pendent.
Dades personals, permisos i responsabilitat
Abans d’introduir informació en una eina, revisa el contracte, els usos de les dades, els accessos i la conservació. El RGPD exigeix una base jurídica i mesures adequades; les dades de salut mereixen especial protecció. La pseudonimització redueix riscos, però no converteix automàticament la informació en anònima.
Usa documents preparats per al fi autoritzat i exclou identificadors innecessaris. Quan l’aplicació pugui actuar, limita els seus permisos i estableix quines accions requereixen validació. A Espanya, emprar IA no trasllada a l’eina el deure empresarial de protecció ni substitueix la competència dels qui realitzen les activitats preventives.
Exemple hipotètic: revisar una instrucció de neteja
Un tècnic demana un esborrany per a netejar una màquina usant el manual vigent i el procediment del centre. La resposta proposa un pas que no figura en les fonts i omet una condició de l’aïllament d’energies. El tècnic marca totes dues qüestions i torna al manual i a l’avaluació, en lloc d’acceptar el text per estar ben redactat.
Després de la revisió, es valida el procediment mitjançant el procés habitual de l’empresa i es retira l’esborrany. La fallada es registra per a ajustar les instruccions i les proves de l’eina. La utilitat es mesura pel temps de preparació i revisió, a més dels errors detectats; no pel nombre de documents generats.
