Qui és Stuart Russell
Stuart Russell va néixer a Portsmouth, Anglaterra, el 1962. És investigador en intel·ligència artificial i coautor, amb Peter Norvig, del manual Artificial Intelligence: A Modern Approach. [7]
És professor emèrit i professor de la Graduate School de la Universitat de Califòrnia, Berkeley, titular de la càtedra Smith-Zadeh i director del Center for Human-Compatible Artificial Intelligence, CHAI. La recerca aborda raonament, aprenentatge i decisions d’agents computacionals. [1]
Formació i carrera acadèmica
Es va graduar amb honors de primera classe en física a Oxford el 1982 i va obtenir el doctorat en informàtica a Stanford el 1986. [7]
Abans havia treballat com a programador per a IBM al Regne Unit i als Estats Units. Es va incorporar a Berkeley el 1986 i va assolir el rang de professor el 1996. Va dirigir el departament d’enginyeria elèctrica i informàtica entre 2008 i 2010 i va ocupar la càtedra Blaise Pascal a París entre 2012 i 2014. [8]
La tesi, Analogical and Inductive Reasoning, va estudiar el raonament per analogia i la inducció. A aquella primera etapa pertany també The Use of Knowledge in Analogy and Induction, publicat el 1989. Tots dos treballs situen la representació del coneixement i la generalització entre els interessos inicials. [9]
Decidir amb temps i recursos limitats
A Do the Right Thing: Studies in Limited Rationality, publicat el 1991 amb Eric Wefald, va examinar com han d’actuar sistemes que no poden calcular totes les alternatives possibles. El llibre estudia la racionalitat de programes amb recursos finits i el valor de dedicar més càlcul a una decisió, amb aplicacions a planificació i resolució de problemes en temps real. [10]
Probabilitat, lògica i aprenentatge d’objectius
Amb Brian Milch i altres col·laboradors va presentar BLOG el 2005. Aquest llenguatge permet representar mons en què no es coneix prèviament quants objectes existeixen ni si observacions diferents corresponen al mateix objecte. Combina lògica i probabilitat per raonar sobre aquestes identitats incertes, un problema rellevant quan s’interpreten sensors o es relacionen registres. [11]
El 2000 va publicar amb Andrew Ng Algorithms for Inverse Reinforcement Learning. El problema consisteix a inferir una funció de recompensa a partir d’un comportament observat. Els autors van mostrar que diverses recompenses poden explicar la mateixa conducta i van proposar algoritmes per distingir-les sota supòsits explícits sobre l’entorn i les decisions observades. [12]
Aplicacions a senyals sísmics i fisiològics
Amb Nimar Arora i Erik Sudderth va desenvolupar NET-VISA, descrit el 2013. El projecte utilitza un enfocament bayesià per relacionar senyals d’estacions diferents i detectar i localitzar esdeveniments sísmics. Aquesta línia va portar els mètodes d’inferència al seguiment geofísic i a la verificació del tractat de prohibició d’assaigs nuclears. [13]
La CTBTO va documentar que des del gener de 2018 NET-VISA produïa un butlletí automàtic paral·lel al sistema existent. Els esdeveniments complementaris es presentaven a analistes per revisar-los. L’adopció va incloure proves i adaptació operativa, amb una reducció documentada d’esdeveniments omesos respecte del processament anterior. [14]
El treball sobre fisiologia computacional inclou un estudi de 2015 amb Hugh Chen, Yusuf Erol i Eric Shen sobre detecció de batecs. L’equip va combinar un model generatiu de senyals fisiològics amb inferència bayesiana i el va avaluar en tres conjunts de dades de PhysioNet. El resultat correspon a reconeixement de senyals, no a un assaig de resultats clínics en pacients. [15]
Artificial Intelligence: A Modern Approach
La primera edició del manual que va escriure amb Peter Norvig va aparèixer el 1995. Les edicions successives i les traduccions han acompanyat canvis importants de la disciplina, des dels sistemes basats en coneixement fins a l’aprenentatge automàtic i els models de més escala. [16]
La quarta edició organitza la matèria al voltant d’agents intel·ligents, cerca, lògica, planificació, probabilitat, aprenentatge, llenguatge, visió i robòtica. Inclou també ètica i seguretat. El web dels autors ofereix exercicis, codi i pseudocodi: materials per convertir conceptes en problemes que l’estudiant pot analitzar i implementar. [2]
CHAI i la cooperació entre persones i màquines
El 2016 Berkeley va inaugurar CHAI sota la seva direcció, amb investigadors com Pieter Abbeel, Anca Dragan i Tom Griffiths i col·laboradors de Cornell i Michigan. El centre va reunir mètodes d’IA amb qüestions d’economia, filosofia i ciències socials per investigar sistemes que actuïn de manera compatible amb els interessos humans. [17]
CHAI desenvolupa teoria, experiments i anàlisi de polítiques sobre IA beneficiosa. Una de les preguntes centrals és com evitar que una mesura substitutiva, com clics o encerts, es confongui amb el conjunt de valors que realment es vol protegir. [3]
A Cooperative Inverse Reinforcement Learning, de 2016, Russell, Dylan Hadfield-Menell, Dragan i Abbeel van modelar la interacció entre una persona i un robot com un joc cooperatiu. Tots dos persegueixen un objectiu comú, però el robot el desconeix inicialment. El plantejament permet estudiar ensenyament, aprenentatge actiu i comunicació com a parts d’una mateixa decisió. [18]
The Off-Switch Game va analitzar després els incentius per acceptar una interrupció humana. En el model, la incertesa de l’agent sobre el valor d’una acció pot fer útil conservar aquesta intervenció. El resultat depèn dels supòsits del joc i constitueix una anàlisi formal d’incentius, no una garantia general de control de qualsevol sistema. [19]
Human Compatible i divulgació pública
A Human Compatible, publicat el 2019, va traslladar al públic general el problema de mantenir el control d’una IA cada vegada més capaç. Va proposar sistemes que conservin incertesa sobre les preferències humanes i n’aprenguin. El llibre presenta aquesta alternativa com una direcció de recerca i disseny davant d’objectius rígids definits prèviament. [20]
Va impartir les Reith Lectures de la BBC de 2021, reunides sota Living With Artificial Intelligence. Les quatre conferències van tractar la importància històrica de la IA, l’ús en la guerra, les conseqüències econòmiques i les condicions per a un futur compatible amb les persones. La sèrie va portar debats tècnics a una audiència radiofònica àmplia. [21]
A Berkeley participa també en la direcció del Kavli Center for Ethics, Science, and the Public. Aquesta feina connecta les decisions científiques amb les conseqüències socials i amb la participació del públic en debats sobre tecnologies emergents. [4]
Armes autònomes i governança de la IA
El 2017 va col·laborar en Slaughterbots, un curtmetratge de ficció difós abans d’una reunió de Nacions Unides sobre armes autònomes. L’escenari de petits drons letals es va utilitzar per defensar restriccions a aquestes armes i promoure debat sobre el control humà de decisions de força. [22]
El 2024 va escriure amb Francesca Rossi i Michael Schoenstein una anàlisi per a OECD.AI sobre futurs possibles de la IA. Van defensar anticipació, transparència i gestió de riscos durant el cicle de vida, juntament amb preparació dels treballadors per als canvis econòmics. [23]
Premis i reconeixements
Va rebre el Computers and Thought d’IJCAI el 1995 i el premi d’excel·lència investigadora de la mateixa organització el 2022. Aquest darrer va reconèixer les contribucions a lògica bayesiana, racionalitat limitada i inferència en condicions d’incertesa. [24]
Va ser distingit amb l’ACM/AAAI Allen Newell Award de 2022 per aportacions fonamentals a la IA, especialment en raonament probabilístic, racionalitat limitada i IA ètica. [27]
Va rebre un OBE el 2021 i va ser elegit membre de la Royal Society el 2025. [25] Aquell mateix any va ingressar a la National Academy of Engineering, que va destacar el treball en raonament, planificació, seguretat i educació. [26]
Interpretar l’objectiu abans d’optimitzar-lo
A Inverse Reward Design, Russell i els seus coautors proposen tractar la recompensa dissenyada com a informació incompleta sobre allò que una persona desitja. El mètode considera el context d’entrenament per evitar que una regla útil allà produeixi conseqüències no desitjades en situacions noves. [5]
La recerca de Liu i col·laboradors sobre col·laboració industrial persona-robot cita aquest treball quan planteja el disseny de recompenses per evitar col·lisions. L’avaluació és simulada. [6]
Una connexió concreta amb la prevenció de col·lisions
El problema preventiu apareix quan una instrucció de rendiment deixa implícites condicions essencials. Que una trajectòria fos acceptable en l’entorn d’entrenament no significa que ho continuï sent després de canviar la disposició del lloc o la presència de persones.
La contribució de Russell permet raonar sobre aquesta incertesa de l’objectiu; no equival a dissenyar els resguards o l’aturada de la màquina. Per a una aplicació laboral importa fer explícites les condicions que no es poden sacrificar per millorar la recompensa i tornar-les a comprovar quan canvia l’escenari. És una aportació científica al disseny de sistemes, no un resultat de reducció d’accidents.
