Quién es Stuart Russell
Stuart Russell nació en Portsmouth, Inglaterra, en 1962. Es investigador en inteligencia artificial y coautor, con Peter Norvig, del manual Artificial Intelligence: A Modern Approach. [7]
Es profesor emérito y profesor de la Graduate School de la Universidad de California, Berkeley, titular de la cátedra Smith-Zadeh y director del Center for Human-Compatible Artificial Intelligence, CHAI. Su investigación aborda razonamiento, aprendizaje y decisiones de agentes computacionales. [1]
Formación y carrera académica
Se graduó con honores de primera clase en física en Oxford en 1982 y obtuvo el doctorado en informática en Stanford en 1986. [7]
Antes había trabajado como programador para IBM en Reino Unido y Estados Unidos. Se incorporó a Berkeley en 1986 y alcanzó el rango de professor en 1996. Dirigió el departamento de ingeniería eléctrica e informática entre 2008 y 2010 y ocupó la cátedra Blaise Pascal en París entre 2012 y 2014. [8]
Su tesis, Analogical and Inductive Reasoning, estudió el razonamiento por analogía y la inducción. A esa primera etapa pertenece también The Use of Knowledge in Analogy and Induction, publicado en 1989. Ambos trabajos sitúan la representación del conocimiento y la generalización entre sus intereses iniciales. [9]
Decidir con tiempo y recursos limitados
En Do the Right Thing: Studies in Limited Rationality, publicado en 1991 con Eric Wefald, examinó cómo deben actuar sistemas que no pueden calcular todas las alternativas posibles. El libro estudia la racionalidad de programas con recursos finitos y el valor de dedicar más cálculo a una decisión, con aplicaciones a planificación y resolución de problemas en tiempo real. [10]
Probabilidad, lógica y aprendizaje de objetivos
Con Brian Milch y otros colaboradores presentó BLOG en 2005. Este lenguaje permite representar mundos en los que no se conoce de antemano cuántos objetos existen ni si observaciones distintas corresponden al mismo objeto. Combina lógica y probabilidad para razonar sobre esas identidades inciertas, un problema relevante al interpretar sensores o relacionar registros. [11]
En 2000 publicó con Andrew Ng Algorithms for Inverse Reinforcement Learning. El problema consiste en inferir una función de recompensa a partir de un comportamiento observado. Los autores mostraron que varias recompensas pueden explicar la misma conducta y propusieron algoritmos para distinguir entre ellas bajo supuestos explícitos sobre el entorno y las decisiones observadas. [12]
Aplicaciones a señales sísmicas y fisiológicas
Con Nimar Arora y Erik Sudderth desarrolló NET-VISA, descrito en 2013. El proyecto utiliza un enfoque bayesiano para relacionar señales de distintas estaciones y detectar y localizar acontecimientos sísmicos. Esta línea llevó sus métodos de inferencia al seguimiento geofísico y a la verificación del tratado de prohibición de ensayos nucleares. [13]
La CTBTO documentó que desde enero de 2018 NET-VISA producía un boletín automático paralelo al sistema existente. Los eventos complementarios se presentaban a analistas para su revisión. La adopción incluyó pruebas y adaptación operativa, con una reducción documentada de eventos omitidos respecto al procesamiento anterior. [14]
Su trabajo sobre fisiología computacional incluye un estudio de 2015 con Hugh Chen, Yusuf Erol y Eric Shen sobre detección de latidos. El equipo combinó un modelo generativo de señales fisiológicas con inferencia bayesiana y lo evaluó en tres conjuntos de datos de PhysioNet. El resultado corresponde a reconocimiento de señales, no a un ensayo de resultados clínicos en pacientes. [15]
Artificial Intelligence: A Modern Approach
La primera edición del manual que escribió con Peter Norvig apareció en 1995. Las ediciones sucesivas y sus traducciones han acompañado cambios importantes de la disciplina, desde los sistemas basados en conocimiento hasta el aprendizaje automático y los modelos de mayor escala. [16]
La cuarta edición organiza la materia alrededor de agentes inteligentes, búsqueda, lógica, planificación, probabilidad, aprendizaje, lenguaje, visión y robótica. Incluye también ética y seguridad. El sitio de los autores ofrece ejercicios, código y pseudocódigo: materiales para convertir conceptos en problemas que el estudiante puede analizar e implementar. [2]
CHAI y la cooperación entre personas y máquinas
En 2016 Berkeley inauguró CHAI bajo su dirección, con investigadores como Pieter Abbeel, Anca Dragan y Tom Griffiths y colaboradores de Cornell y Michigan. El centro reunió métodos de IA con cuestiones de economía, filosofía y ciencias sociales para investigar sistemas que actúen de manera compatible con los intereses humanos. [17]
CHAI desarrolla teoría, experimentos y análisis de políticas sobre IA beneficiosa. Una de sus preguntas centrales es cómo evitar que una medida sustituta, como clics o aciertos, se confunda con el conjunto de valores que realmente se pretende proteger. [3]
En Cooperative Inverse Reinforcement Learning, de 2016, Russell, Dylan Hadfield-Menell, Dragan y Abbeel modelaron la interacción entre una persona y un robot como un juego cooperativo. Ambos persiguen un objetivo común, pero el robot lo desconoce inicialmente. El planteamiento permite estudiar enseñanza, aprendizaje activo y comunicación como partes de una misma decisión. [18]
The Off-Switch Game analizó después los incentivos para aceptar una interrupción humana. En el modelo, la incertidumbre del agente acerca del valor de una acción puede hacer útil conservar esa intervención. El resultado depende de los supuestos del juego y constituye un análisis formal de incentivos, no una garantía general de control de cualquier sistema. [19]
Human Compatible y divulgación pública
En Human Compatible, publicado en 2019, trasladó al público general el problema de mantener el control de una IA cada vez más capaz. Propuso sistemas que conserven incertidumbre sobre las preferencias humanas y aprendan de ellas. El libro presenta esa alternativa como una dirección de investigación y diseño frente a objetivos rígidos definidos de antemano. [20]
Impartió las Reith Lectures de la BBC de 2021, reunidas bajo Living With Artificial Intelligence. Las cuatro conferencias trataron la importancia histórica de la IA, su uso en la guerra, sus consecuencias económicas y las condiciones para un futuro compatible con las personas. La serie llevó debates técnicos a una audiencia radiofónica amplia. [21]
En Berkeley participa también en la dirección del Kavli Center for Ethics, Science, and the Public. Ese trabajo conecta las decisiones científicas con sus consecuencias sociales y con la participación del público en debates sobre tecnologías emergentes. [4]
Armas autónomas y gobernanza de la IA
En 2017 colaboró en Slaughterbots, un cortometraje de ficción difundido antes de una reunión de Naciones Unidas sobre armas autónomas. El escenario de pequeños drones letales se utilizó para defender restricciones a estas armas y promover debate sobre el control humano de decisiones de fuerza. [22]
En 2024 escribió con Francesca Rossi y Michael Schoenstein un análisis para OECD.AI sobre futuros posibles de la IA. Defendieron anticipación, transparencia y gestión de riesgos durante el ciclo de vida, junto con preparación de los trabajadores para cambios económicos. [23]
Premios y reconocimientos
Recibió el Computers and Thought de IJCAI en 1995 y el premio de excelencia investigadora de la misma organización en 2022. Este último reconoció sus contribuciones a lógica bayesiana, racionalidad limitada e inferencia en condiciones de incertidumbre. [24]
Fue distinguido con el ACM/AAAI Allen Newell Award de 2022 por aportaciones fundamentales a la IA, especialmente en razonamiento probabilístico, racionalidad limitada e IA ética. [27]
Recibió un OBE en 2021 y fue elegido miembro de la Royal Society en 2025. [25] Ese mismo año ingresó en la National Academy of Engineering, que destacó su trabajo en razonamiento, planificación, seguridad y educación. [26]
Interpretar el objetivo antes de optimizarlo
En Inverse Reward Design, Russell y sus coautores proponen tratar la recompensa diseñada como información incompleta sobre lo que una persona desea. El método considera el contexto de entrenamiento para evitar que una regla útil allí produzca consecuencias indeseadas en situaciones nuevas. [5]
La investigación de Liu y colaboradores sobre colaboración industrial persona-robot cita este trabajo al plantear el diseño de recompensas para evitar colisiones. La evaluación es simulada. [6]
Una conexión concreta con la prevención de colisiones
El problema preventivo aparece cuando una instrucción de rendimiento deja implícitas condiciones esenciales. Que una trayectoria fuera aceptable en el entorno de entrenamiento no significa que siga siéndolo después de cambiar la disposición del puesto o la presencia de personas.
La contribución de Russell permite razonar sobre esa incertidumbre del objetivo; no equivale a diseñar los resguardos o la parada de la máquina. Para una aplicación laboral importa hacer explícitas las condiciones que no pueden sacrificarse por mejorar la recompensa y volver a comprobarlas cuando cambia el escenario. Esta es una aportación científica al diseño de sistemas, no un resultado de reducción de accidentes.
