Quién es Francesca Rossi
Francesca Rossi es una investigadora italiana de inteligencia artificial, IBM Fellow y responsable global de IA responsable y gobernanza de IA en IBM. Trabaja en el centro T. J. Watson y combina investigación sobre razonamiento, preferencias y decisiones colectivas con el desarrollo de prácticas de gobernanza tecnológica. [1]
Pisa, Padua y la etapa en Harvard
Se graduó en Ciencias de la Información en la Universidad de Pisa en 1986 y obtuvo allí el doctorado en Informática en 1993. Trabajó como investigadora en Pisa entre 1992 y 1998, antes de incorporarse a la Universidad de Padua como profesora asociada y posteriormente catedrática. [2]
Durante su estancia de 2014–2015 en el Radcliffe Institute de Harvard investigó cómo extraer, representar y combinar preferencias para tomar decisiones colectivas. El proyecto conectaba inteligencia artificial, lenguaje natural y teoría de la votación, incluyendo preferencias sobre elementos relacionados y no solo opiniones aisladas. [5]
IBM la distinguió como Fellow en 2020. Al describir su transición desde la universidad, Rossi destacó que el contacto con humanidades y artes en Radcliffe había ampliado su manera de plantear las cuestiones éticas de la IA. Esa experiencia precedió a su incorporación a IBM y a su trabajo institucional sobre ética. [6]
Restricciones, preferencias y elección social
Con Stefano Bistarelli y Ugo Montanari publicó en 1997 un marco de satisfacción y optimización de restricciones basado en semianillos. La propuesta permitía representar en una estructura algebraica común problemas clásicos, ponderados y difusos, y estudiar cuándo podían trasladarse entre ellos técnicas de consistencia y resolución. [7]
Fue coeditora, junto a Peter van Beek y Toby Walsh, del Handbook of Constraint Programming de 2006. El volumen reúne fundamentos, algoritmos y aplicaciones en planificación, configuración, rutas y otros problemas combinatorios. Su papel fue coordinar una obra colectiva del área, además de contribuir a su introducción. [8]
En 2011 publicó con Kristen Brent Venable y Toby Walsh A Short Introduction to Preferences. El libro enlaza representación de preferencias, incertidumbre, votación y emparejamientos estables. Trata tanto las decisiones de un solo agente como la dificultad de agregar preferencias de varias personas sin perder de vista sus diferencias. [9]
Cómo incorporar límites y valores a la IA
En Building Ethically Bounded AI, escrito con Nicholas Mattei y difundido en 2018, distingue objetivos, preferencias personales y límites éticos. Propone combinar componentes de aprendizaje y reglas según el contexto. El artículo formula un programa de investigación: especificar los límites y resolver sus conflictos sigue siendo parte del problema. [3]
Otro trabajo de 2018, con Avinash Balakrishnan, Djallel Bouneffouf y Mattei, presenta Behavior Constrained Thompson Sampling. El agente aprende restricciones observando a un maestro y las combina con señales de recompensa. Los experimentos estudian cómo mantener esas restricciones sin perder innecesariamente rendimiento en las tareas evaluadas. [10]
En una investigación colectiva sobre aprendizaje por refuerzo multiobjetivo, las normas se aprendían de demostraciones y un coordinador seleccionaba entre políticas según el contexto. Los autores lo ensayaron en Pac-Man. El interés está en hacer visible qué política guía cada decisión y cómo se negocian objetivos diferentes en un entorno experimental. [11]
En 2024 participó en un estudio de juicios morales sobre saltarse una cola. Con Edmond Awad y otros colaboradores comparó un modelo gráfico de preferencias con métodos de aprendizaje automático para predecir respuestas humanas. El trabajo examina cuándo el contexto modifica un juicio, sin convertir esa predicción en una regla moral universal. [14]
SOFAI: razonamiento rápido, deliberación y control
La arquitectura Slow and Fast AI combina solucionadores rápidos y lentos bajo un agente metacognitivo que decide cuál utilizar y aprende de experiencias previas. Rossi es coautora del artículo publicado en Communications of the ACM en 2025. Sus evaluaciones analizan calidad de decisión, recursos y eficiencia en instancias concretas de la arquitectura. [4]
Plan-SOFAI, presentado en un taller de AAAI de 2024, aplica esta idea a la planificación automática. Integra distintos planificadores y un proceso de selección, buscando equilibrar rapidez y calidad de los planes. La propuesta conecta aprendizaje y razonamiento simbólico, dos tradiciones de IA que su trabajo trata de complementar. [12]
En el tutorial SOFAI-LM de AAAI 2026, Rossi y sus colaboradores mostraron cómo controlar un modelo de lenguaje rápido y recurrir selectivamente a otro más deliberativo. Los ejemplos incluían coloreado de grafos y depuración de código, con evaluadores de corrección, retroalimentación y límites de iteración para estudiar el coste del razonamiento. [13]
Gobernanza y responsabilidad en IBM
En un texto de 2023 firmado con Christina Montgomery explicó una estructura de gobierno que combina supervisión directiva, un comité interdisciplinar, responsables de referencia en las unidades y una red interna de apoyo. Su planteamiento convierte principios generales en procesos de revisión y escalado de casos, en lugar de confiar únicamente en declaraciones éticas. [15]
Su artículo de 2018 para la Comisión Europea documenta la colaboración con el equipo de diseño de IBM en Everyday Ethics for Artificial Intelligence. La guía se dirigía a diseñadores y desarrolladores para integrar cuestiones éticas desde la creación del servicio. Rossi participaba entonces en el grupo europeo de expertos de alto nivel sobre IA. [16]
En una entrevista de junio de 2026 describió el uso de asistentes de IA como apoyo para pensar y trabajar, manteniendo la responsabilidad humana sobre sus respuestas. Su criterio es que la herramienta no puede asumir la rendición de cuentas por un contenido o una decisión que una persona decide utilizar. [25]
Liderazgo de la comunidad científica
Fue presidenta de la Association for the Advancement of Artificial Intelligence entre 2022 y 2024. El mandato corresponde a una asociación científica internacional dedicada al avance y al intercambio de investigación en IA. [17]
El directorio de AAAI consultado en 2026 la sitúa al frente de los comités de premios, Fellows y nominaciones, y de iniciativas globales y política de IA. Son responsabilidades de servicio a la comunidad, distintas de la presidencia que ejerció anteriormente. [18]
En 2025 moderó paneles de AAAI sobre percepción y realidad de la IA, sostenibilidad y agentes. Los encuentros reunieron especialistas con posiciones distintas sobre las capacidades y consecuencias de estos sistemas, prolongando su interés por conectar investigación técnica y debate público. [22]
Alianzas y reconocimientos
AAAI la eligió Fellow en 2012, una distinción que reconoce contribuciones sostenidas y relevantes al campo. El programa de aquel año la identificaba como investigadora de la Universidad de Padua. [19]
Fue directora fundadora de Partnership on AI. La organización le concedió un ChangeMaker Award en 2025 por su contribución a la colaboración sobre IA responsable y por el servicio prestado a su consejo. [23]
Partnership on AI comunicó en agosto de 2025 que su mandato en el consejo había concluido. Su contribución fundacional permanece como un hito de trayectoria, mientras que la composición del órgano continuó renovándose. [24]
Libros y divulgación de la IA
Il confine del futuro. Possiamo fidarci dell’intelligenza artificiale?, publicado por Feltrinelli en 2019, traslada al público general preguntas sobre funcionamiento, capacidades y límites de la IA. El libro conecta su experiencia científica con la cuestión de qué condiciones permiten confiar en una tecnología presente en decisiones cotidianas. [20]
En agosto de 2026 impartió para ACM EIGTRUST una conferencia sobre la evolución de la gobernanza desde el aprendizaje automático hasta la IA con agentes. El tema prolonga una línea constante de su trayectoria: revisar los mecanismos de control cuando cambian las capacidades y las formas de uso de los sistemas. [21]
