Qui és Francesca Rossi
Francesca Rossi és una investigadora italiana d’intel·ligència artificial, IBM Fellow i responsable global d’IA responsable i governança d’IA a IBM. Treballa al centre T. J. Watson i combina recerca sobre raonament, preferències i decisions col·lectives amb el desenvolupament de pràctiques de governança tecnològica. [1]
Pisa, Pàdua i l’etapa a Harvard
Es va graduar en Ciències de la Informació a la Universitat de Pisa el 1986 i hi va obtenir el doctorat en Informàtica el 1993. Va treballar com a investigadora a Pisa entre 1992 i 1998, abans d’incorporar-se a la Universitat de Pàdua com a professora associada i posteriorment catedràtica. [2]
Durant l’estada de 2014–2015 al Radcliffe Institute de Harvard va investigar com extreure, representar i combinar preferències per prendre decisions col·lectives. El projecte connectava intel·ligència artificial, llenguatge natural i teoria de la votació, incloent-hi preferències sobre elements relacionats i no només opinions aïllades. [5]
IBM la va distingir com a Fellow el 2020. En descriure la transició des de la universitat, Rossi va destacar que el contacte amb humanitats i arts a Radcliffe havia ampliat la manera de plantejar les qüestions ètiques de la IA. L’experiència va precedir la incorporació a IBM i la seva feina institucional sobre ètica. [6]
Restriccions, preferències i elecció social
Amb Stefano Bistarelli i Ugo Montanari va publicar el 1997 un marc de satisfacció i optimització de restriccions basat en semianells. La proposta permetia representar en una estructura algebraica comuna problemes clàssics, ponderats i difusos, i estudiar quan s’hi podien traslladar tècniques de consistència i resolució. [7]
Va ser coeditora, amb Peter van Beek i Toby Walsh, del Handbook of Constraint Programming de 2006. El volum reuneix fonaments, algorismes i aplicacions en planificació, configuració, rutes i altres problemes combinatoris. El seu paper va ser coordinar una obra col·lectiva de l’àrea, a més de contribuir a la introducció. [8]
El 2011 va publicar amb Kristen Brent Venable i Toby Walsh A Short Introduction to Preferences. El llibre enllaça representació de preferències, incertesa, votació i aparellaments estables. Tracta tant les decisions d’un sol agent com la dificultat d’agregar preferències de diverses persones sense perdre de vista les diferències. [9]
Com incorporar límits i valors a la IA
A Building Ethically Bounded AI, escrit amb Nicholas Mattei i difós el 2018, distingeix objectius, preferències personals i límits ètics. Proposa combinar components d’aprenentatge i regles segons el context. L’article formula un programa de recerca: especificar els límits i resoldre’n els conflictes continua sent part del problema. [3]
Un altre treball de 2018, amb Avinash Balakrishnan, Djallel Bouneffouf i Mattei, presenta Behavior Constrained Thompson Sampling. L’agent aprèn restriccions observant un mestre i les combina amb senyals de recompensa. Els experiments estudien com mantenir aquestes restriccions sense perdre innecessàriament rendiment en les tasques avaluades. [10]
En una recerca col·lectiva sobre aprenentatge per reforç multiobjectiu, les normes s’aprenien de demostracions i un coordinador seleccionava entre polítiques segons el context. Els autors ho van assajar a Pac-Man. L’interès és fer visible quina política guia cada decisió i com es negocien objectius diferents en un entorn experimental. [11]
El 2024 va participar en un estudi de judicis morals sobre saltar-se una cua. Amb Edmond Awad i altres col·laboradors va comparar un model gràfic de preferències amb mètodes d’aprenentatge automàtic per predir respostes humanes. El treball examina quan el context modifica un judici, sense convertir la predicció en una regla moral universal. [14]
SOFAI: raonament ràpid, deliberació i control
L’arquitectura Slow and Fast AI combina solucionadors ràpids i lents sota un agent metacognitiu que decideix quin utilitzar i aprèn d’experiències prèvies. Rossi és coautora de l’article publicat a Communications of the ACM el 2025. Les avaluacions analitzen qualitat de decisió, recursos i eficiència en instàncies concretes de l’arquitectura. [4]
Plan-SOFAI, presentat en un taller d’AAAI del 2024, aplica aquesta idea a la planificació automàtica. Integra diferents planificadors i un procés de selecció, cercant equilibrar rapidesa i qualitat dels plans. La proposta connecta aprenentatge i raonament simbòlic, dues tradicions d’IA que la seva feina tracta de complementar. [12]
Al tutorial SOFAI-LM d’AAAI 2026, Rossi i els seus col·laboradors van mostrar com controlar un model de llenguatge ràpid i recórrer selectivament a un altre de més deliberatiu. Els exemples incloïen coloració de grafs i depuració de codi, amb avaluadors de correcció, retroalimentació i límits d’iteració per estudiar el cost del raonament. [13]
Governança i responsabilitat a IBM
En un text de 2023 signat amb Christina Montgomery va explicar una estructura de govern que combina supervisió directiva, un comitè interdisciplinari, responsables de referència a les unitats i una xarxa interna de suport. El plantejament converteix principis generals en processos de revisió i elevació de casos, en lloc de confiar només en declaracions ètiques. [15]
L’article de 2018 per a la Comissió Europea documenta la col·laboració amb l’equip de disseny d’IBM en Everyday Ethics for Artificial Intelligence. La guia s’adreçava a dissenyadors i desenvolupadors per integrar qüestions ètiques des de la creació del servei. Rossi participava aleshores en el grup europeu d’experts d’alt nivell sobre IA. [16]
En una entrevista del juny de 2026 va descriure l’ús d’assistents d’IA com a suport per pensar i treballar, mantenint la responsabilitat humana sobre les respostes. El seu criteri és que l’eina no pot assumir el retiment de comptes per un contingut o una decisió que una persona decideix utilitzar. [25]
Lideratge de la comunitat científica
Va ser presidenta de l’Association for the Advancement of Artificial Intelligence entre 2022 i 2024. El mandat correspon a una associació científica internacional dedicada a l’avenç i l’intercanvi de recerca en IA. [17]
El directori d’AAAI consultat el 2026 la situa al capdavant dels comitès de premis, Fellows i nominacions, i d’iniciatives globals i política d’IA. Són responsabilitats de servei a la comunitat, diferents de la presidència que va exercir anteriorment. [18]
El 2025 va moderar panels d’AAAI sobre percepció i realitat de la IA, sostenibilitat i agents. Les trobades van reunir especialistes amb posicions diferents sobre les capacitats i conseqüències d’aquests sistemes, prolongant el seu interès per connectar recerca tècnica i debat públic. [22]
Aliances i reconeixements
AAAI la va elegir Fellow el 2012, una distinció que reconeix contribucions sostingudes i rellevants al camp. El programa d’aquell any la identificava com a investigadora de la Universitat de Pàdua. [19]
Va ser directora fundadora de Partnership on AI. L’organització li va concedir un ChangeMaker Award el 2025 per la contribució a la col·laboració sobre IA responsable i pel servei prestat al seu consell. [23]
Partnership on AI va comunicar l’agost de 2025 que el seu mandat al consell havia conclòs. La contribució fundacional continua sent una fita de trajectòria, mentre que la composició de l’òrgan va continuar renovant-se. [24]
Llibres i divulgació de la IA
Il confine del futuro. Possiamo fidarci dell’intelligenza artificiale?, publicat per Feltrinelli el 2019, trasllada al públic general preguntes sobre funcionament, capacitats i límits de la IA. El llibre connecta la seva experiència científica amb la qüestió de quines condicions permeten confiar en una tecnologia present en decisions quotidianes. [20]
L’agost de 2026 va impartir per a ACM EIGTRUST una conferència sobre l’evolució de la governança des de l’aprenentatge automàtic fins a la IA amb agents. El tema prolonga una línia constant de la seva trajectòria: revisar els mecanismes de control quan canvien les capacitats i les formes d’ús dels sistemes. [21]
