Qui és Dario Amodei
Dario Amodei és cofundador i CEO d’Anthropic, l’empresa de la família de models Claude. En dirigeix l’orientació de recerca i estratègia. La seva germana Daniela Amodei és cofundadora, presidenta de la companyia i presidenta del consell, amb responsabilitats sobre recerca, enginyeria, producte, governança i execució comercial. [1]
Formació científica i primeres investigacions
El seu interès primerenc per la física està documentat en la selecció estatunidenca de l’Olimpíada de Física de 2000, en la llista de la qual apareix amb altres estudiants. La selecció nacional no equival per si sola a obtenir una medalla internacional. [6]
Durant la seva etapa inicial de recerca va publicar amb Stephen Padin, el 2003, Mirrors with Regular Hexagonal Segments. L’article calculava propietats òptiques de miralls compostos per segments hexagonals i estudiava la possibilitat de fabricar grans conjunts de peces similars, connectant modelització física i disseny instrumental. [7]
Va fer estudis de grau a Stanford i un doctorat en Física a Princeton, centrat en biofísica i circuits neuronals. Després va treballar com a investigador postdoctoral a Stanford Medicine, aplicant espectrometria de masses a l’estudi de proteïnes cel·lulars i a la cerca de biomarcadors de càncer. Va ser becari Hertz de la promoció de 2007. [2]
La Fundació Hertz li va concedir el premi de tesi el 2012 per mètodes per registrar i analitzar l’activitat col·lectiva de neurones. El treball estudiava més de 200 cèl·lules de teixit retinià. La comunicació del premi identifica William Bialek com a director i Thomas Tombrello com a mentor durant el grau. [8]
Les seves publicacions amb Gašper Tkačik, Olivier Marre, Michael Berry, Bialek i altres col·laboradors van prolongar aquesta línia. El 2014 van estudiar el comportament col·lectiu en xarxes de neurones sensorials i el 2015 els senyals de criticitat i la seva descripció termodinàmica. Aquesta etapa antecedeix la seva dedicació a grans xarxes neuronals artificials. [9]
De la recerca industrial a OpenAI
A Baidu va participar en Deep Speech 2, publicat el 2015, com a primer autor d’una col·laboració àmplia. El treball emprava aprenentatge profund per reconèixer veu en anglès i mandarí. [10]
Va treballar com a investigador sènior a Google Brain abans d’incorporar-se a OpenAI. Hi va arribar a vicepresident de Recerca i va dirigir el desenvolupament de GPT-2 i GPT-3 amb equips especialitzats. El seu paper combinava direcció científica amb contribucions a publicacions sobre aprenentatge i seguretat. [11]
El desembre de 2020 OpenAI va anunciar la seva sortida després de gairebé cinc anys. L’organització va reconèixer la seva feina amb Ilya Sutskever en la direcció de recerca i va assenyalar que preparava un projecte nou. [12]
Preferències humanes i lleis d’escalat
El 2017 va coescriure Deep Reinforcement Learning from Human Preferences amb Paul Christiano, Jan Leike i altres investigadors. El mètode aprenia de comparacions humanes entre fragments de comportament, amb assajos a Atari i locomoció robòtica simulada. Permetia comunicar objectius sense programar directament una funció de recompensa per a cada tasca. [13]
El 2020 va ser coautor, amb Jared Kaplan i altres col·laboradors, de Scaling Laws for Neural Language Models. L’estudi relacionava empíricament l’error de predicció amb la mida del model, les dades i el càlcul utilitzat. Aquestes relacions orientaven com distribuir recursos d’entrenament; no garantien per si soles veritat o seguretat. [14]
Fundació i govern d’Anthropic
Anthropic es va presentar públicament el maig de 2021 amb una ronda de 124 milions de dòlars. Dario figurava com a CEO i Daniela com a presidenta. El projecte reunia experiència prèvia en models de llenguatge, interpretabilitat i aprenentatge de preferències per investigar sistemes més controlables i fiables. [15]
La companyia és una Public Benefit Corporation. El seu consell s’elegeix mitjançant accionistes i el Long-Term Benefit Trust, dins d’una estructura que vincula activitat empresarial i missió de benefici públic. Amodei forma part del consell, però la direcció i la supervisió institucional corresponen a diverses persones i òrgans. [4]
Claude, IA constitucional i interpretabilitat
Amodei figura entre els coautors de Constitutional AI, publicat el 2022. El mètode utilitza principis escrits per generar crítiques i revisions de respostes i empra retroalimentació d’una altra IA durant l’entrenament. Redueix determinades necessitats d’etiquetatge humà, tot i que continua depenent de decisions humanes sobre principis, dades i avaluació. [16]
Anthropic va presentar Claude el 14 de març de 2023, amb accés mitjançant conversa i API. El llançament incloïa Claude i Claude Instant per a tasques com resum, escriptura, preguntes i programació. La família de productes va traslladar la recerca de la companyia a eines utilitzades per persones i organitzacions. [17]
El 2024 l’equip d’interpretabilitat va identificar patrons d’activació associats a conceptes dins de Claude 3 Sonnet. En modificar alguns patrons van canviar les respostes, cosa que va permetre estudiar mecanismes interns. Era una aproximació parcial al funcionament del model, no una explicació completa de cada decisió. [18]
El setembre de 2026 la companyia va presentar Claude Opus 5.5, orientat a programació amb agents i treball de coneixement. La seva comunicació va incorporar avaluacions externes i mesures de seguretat al costat de les prestacions del model. La direcció d’Amodei emmarca el programa; el desenvolupament pertany a equips de recerca i enginyeria. [19]
Governança de la seguretat d’IA
Anthropic va iniciar la Responsible Scaling Policy el setembre de 2023. La revisió de 2026 va incorporar fulls de ruta de seguretat i publicacions periòdiques de riscos. El marc connecta capacitats, controls i revisió externa, i s’actualitza a mesura que canvien els models. És una política corporativa voluntària, no una certificació universal de seguretat. [20]
Assajos sobre beneficis, riscos i ritme d’avenç
A Machines of Loving Grace, d’octubre de 2024, Amodei va explorar escenaris d’avenços en salut, neurociència, reducció de pobresa, governança i sentit del treball. Va presentar aquestes possibilitats com a conjectures sobre sistemes molt més capaços, subjectes a límits físics, institucionals i científics. El text expressa la seva visió, no resultats ja obtinguts. [21]
The Adolescence of Technology, publicat el gener de 2026, centra l’atenció en els riscos d’una IA poderosa. Defensa analitzar l’evidència, reconèixer incertesa i combinar mesures voluntàries amb intervencions públiques proporcionades. El seu argument busca evitar tant la confiança automàtica com les prediccions inevitables de catàstrofe. [22]
El setembre de 2026, We Must Pace the Frontier va proposar moderar el ritme de millora de capacitats perquè l’avaluació i els controls poguessin acompanyar-lo. Va incloure un compromís d’Anthropic amb avaluadors independents integrats i va plantejar coordinació entre empreses i governs. La proposta no equivalia a suspendre tota recerca. [23]
Disputa sobre usos militars de Claude
El febrer de 2026 Amodei va defensar mantenir dos límits contractuals en les converses amb el departament estatunidenc de defensa: vigilància massiva interna i armes plenament autònomes. Va argumentar que els sistemes disponibles no tenien fiabilitat suficient per a aquestes últimes. La seva posició acceptava altres usos de seguretat nacional sota condicions. [24]
El 5 de març va comunicar que Anthropic havia rebut una designació de risc per a la cadena de subministrament i va anunciar que la impugnaria judicialment. La declaració exposa la posició de l’empresa en aquella controvèrsia contractual i reguladora; no constitueix una resolució judicial sobre el fons. [25]
Reconeixement públic
TIME va incloure conjuntament Dario i Daniela Amodei en la llista de les cent persones més influents de 2026. És un reconeixement editorial d’influència pública, diferent d’un premi científic. [26]
Objectius mal definits i seguretat de robots
Amodei va coescriure Concrete Problems in AI Safety, que identifica fallades com efectes secundaris i optimització d’una recompensa que no representa l’objectiu real. És un problema preventiu quan una màquina aprèn a complir una tasca sense representar correctament les restriccions de protecció de les persones. [3]
Un estudi de Liu i col·laboradors sobre prevenció de col·lisions en col·laboració industrial persona-robot cita aquest treball quan analitza recompenses mal dissenyades. Els assajos es van fer en simulació. [5]
Què ha de representar l’objectiu d’una màquina
El vincle útil és examinar la diferència entre complir una mètrica i executar una tasca de manera segura. En una aplicació col·laborativa, arribar al punt de lliurament no descriu per si sol com s’ha de moure el robot quan una persona ocupa l’espai compartit.
L’aportació d’Amodei és la formulació del problema de seguretat de l’aprenentatge; l’experiment industrial correspon a un altre equip. Per a una decisió de SST, la qüestió és quins perills contempla l’objectiu, quines restriccions en queden fora i què passa quan la situació canvia. El resultat simulat no acredita un sistema de protecció industrial ja validat.
