Quién es Dario Amodei
Dario Amodei es cofundador y CEO de Anthropic, la empresa de la familia de modelos Claude. Dirige su orientación de investigación y estrategia. Su hermana Daniela Amodei es cofundadora, presidenta de la compañía y presidenta del consejo, con responsabilidades sobre investigación, ingeniería, producto, gobernanza y ejecución comercial. [1]
Formación científica y primeras investigaciones
Su interés temprano por la física está documentado en la selección estadounidense de la Olimpiada de Física de 2000, en cuya lista aparece junto a otros estudiantes. La selección nacional no equivale por sí sola a obtener una medalla internacional. [6]
Durante su etapa inicial de investigación publicó con Stephen Padin, en 2003, Mirrors with Regular Hexagonal Segments. El artículo calculaba propiedades ópticas de espejos compuestos por segmentos hexagonales y estudiaba la posibilidad de fabricar grandes conjuntos de piezas similares, conectando modelización física y diseño instrumental. [7]
Realizó estudios de grado en Stanford y un doctorado en Física en Princeton, centrado en biofísica y circuitos neuronales. Después trabajó como investigador posdoctoral en Stanford Medicine, aplicando espectrometría de masas al estudio de proteínas celulares y a la búsqueda de biomarcadores de cáncer. Fue becario Hertz de la promoción de 2007. [2]
La Fundación Hertz le concedió su premio de tesis en 2012 por métodos para registrar y analizar la actividad colectiva de neuronas. El trabajo estudiaba más de 200 células de tejido retiniano. La comunicación del premio identifica a William Bialek como director y a Thomas Tombrello como mentor durante el grado. [8]
Sus publicaciones con Gašper Tkačik, Olivier Marre, Michael Berry, Bialek y otros colaboradores prolongaron esta línea. En 2014 estudiaron el comportamiento colectivo en redes de neuronas sensoriales y en 2015 las señales de criticidad y su descripción termodinámica. Esa etapa antecede a su dedicación a grandes redes neuronales artificiales. [9]
De la investigación industrial a OpenAI
En Baidu participó en Deep Speech 2, publicado en 2015, como primer autor de una colaboración amplia. El trabajo empleaba aprendizaje profundo para reconocer voz en inglés y mandarín. [10]
Trabajó como investigador sénior en Google Brain antes de incorporarse a OpenAI. Allí llegó a vicepresidente de Investigación y dirigió el desarrollo de GPT-2 y GPT-3 junto a equipos especializados. Su papel combinó dirección científica con contribuciones a publicaciones sobre aprendizaje y seguridad. [11]
En diciembre de 2020 OpenAI anunció su salida después de casi cinco años. La organización reconoció su trabajo con Ilya Sutskever en la dirección de investigación y señaló que preparaba un nuevo proyecto. [12]
Preferencias humanas y leyes de escalado
En 2017 coescribió Deep Reinforcement Learning from Human Preferences con Paul Christiano, Jan Leike y otros investigadores. El método aprendía de comparaciones humanas entre fragmentos de comportamiento, con ensayos en Atari y locomoción robótica simulada. Permitía comunicar objetivos sin programar directamente una función de recompensa para cada tarea. [13]
En 2020 fue coautor, con Jared Kaplan y otros colaboradores, de Scaling Laws for Neural Language Models. El estudio relacionaba empíricamente el error de predicción con el tamaño del modelo, los datos y el cálculo utilizado. Estas relaciones orientaban cómo distribuir recursos de entrenamiento; no garantizaban por sí solas verdad o seguridad. [14]
Fundación y gobierno de Anthropic
Anthropic se presentó públicamente en mayo de 2021 con una ronda de 124 millones de dólares. Dario figuraba como CEO y Daniela como presidenta. El proyecto reunía experiencia previa en modelos de lenguaje, interpretabilidad y aprendizaje de preferencias para investigar sistemas más controlables y fiables. [15]
La compañía es una Public Benefit Corporation. Su consejo se elige mediante accionistas y el Long-Term Benefit Trust, dentro de una estructura que vincula actividad empresarial y misión de beneficio público. Amodei forma parte del consejo, pero la dirección y la supervisión institucional corresponden a varias personas y órganos. [4]
Claude, IA constitucional e interpretabilidad
Amodei figura entre los coautores de Constitutional AI, publicado en 2022. El método utiliza principios escritos para generar críticas y revisiones de respuestas y emplea retroalimentación de otra IA durante el entrenamiento. Reduce determinadas necesidades de etiquetado humano, aunque sigue dependiendo de decisiones humanas sobre principios, datos y evaluación. [16]
Anthropic presentó Claude el 14 de marzo de 2023, con acceso mediante conversación y API. El lanzamiento incluía Claude y Claude Instant para tareas como resumen, escritura, preguntas y programación. La familia de productos trasladó la investigación de la compañía a herramientas utilizadas por personas y organizaciones. [17]
En 2024 el equipo de interpretabilidad identificó patrones de activación asociados a conceptos dentro de Claude 3 Sonnet. Al modificar algunos patrones cambió sus respuestas, lo que permitió estudiar mecanismos internos. Se trataba de una aproximación parcial al funcionamiento del modelo, no de una explicación completa de cada decisión. [18]
En septiembre de 2026 la compañía presentó Claude Opus 5.5, orientado a programación con agentes y trabajo de conocimiento. Su comunicación incorporó evaluaciones externas y medidas de seguridad junto a las prestaciones del modelo. La dirección de Amodei enmarca el programa; el desarrollo pertenece a equipos de investigación e ingeniería. [19]
Gobernanza de la seguridad de IA
Anthropic inició su Responsible Scaling Policy en septiembre de 2023. La revisión de 2026 incorporó hojas de ruta de seguridad y publicaciones periódicas de riesgos. El marco conecta capacidades, controles y revisión externa, y se actualiza a medida que cambian los modelos. Es una política corporativa voluntaria, no una certificación universal de seguridad. [20]
Ensayos sobre beneficios, riesgos y ritmo de avance
En Machines of Loving Grace, de octubre de 2024, Amodei exploró escenarios de avances en salud, neurociencia, reducción de pobreza, gobernanza y sentido del trabajo. Presentó esas posibilidades como conjeturas sobre sistemas mucho más capaces, sujetas a límites físicos, institucionales y científicos. El texto expresa su visión, no resultados ya obtenidos. [21]
The Adolescence of Technology, publicado en enero de 2026, centra la atención en los riesgos de una IA poderosa. Defiende analizar la evidencia, reconocer incertidumbre y combinar medidas voluntarias con intervenciones públicas proporcionadas. Su argumento busca evitar tanto la confianza automática como las predicciones inevitables de catástrofe. [22]
En septiembre de 2026, We Must Pace the Frontier propuso moderar el ritmo de mejora de capacidades para que la evaluación y los controles pudieran acompañarlo. Incluyó un compromiso de Anthropic con evaluadores independientes integrados y planteó coordinación entre empresas y gobiernos. La propuesta no equivalía a suspender toda investigación. [23]
Disputa sobre usos militares de Claude
En febrero de 2026 Amodei defendió mantener dos límites contractuales en las conversaciones con el departamento estadounidense de defensa: vigilancia masiva interna y armas plenamente autónomas. Argumentó que los sistemas disponibles no tenían fiabilidad suficiente para estas últimas. Su posición aceptaba otros usos de seguridad nacional bajo condiciones. [24]
El 5 de marzo comunicó que Anthropic había recibido una designación de riesgo para la cadena de suministro y anunció que la impugnaría judicialmente. La declaración expone la posición de la empresa en aquella controversia contractual y regulatoria; no constituye una resolución judicial sobre el fondo. [25]
Reconocimiento público
TIME incluyó conjuntamente a Dario y Daniela Amodei en su lista de las cien personas más influyentes de 2026. Es un reconocimiento editorial de influencia pública, diferente de un premio científico. [26]
Objetivos mal definidos y seguridad de robots
Amodei coescribió Concrete Problems in AI Safety, que identifica fallos como efectos secundarios y optimización de una recompensa que no representa el objetivo real. Es un problema preventivo cuando una máquina aprende a cumplir una tarea sin representar correctamente las restricciones de protección de las personas. [3]
Un estudio de Liu y colaboradores sobre prevención de colisiones en colaboración industrial persona-robot cita ese trabajo al analizar recompensas mal diseñadas. Sus ensayos se realizaron en simulación. [5]
Qué debe representar el objetivo de una máquina
El vínculo útil es examinar la diferencia entre cumplir una métrica y ejecutar una tarea de forma segura. En una aplicación colaborativa, llegar al punto de entrega no describe por sí solo cómo debe moverse el robot cuando una persona ocupa el espacio compartido.
La aportación de Amodei es la formulación del problema de seguridad de aprendizaje; el experimento industrial corresponde a otro equipo. Para una decisión de SST, la cuestión es qué peligros contempla el objetivo, qué restricciones quedan fuera de él y qué ocurre cuando la situación cambia. El resultado simulado no acredita un sistema de protección industrial ya validado.
