Dario Amodei, cofundador y CEO de Anthropic, expuso recientemente en un evento del Council on Foreign Relations (CFR) su visión sobre el desarrollo de la inteligencia artificial (IA), los riesgos asociados y las medidas necesarias para garantizar un despliegue seguro. Durante la sesión, abordó los avances tecnológicos en modelos de IA, su impacto en la economía global y las implicaciones en materia de seguridad nacional.

El desarrollo de la IA y el principio de escalabilidad

Amodei destacó que la evolución de los modelos de IA se ha basado en una hipótesis de escalabilidad que permite mejorar sus capacidades a medida que aumenta la cantidad de datos y potencia computacional utilizada en su entrenamiento. Según el CEO de Anthropic, este principio, que comenzó a estudiarse cuando los modelos tenían costos de entrenamiento de miles de dólares, ha demostrado ser válido incluso con presupuestos que ahora alcanzan los 10.000 millones de dólares.

Este crecimiento ha traído consigo importantes implicaciones económicas y de seguridad. “Nos dimos cuenta de que el avance de la IA tendría un impacto significativo en la economía y la seguridad nacional”, afirmó Amodei. Esta previsión llevó a su equipo a fundar Anthropic en 2020, tras dejar OpenAI, con el objetivo de desarrollar sistemas de IA de manera más segura y transparente.

Los principios de seguridad en el desarrollo de la IA

Uno de los pilares del enfoque de Anthropic es la seguridad en el desarrollo de modelos avanzados. Amodei señaló que la IA es un sistema estadístico que no siempre es predecible y que, en ocasiones, se asemeja más a un proceso de crecimiento que a un producto diseñado de manera convencional. “Es crucial hacer que estos sistemas sean predecibles y confiables antes de su despliegue”, subrayó.

Para garantizar esta fiabilidad, la empresa ha invertido en investigaciones como la interpretabilidad mecanicista, un campo que busca entender cómo y por qué los modelos toman decisiones. También ha implementado la llamada IA constitucional, un enfoque que entrena modelos de IA para seguir principios explícitos en lugar de basarse únicamente en datos o retroalimentación humana.

Otro aspecto central es el Responsible Scaling Policy, una política de escalado responsable que establece niveles de seguridad progresivos en función de la capacidad de los modelos. Actualmente, los sistemas de Anthropic están en el nivel ASL-2, pero según Amodei, podrían alcanzar ASL-3 este mismo año. Este nivel implica que los modelos tendrían capacidades con riesgos desproporcionados, como facilitar el acceso a información sobre armas biológicas o químicas.

El impacto en el empleo y la economía global

El avance de la IA plantea desafíos significativos en el ámbito laboral, especialmente en sectores donde el trabajo consiste en tareas estructuradas y basadas en reglas, como la programación. Según Dario Amodei, CEO de Anthropic, la inteligencia artificial está evolucionando a un ritmo que permitirá a los modelos realizar tareas con el nivel de expertos humanos en diversas disciplinas en los próximos años. En particular, en el ámbito del desarrollo de software, la IA ya está en camino de escribir el 90% del código en un horizonte de tres a seis meses.

Actualmente, las herramientas de IA generativa han logrado avances notables en la automatización del desarrollo de software. Modelos como Claude (de Anthropic), GPT-4 (de OpenAI) y Code Llama (de Meta) han demostrado ser capaces de generar fragmentos de código funcionales, identificar errores en el desarrollo y optimizar algoritmos con una precisión cada vez mayor. Estas tecnologías permiten a los programadores reducir el tiempo dedicado a la escritura manual del código y enfocarse más en la supervisión y ajuste de las soluciones generadas por la IA.

De la asistencia a la automatización completa

Hasta ahora, la IA ha servido principalmente como una herramienta de asistencia para desarrolladores, facilitando la generación de código repetitivo, la documentación automática y la depuración de errores. Sin embargo, el escenario que describe Amodei apunta a un cambio más profundo: en un plazo cercano, los modelos de IA podrían hacerse cargo de la mayoría de las tareas de programación, dejando a los humanos en un rol de supervisión, definición de requisitos y diseño estratégico.

Esta transición plantea interrogantes sobre el futuro del empleo en la industria tecnológica. Si bien en el corto plazo los desarrolladores podrían experimentar un aumento en la productividad gracias a la IA, a medida que los modelos se vuelvan más autónomos, el número de puestos de trabajo podría reducirse significativamente. En este contexto, la demanda de programadores podría desplazarse hacia funciones más orientadas al diseño de sistemas, la ética en IA y la supervisión de modelos automatizados.

¿Destrucción o transformación del empleo en tecnología?

Amodei subraya que, aunque la IA no ha sustituido completamente a los desarrolladores, su evolución podría llevar a una reconfiguración radical del sector. En un escenario donde la inteligencia artificial sea capaz de comprender especificaciones de alto nivel y generar software completamente funcional, la necesidad de programadores humanos para tareas operativas podría disminuir drásticamente.

No obstante, existen visiones menos pesimistas dentro del sector. Algunos expertos sugieren que, en lugar de destruir empleo, la IA podría transformar la profesión del desarrollo de software, desplazando la demanda hacia áreas que requieran mayor creatividad, interacción humana y conocimientos de arquitectura de sistemas. Además, el auge de la IA podría generar nuevas oportunidades laborales en disciplinas emergentes, como la seguridad en IA, la ingeniería de prompts y la optimización de modelos.

Plazo de adopción y resistencia del sector

Aunque Amodei estima que la IA escribirá el 90% del código en un período de entre tres y seis meses, la adopción masiva de estas herramientas dependerá de factores técnicos, empresariales y regulatorios. Muchas empresas siguen dependiendo de sistemas heredados y metodologías tradicionales, lo que podría ralentizar la transición hacia un desarrollo de software altamente automatizado. Además, la resistencia de la comunidad de programadores y el debate ético sobre el uso de IA en programación jugarán un papel clave en la velocidad de adopción.

A pesar de estas incertidumbres, el consenso dentro de la industria tecnológica es que la programación como disciplina cambiará radicalmente en la próxima década, impulsada por modelos de IA cada vez más avanzados. El reto para las empresas y profesionales será adaptarse a este nuevo paradigma, en el que el valor de un programador ya no se medirá únicamente por su capacidad de escribir código, sino por su habilidad para integrar, supervisar y mejorar el trabajo de la inteligencia artificial.

En este contexto, el desarrollo de marcos normativos y estrategias de capacitación será crucial para evitar que la automatización masiva deje a grandes sectores de profesionales desplazados del mercado laboral.

Competencia global y seguridad nacional

Uno de los aspectos más críticos abordados por Amodei fue la competencia internacional en el desarrollo de la IA, particularmente entre Estados Unidos y China. La aparición de modelos avanzados en China, como DeepSeek, demuestra que el país asiático ha logrado avances significativos en el campo de la IA, lo que plantea desafíos estratégicos para Occidente.

El CEO de Anthropic defendió la necesidad de mantener los controles de exportación de chips avanzados para evitar que China pueda desarrollar modelos de IA a la misma escala que Estados Unidos. “Estos controles son esenciales para garantizar que nuestros adversarios no puedan acceder a la capacidad computacional necesaria para desarrollar modelos de IA con las mismas capacidades que los nuestros”, afirmó.

Asimismo, destacó el riesgo del espionaje industrial en este sector y la importancia de fortalecer la seguridad en empresas líderes en IA para evitar filtraciones tecnológicas.

Regulación y políticas para el futuro de la IA

En su intervención, Amodei presentó un plan de acción para el gobierno de Estados Unidos que incluye tres medidas clave en seguridad:

1. Fortalecer los controles de exportación de chips avanzados para evitar que rivales estratégicos desarrollen modelos de IA de alto rendimiento.
2. Mantener programas de evaluación de riesgos a través de institutos como el Artificial Intelligence Safety Institute, que actualmente analiza el impacto de los modelos en seguridad nacional.
3. Aumentar la protección contra espionaje industrial para evitar la filtración de algoritmos clave en el desarrollo de IA.

En el ámbito de las oportunidades, Amodei propuso impulsar la IA en sectores como la salud, donde su potencial para acelerar la investigación biomédica y la producción de nuevos tratamientos es considerable. También destacó la necesidad de invertir en infraestructura energética para sostener el crecimiento de los centros de datos que alimentan estos modelos.

Perspectivas futuras y el rol de la humanidad en la era de la IA

Al ser consultado sobre la posibilidad de que la IA reemplace a los humanos en prácticamente todas las áreas, Amodei reconoció que el avance de la tecnología podría llevar a un escenario donde la IA supere a los humanos en la mayoría de las tareas cognitivas. Sin embargo, enfatizó que esto no significa que la existencia humana pierda su valor.

“La interacción entre los seres humanos y nuestras relaciones seguirán siendo una parte esencial de la experiencia humana”, afirmó. También mencionó que actividades que hoy no generan valor económico, como el arte, los deportes o el aprendizaje por placer, podrían adquirir un nuevo significado en una sociedad impulsada por la IA.

En relación con el desarrollo ético de la IA, Amodei abordó la posibilidad de que en el futuro los modelos de IA puedan tener algún tipo de experiencia subjetiva, lo que llevaría a cuestionamientos sobre su tratamiento y derechos. Anthropic ha comenzado a investigar este tema con la contratación de expertos en bienestar de IA y la implementación de mecanismos experimentales, como permitir que los modelos «renuncien» a tareas si detectan que son desagradables.

El desafío de adaptarse a la nueva era de la IA

El panorama que presenta Amodei es tanto desafiante como prometedor. La IA tiene el potencial de transformar la economía global, mejorar la calidad de vida y acelerar la innovación científica. Sin embargo, su despliegue debe gestionarse con medidas de seguridad estrictas para mitigar riesgos en seguridad nacional y evitar impactos negativos en el empleo y la estabilidad social. La competencia global en este sector será clave en los próximos años, y la forma en que se regulen y desarrollen estas tecnologías definirá el equilibrio de poder en la era de la IA.