1. Alejandro Dabdoub
Añadir elEconomista en Google

Los líderes de la inteligencia artificial han unido una vez más sus voces para hacer sonar las alarmas y pedir que se modere la velocidad del desarrollo tecnológico. La advertencia de Dario Amodei (Anthropic), respaldada por Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google), abre una grieta entre los líderes de la industria y el presidente de Estados Unidos, Donald Trump, quien prioriza mantener la ventaja competitiva frente a China.

El último aviso llegó el sábado de la mano de Dario Amodei, CEO de Anthropic. En un ensayo publicado en línea, el ejecutivo reclamó ralentizar el ritmo al que aumentan las capacidades de los modelos de IA para dar tiempo a desarrollar mecanismos de seguridad capaces de acompañar esa evolución. En específico, propone evaluadores independientes con acceso permanente a los modelos, estándares de seguridad entre las democracias y, finalmente, acuerdos internacionales que incluyan a países como China.

Sam Altman, CEO de OpenAI, se mostró de acuerdo con Amodei y comprometió a su compañía a adoptar medidas similares. Elon Musk, fundador de xAI,

Las alertas llegan después de varios meses de noticias preocupantes en el sector. En julio, un sistema de agentes de IA desarrollado por OpenAI durante una prueba de ciberseguridad terminó penetrando en la infraestructura de Hugging Face. La investigación de la plataforma reconstruyó unas 17.600 acciones realizadas durante varios días por los agentes que llegaron a acceder a sistemas internos y a utilizar credenciales.

El episodio ha alimentado el temor a que los sistemas puedan adquirir capacidades para actuar de forma autónoma, encontrar vulnerabilidades y escapar de los mecanismos de contención. Amodei advierte de que, con el ritmo actual de progreso, un enjambre de agentes podría llegar en seis o doce meses a causar daños de cientos de miles de millones de dólares. Mientras tanto, OpenAI ha decidido suspender por el momento su salida a bolsa.

El problema es que frenar no resulta sencillo cuando detrás de la carrera hay cientos de miles de millones de dólares en inversiones. Reuters estima que este año podrían destinarse alrededor de un billón de dólares a inversiones relacionadas con la IA. Los mercados ya han comenzado a reaccionar. Las acciones vinculadas a la inteligencia artificial recibieron presión al comienzo de la semana después de que los principales ejecutivos del sector cuestionaran el ritmo de desarrollo.

Oposición en la Casa Blanca

La respuesta de Donald Trump ha ido en la dirección contraria a los gurús de la IA. Durante su visita a Irlanda, el presidente estadounidense rechazó las llamadas a reducir el ritmo de desarrollo y situó la rivalidad con China por encima de las advertencias de seguridad. "Estamos por delante de China en IA, somos el país más sofisticado del mundo y, francamente, quiero que siga siendo así porque quien gane la IA, gana", afirmó. Trump calificó, además, de "fuerzas muy negativas" a quienes están planteando escenarios que, a su juicio, "no van a ocurrir".

Para Washington, ralentizar unilateralmente la IA podría equivaler a ceder terreno a Pekín. La Administración estadounidense considera que la supremacía tecnológica tiene implicaciones económicas, militares y estratégicas que van mucho más allá del negocio de los chatbots.

En China, entretanto, tampoco existe una intención de levantar el pie del acelerador. Pero Pekín comienza a hacer más explícitos los riesgos. El Ministerio de Seguridad del Estado advirtió este domingo de que la IA puede ser utilizada para ataques contra la seguridad política y social mediante deepfakes, contenidos sintéticos y ejércitos automatizados de trolls. El Gobierno afirmó que estas herramientas pueden utilizarse para fabricar rumores y fomentar divisiones, lo que constituye una forma de "guerra cognitiva" contra China.

La voz de los demócratas

El expresidente estadounidense Barack Obama instó a los demócratas a situar la regulación y la seguridad de la inteligencia artificial entre sus prioridades políticas durante una reunión privada de recaudación de fondos celebrada la semana pasada. Reclamó al partido elaborar un marco integral que aborde desde una posible desaceleración del desarrollo de los sistemas más avanzados hasta su impacto sobre el empleo y los menores. A su juicio, la tecnología está avanzando demasiado rápido en manos privadas y podría resultar peligrosa si los gobiernos no consiguen supervisarla adecuadamente.

Sin embargo, el demócrata no considera que la IA sea necesariamente una amenaza. Defendió que, si se gestiona correctamente, podría generar importantes beneficios económicos y sociales, entre ellos acelerar el desarrollo de medicamentos y contribuir a encontrar soluciones para una transición hacia energías limpias.

Relacionados