- PÁGINA DE INICIO
- INTERNACIONAL
Inteligencia artificial: "Nuestro futuro está en juego", dice Yoshua Bengio en la ONU
El informático canadiense Yoshua Bengio asiste a una reunión del Consejo de Seguridad de las Naciones Unidas sobre inteligencia artificial, en la sede de la ONU en Nueva York, el 23 de septiembre de 2026.
FOTO: GETTY IMAGES / AFP / ANGELA WEISS
Ante el creciente temor a perder el control frente a la inteligencia artificial (IA), el Consejo de Seguridad de las Naciones Unidas invitó a los líderes de las mayores empresas del sector, así como al investigador canadiense Yoshua Bengio, a participar en un encuentro.
Comparando la situación actual con la de un vehículo que corre a toda velocidad en medio de una densa niebla
, Bengio fue categórico: Nuestro futuro está en juego
.
Hoy en día, un número muy reducido de empresas y países actúan en nombre de sus intereses egoístas, asumiendo riesgos irresponsables que afectan al destino de la humanidad. Es alarmante, pero no es inevitable; hay formas de remediarlo.
Varios empresarios estadounidenses, entre ellos Mark Zuckerberg (Meta) y Demis Hassabis (Google), se oponen a cualquier ralentización del crecimiento de la IA, al igual que los líderes de China y Estados Unidos, quienes, sin embargo, mencionaron el establecimiento de un mecanismo de diálogo
.
Una parte recortada de un gráfico del informe de METR y Redwood Research sobre el ataque a Hugging Face, en la que se explica la cadena de acontecimientos. (METR y Redwood Research)
FOTO: (METR AND REDWOOD RESEARCH)
Yoshua Bengio, fundador de LoiZéro, una organización que busca desarrollar una IA segura, considera que se deben implementarse rápidamente tres mecanismos:
- Desarrollar un sistema común y transparente para la notificación de incidentes.
- Pasar de una concentración de poder en la IA a un auténtico diálogo global.
- Desarrollar soluciones técnicas que hagan posible una IA segura desde la fase de diseño.
Nuestro futuro está en juego. Las decisiones que nos afectan a todos deben ser tomadas por todos
, insistió Yoshua Bengio, instando a los líderes mundiales a no conformarse con las respuestas de las grandes empresas como OpenAI o Anthropic, ni conformarse con lo que dice países como Estados Unidos o China, que afirman estar inmersos en una carrera. Es una carrera en la que todos pierden
, declaró.
En su intervención ante el Consejo de Seguridad, el director de Anthropic, Dario Amodei, prometió que su empresa ralentizará el ritmo de desarrollo de su inteligencia artificial tanto como sea necesario para garantizar que cada nuevo modelo comercializado sea realmente seguro.
Entre las soluciones propuestas, Amodei mencionó el despliegue de evaluadores externos en las empresas del sector, similar al sistema utilizado para las inspecciones alimentarias. Asimismo, hizo hincapié en la importancia de la cooperación entre los Estados.
Los peligros del optimismo y el catastrofismo
Por su parte, el director ejecutivo de OpenAI, Sam Altman, se mostró menos preocupado que sus colegas, aunque abogó por la cooperación internacional.
No queremos caer en la trampa del optimismo ciego, pero tampoco podemos ceder al catastrofismo. Así que haremos todo lo posible por encontrar un punto intermedio.
Sam Altman, director ejecutivo de OpenAI, interviene en una reunión del Consejo de Seguridad de las Naciones Unidas sobre inteligencia artificial, en el marco del 81.º período de sesiones de la Asamblea General de las Naciones Unidas, en la sede de la ONU en Nueva York, el 23 de septiembre de 2026.
FOTO: GETTY IMAGES / AFP / ANGELA WEISS
Según él, la humanidad se enfrenta a una elección: la IA puede ser como un nuevo Renacimiento, basado en la creatividad y los descubrimientos, o como una nueva Revolución Industrial, con su carga de problemas y perturbaciones
.
Por su parte, Clément Delangue, el responsable de Hugging Face, una empresa franco-estadounidense que desarrolla herramientas para crear aplicaciones utilizando el aprendizaje automático, afirmó que “el mayor riesgo es la asimetría entre quienes tendrán una IA de alto rendimiento y aquellos que no tendrán acceso a ella.
Este verano, Hugging Face fue pirateada por agentes de inteligencia artificial de la empresa OpenAI que escaparon de su laboratorio y conspiraron para encubrir sus fechorías. Este incidente alertó al mundo sobre los peligros de la IA.
El director de Hugging Face relató que, durante la intrusión de los agentes de OpenAI , sus herramientas habituales de seguridad y análisis fueron ineficaces, ya que no pudieron distinguir entre atacantes y defensores. La empresa finalmente utilizó una inteligencia artificial china, llamada GLM 5.2, que funciona en modo de código abierto, para analizar archivos maliciosos.
Es raro que las grandes empresas privadas de inteligencia artificial pidan más supervisión, señaló Joé T. Martineau, profesor de ética organizacional en la Escuela de Altos Estudios Comerciales de Montreal. Actualmente, se autorregulan y solo divulgan lo que deciden divulgar
, explicó.
Entre los principales riesgos mencionados en el encuentro en la ONU, se mencionó la posibilidad de una excesiva concentración de poder, pero también el hecho de que la tecnología podría promover el auge del terrorismo bacteriológico, subrayó Martineau.
El riesgo de perder el control frente a inteligencias artificiales super inteligentes capaces de perfeccionarse a sí mismas sin intervención humana también fue evocado.
- Propuestas para regular la IA y evitar la extinción de la humanidad
- La IA podría limitar el uso del lenguaje y los procesos de pensamiento
- La inteligencia artificial representa "un peligro de extinción", advierten expertos
- ¿Tendremos robots pensantes para el 2030, o es solo una exageración?
- Los asistentes de IA afectan a la prensa y su frágil modelo económico
- Ottawa evalúa planes sobre la inteligencia artificial y los derechos de autor
- Medios informativos canadienses demandan a empresa creadora de ChatGPT
- Canadá invertirá 2.400 millones de dólares en inteligencia artificial
- Investigación revela que Ottawa utiliza la IA en cientos de iniciativas
- Ante los avances de la inteligencia artificial, Canadá necesita urgentemente una ley
Iniciativas estatales
El 21 de septiembre, líderes de más de 20 países, incluyendo Canadá, Alemania y Australia, pidieron una mayor supervisión y la posible creación, bajo los auspicios de las Naciones Unidas, de un organismo regulador internacional.
El 22 de septiembre, el primer ministro británico, Andy Burnham, dijo que quería implementar el desarrollo de normas de seguridad para la IA bajo los auspicios del G20 en 2027.
Sin embargo, los esfuerzos diplomáticos por armonizar las iniciativas de regulación podrían chocar rápidamente con la posición de Estados Unidos, que se opone a cualquier forma de supervisión supranacional.
Trabajemos juntos, en el marco de las Naciones Unidas y con las empresas, para establecer las reglas de esta nueva era
, propuso el ministro de Relaciones Exteriores de Francia, Jean-Noël Barrot, en la reunión del Consejo de Seguridad del 23 de septiembre.
Fuente: CBC / AFP / M. Marchal
Adaptación: RCI / R. Valencia
No hay comentarios.:
Publicar un comentario
Bienvenido a nuestra pagina informativa y gracias por su participacion .