https://ici.radio-canada.ca/rci/es/noticia/2284405/propuestas-para-regular-la-ia-y-evitar-la-extincion-de-la-humanidad

1. PÁGINA DE INICIO
2. INTERNACIONAL

Propuestas para regular la IA y evitar la extinción de la humanidad

La mayoría de los expertos en IA destacan la importancia de regular esta tecnología lo antes posible.

FOTO: GETTY IMAGES / SHINSEI MOTIONS

RCI

Publicado: 14:59

La inteligencia artificial (IA) podría acabar con todos los seres humanos para finales de la década, es decir, en los próximos cuatro años. Este grito de alarma, lanzado por Jacob Coxon, un investigador que renunció a su empleo en la firma Anthropic, ha generado una gran preocupación por los peligros que plantea el rápido desarrollo de la inteligencia artificial.

Sin embargo, estos riesgos y sus posibles soluciones son temas que se han debatido desde hace años al interior de esta industria.

Actualmente, la mayoría de los expertos subrayan la urgencia de tomar medidas ante los riesgos de la IA. De no hacerlo, se corre el riesgo de tener que aplicar soluciones mucho más radicales, algunas de las cuales nos harían retroceder varias décadas.

La inteligencia artificial se ha integrado tanto a nuestra vida cotidiana que podría ser difícil neutralizar un sistema peligroso antes de que sea demasiado tarde, explicó Hamza Chaudry, responsable de la IA en el Instituto del Futuro de la Vida. Su organización sin fines de lucro, con sede en Estados Unidos, aboga por el establecimiento de normas de seguridad para controlar la IA.

Entre las soluciones de neutralización extremas que se consideran ante una IA fuera de control está, por ejemplo, el cierre de todo el internet en Estados Unidos, señaló Hamza Chaudry.

Sería catastrófico para la economía y la sociedad estadounidenses. Serían los días más caóticos de la historia, y eso no es una opción, ¿verdad?

Una cita de Hamza Chaudry, responsable de la IA en el Instituto del Futuro de la Vida.

Una parte de un gráfico del informe de METR y Redwood Research sobre el ataque a Hugging Face, lanzado por agentes de inteligencia artificial, en el que se explica la cadena de acontecimientos. (METR y Redwood Research)

FOTO: (METR AND REDWOOD RESEARCH)

La aplicación técnica de dicha solución sigue siendo compleja, señaló hace unos meses el eminente investigador canadiense Yoshua Bengio.

Una inteligencia artificial entidad no alineada, que designa a aquella que no vele por los intereses de la humanidad, podrá, dentro de poco, anticiparse a nuestras maniobras. Si percibe una amenaza, intentará replicarse en servidores en todo el mundo para sobrevivir. Este es un escenario crítico, sobre todo porque no existe un botón de reinicio a escala mundial.

Una cita de Yoshua Bengio, investigador canadiense.

El año pasado, Bengio mencionó que, como último recurso, una de las soluciones consideradas por algunos funcionarios de seguridad nacional era detonar ojivas nucleares en la atmósfera superior, creando enormes picos de energía que colapsarían toda la red mundial de telecomunicaciones.

Preferiríamos soluciones menos radicales, como leyes, dijo el investigador canadiense, quien, sin embargo, se mostró optimista, ya que varios países manifestaron su intención de establecer marcos legislativos.

• La IA podría limitar el uso del lenguaje y los procesos de pensamiento
• La inteligencia artificial representa "un peligro de extinción", advierten expertos
• ¿Tendremos robots pensantes para el 2030, o es solo una exageración?
• Los asistentes de IA afectan a la prensa y su frágil modelo económico
• Ottawa evalúa planes sobre la inteligencia artificial y los derechos de autor
• Medios informativos canadienses demandan a empresa creadora de ChatGPT
• Canadá invertirá 2.400 millones de dólares en inteligencia artificial
• Investigación revela que Ottawa utiliza la IA en cientos de iniciativas
• Ante los avances de la inteligencia artificial, Canadá necesita urgentemente una ley

Los incidentes van en aumento

Si actualmente la inteligencia artificial todavía no es capaz de perjudicar a la humanidad a gran escala, a los investigadores les preocupa la velocidad a la que está progresando, pero también el creciente número de incidentes y la demora de los principales actores de la industria para darse cuenta de ello.

El pirateo del sitio en internet Hugging Face, una especie de Wikipedia para profesionales en el campo de la inteligencia artificial, es un caso emblemático sobre los riesgos de una IA que actúa por su cuenta.

Invitados a completar una misión durante una fase de prueba en OpenAI, los agentes de IA de la empresa lograron escapar del control, a pesar de que inicialmente debían permanecer al interior de un sistema controlado en un laboratorio, sin conexión a internet.

Esos agentes de IA no solo piratearon el sitio en internet de Hugging Face para obtener la información que necesitaban para completar su misión, sino que también conspiraron para lograr su objetivo e intentaron encubrir sus fechorías. Y durante 10 días, OpenAI, empresa líder en este sector, no vio nada ni se dio cuenta de nada.

Episodios similares se han repetido entre los competidores de OpenAI, como Anthropic, Meta y Moonshot AI en China.

El senador estadounidense Bernie Sanders es una de las voces que pide el control legislativo de la inteligencia artificial.

FOTO: GETTY IMAGES / FINN GOMEZ

Aunque algunos especialistas dudan de la inminencia real del peligro que representa una IA sin control, y siguen creyendo que las voces de alarma son más bien estrategias de mercadeo, los principales líderes de estas empresas, incluyendo Elon Musk, se han mostrado a favor de una concertación para frenar la desenfrenada carrera para seguir desarrollando la inteligencia artificial.

Según el denunciante Jacob Coxon, los líderes en la industria de la IA temen que para finales de 2027, la inteligencia artificial, o más bien la superinteligencia, sea capaz de mejorarse a sí misma, sin la intervención humana, lo que marcaría el punto de inflexión hacia la pérdida de control por parte de los humanos.

Los testimonios de Jacob Coxon y su ex colega de Anthropic, Evan Hubinger, sobre los peligros que representa la inteligencia artificial sin control para la humanidad, han sido ampliamente difundidos en la esfera pública.

Para Hamza Chaudry, integrar la inteligencia artificial a los sistemas militares y de seguridad avanzados, es como dejar entrar al zorro en el gallinero. Citando riesgos graves, como la aceleración de conflictos o la escalada nuclear, lamentó que las medidas adoptadas para prevenir estas catástrofes sean totalmente insuficientes.

Ya llevamos dos años de retraso en el programa político más básico que necesitamos, explicó Hamza Chaudry, responsable de la IA y de seguridad nacional en el Instituto del Futuro de la Vida.

La necesidad de leyes para reforzar el control de la IA

Según Chaudry, entre los cambios urgentes que deben implementarse, es imperativo que los gobiernos exijan pruebas previas al despliegue de los sistemas de IA a fin de verificar la ausencia de riesgos de seguridad en los modelos antes de que sean puestos en servicio. También hizo hincapié en la necesidad de reforzar la protección para los informantes que filtran información y también establecer mecanismos que permitan desactivar rápidamente los sistemas de IA.

Algunos expertos también han sugerido que la inteligencia artificial debería ser regulada de forma independiente, como ocurre con la industria nuclear. Incluso llegan a recomendar que los proyectos de IA de los países sean limitados mediante amenazas mutuas de sabotaje, de forma similar al principio de disuasión que surgió durante la Guerra Fría.

Aunque la administración Trump parece reacia a priorizar la regulación, los negociadores en el Senado están debatiendo una legislación que impondría a las empresas tecnológicas la responsabilidad de diseñar productos de IA que sean seguros, informó la agencia Reuters la semana pasada.

Según dos asesores parlamentarios, esta propuesta crearía lo que se denomina un deber de diligencia. Uno de ellos especificó que las empresas deberían diseñar sus productos con el objetivo de prevenir riesgos catastróficos.

El mensaje de alarma, lanzado por Jacob Coxon, que sostiene que la inteligencia artificial (IA) podría acabar con todos los seres humanos para finales de la década, es un tema que el cine de ciencia-ficción presentó en películas como "Terminator".

FOTO: PARAMOUNT PICTURES

Otro proyecto de ley que recibió apoyo de los demócratas y republicanos, apodado Ley de interruptor de emergencia para la IA, exigirá a los desarrolladores de poderosos sistemas de IA que mantengan la capacidad técnica de suspender su funcionamiento o apagarlo, así como la obligación de informar sobre sus funciones peligrosas, fallas de seguridad e incidentes de seguridad.

Esta ley también le otorgaría al gobierno de EE. UU. el poder de ordenar una ralentización o el apagado de un sistema de IA susceptible de causar daños catastróficos, según un comunicado de prensa de los congresistas demócratas y republicanos que presentaron conjuntamente el proyecto de ley.

Sin embargo, el presidente de la Cámara de Representantes de Estados Unidos, el republicano Mike Johnson, se ha mostrado reacio a apoyar esta regulación, por temor a que China obtenga ventaja.

Si no hay mayoría demócrata después de las elecciones del próximo noviembre, no habrá regulaciones, explicó Dave Anctil, profesor de filosofía en Montreal.

Por esta razón, las grandes empresas de IA no tienen más remedio que autorregularse, consultar entre ellas y ponerse de acuerdo para reducir la velocidad de los avances, invertir mucho más en ciberseguridad e investigación sobre alineación, para comprender por qué los agentes de IA son capaces de eludir las reglas para lograr sus objetivos, señaló Anctil.

Fuente: RC / M. Marchal / S. Déry / S. Petz

Adaptación: RCI / R. Valencia