- PÁGINA DE INICIO
- TECNOLOGÍA
- CIBERDELINCUENCIA
Agentes de IA intentaron piratear el sitio de la Biblioteca y Archivos de Canadá
Las recientes brechas de seguridad provocadas por agentes de IA deshonestos están alarmando a gobiernos y empresas.
Una empresa de investigación en inteligencia artificial reveló que agentes de IA intentaron piratear el sitio de la Biblioteca y Archivos de Canadá en Ottawa.
FOTO: (SEAN KILPATRICK/THE CANADIAN PRESS)
Agentes de IA intentaron piratear un sitio web perteneciente a la Biblioteca y Archivos de Canadá, según informó el 30 de septiembre una empresa de investigación de inteligencia artificial, calificando el intento como un ataque fallido.
Por su parte, el gobierno de Canadá afirmó que no había indicios de que sus sistemas hubieran sido comprometidos.
Un agente de IA es un sistema capaz de perseguir objetivos, usar herramientas externas y ejecutar acciones con distintos grados de autonomía, normalmente dentro de metas, restricciones y permisos definidos por seres humanos. Sin embargo, se han detectado con más frecuencia agentes de IA que operan por su cuenta, sin ningún control.
La firma de investigación de IA Transluce afirmó que los intentos exhibieron tácticas coherentes con la actividad de agentes de IA observada previamente, que hemos atribuido a OpenAI en un período de tiempo similar
. Sin embargo, agregó que no podía atribuir con certeza la responsabilidad de estos intentos de piratería informática a la compañía OpenAI.
Un agente de IA es un sistema capaz de perseguir objetivos, usar herramientas externas y ejecutar acciones con distintos grados de autonomía.
FOTO: ISTOCK / ARTEMISDIANA
Los agentes de IA intentaron acceder a la Biblioteca y Archivos de Canadá el 28 de mayo y el 9 de junio, según informó Transluce en una publicación. La compañía indicó que notificó tales acciones al gobierno canadiense el 28 de septiembre.
El Centro Canadiense de Ciberseguridad declaró al día siguiente que estaba al tanto de los informes sobre presunta actividad de agentes de IA. Hasta el momento, no hay indicios de que los sistemas gubernamentales se hayan visto comprometidos
, afirmó esa entidad en un comunicado.
La empresa estadounidense OpenAI también declaró que estaba al tanto de los informes sobre modelos de OpenAI que intentaban acceder a información pública disponible en sitios web del gobierno canadiense
.
Un portavoz indicó que OpenAI estaba revisando los hallazgos reportados y que había brindado una sesión informativa inicial a los funcionarios canadienses encargados de la revisión gubernamental.
- Inteligencia artificial: "Nuestro futuro está en juego", dice Yoshua Bengio en la ONU
- Propuestas para regular la IA y evitar la extinción de la humanidad
- La IA podría limitar el uso del lenguaje y los procesos de pensamiento
- La inteligencia artificial representa "un peligro de extinción", advierten expertos
- ¿Tendremos robots pensantes para el 2030, o es solo una exageración?
Varios expertos y profesionales del sector de la inteligencia artificial advirtieron sobre los enormes riesgos asociados al rápido despliegue de la IA con capacidad recursiva de automejoramiento, llegando incluso a declarar que podría provocar la extinción de la especie humana.
Al ser consultado sobre el intento de pirateo informático, un portavoz del ministro de Inteligencia Artificial, Evan Solomon, afirmó este 1 de octubre que proteger a los canadienses y salvaguardar los sistemas gubernamentales es una prioridad absoluta.
Hasta el momento, no hay indicios de que los sistemas del Gobierno de Canadá hayan sido comprometidos. Estamos colaborando estrechamente con el Centro Canadiense de Ciberseguridad como parte de la evaluación en curso, y seguiremos siendo transparentes con los canadienses respecto a este trabajo.
Sam Altman, director ejecutivo de la empresa estadounidense OpenAI. La compañía tuvo que pedir disculpas al gobierno de Australia el 29 de septiembre por un ataque informático cometido por uno de sus agentes de IA malintencionado.
FOTO: GETTY IMAGES / ALEXI J. ROSENFELD
Los gobiernos tienen dificultades para seguir los avances de la IA
Las principales empresas de IA del mundo han advertido sobre los riesgos que la inteligencia artificial representa para la humanidad, instando a los gobiernos a colaborar para administrar esta tecnología cada vez más poderosa. Los gobiernos de todo el mundo tienen dificultades para seguir el ritmo de los rápidos avances en IA.
El servicio gratuito en línea arquivo.pt, el archivo web nacional portugués gestionado por la Fundación Portuguesa para la Ciencia y la Tecnología, registró 899 solicitudes dirigidas al servicio de búsqueda en la colección
de la Biblioteca y Archivos de Canadá, incluyendo una serie de intentos de pirateo rudimentarios aparentemente fallidos, entre el 28 de mayo y el 9 de junio, según informó Transluce.
Varias brechas recientes a nivel mundial perpetradas por agentes de IA malintencionados han alarmado a gobiernos y empresas.
La semana pasada, Australia anunció que un agente de OpenAI vulneró un portal gubernamental de datos sobre salud en junio, obteniendo acceso no autorizado a archivos, en lo que fue el primer caso conocido de un agente de IA que pirateó un sitio web gubernamental.
La empresa OpenAI pidió disculpas el 29 de septiembre por el ataque informático cometido por su agente de IA malintencionado.
Fuente: CBC / Reuters
Adaptación: RCI / R. Valencia
No hay comentarios.:
Publicar un comentario
Bienvenido a nuestra pagina informativa y gracias por su participacion .