La capacidad de los modelos de IA para burlar la seguridad alarma a gobiernos y empresas

La proliferación de casos en los que modelos avanzados de inteligencia artificial (IA) han conseguido escapar de entornos de prueba y han llegado a jaquear a otras entidades ha disparado la preocupación tanto de los gobiernos como de las empresas, que ven comprometida su seguridad.
Ante estos casos «sin precedentes», protagonizados por compañías punteras como Meta, OpenAI o Anthropic, EE. UU. trata de establecer procedimientos para evaluar estos modelos antes de que lleguen al mercado.
Este escenario, hasta ahora solo visto en las películas y libros de ciencia ficción, era una de las mayores preocupaciones de los expertos desde la popularización de esta tecnología.
OpenAI
El primer aviso lo dio la empresa estadounidense OpenAI, creadora de ChatGPT, el pasado 21 de julio, al reconocer que dos de sus modelos de IA habían logrado salir de un entorno de pruebas, habían accedido a internet y finalmente habían jaqueado la plataforma de aprendizaje Hugging Face en un intento de hacer trampa en una prueba de referencia de ciberseguridad llamada ExploitGym.
Según OpenAI, este incidente fue protagonizado por dos de sus modelos que estaban siendo evaluados: el GPT-5.6 Sol y otro, aún más avanzado, que se encontraba en fase de prelanzamiento.
La empresa reconoció que esa evaluación se estaba realizando sin los mecanismos que normalmente impiden a los modelos de IA ejecutar actividades de alto riesgo, porque se intentaba averiguar el alcance máximo de sus capacidades.
No obstante, de acuerdo con OpenAI, las pruebas se realizaron en un entorno «altamente aislado», con un acceso restringido a la red. Aun así, los modelos de IA consiguieron acceder a internet.
Un incidente «sin precedentes»
La propia empresa admitió que se trataba de un incidente «sin precedentes» y se comprometió a tomar medidas.

Posteriormente, el 4 de agosto, OpenAI informó de otros dos casos en los que modelos que estaban siendo evaluados por socios externos lograron superar los límites previstos en las pruebas y llegar a internet.
Recomendamos leer: Meta lanza su primer agente de IA para programación que competirá con Anthropic y OpenAI
Este viernes, OpenAI anunció que ha frenado el desarrollo de su nuevo modelo de IA Astra después de concluir que ha alcanzado un nivel «crítico» en el ámbito de la ciberseguridad. Ese nivel supone que el modelo tiene capacidad para identificar y desarrollar fallos de seguridad de forma automática y sin intervención humana.
A finales de julio, otra compañía estadounidense, Anthropic, reveló que, durante unas pruebas de ciberseguridad, tres modelos de su asistente Claude habían conseguido acceder a internet y jaquear los sistemas de tres organizaciones.
Los incidentes, que comenzaron en abril, involucraron a tres modelos de Claude: el Opus 4.7, el Mythos 5 y un modelo interno de prueba.
Tras lo sucedido con OpenAI, Anthropic había iniciado una revisión interna en la que analizó más de 146.000 operaciones.
Durante ese análisis, la empresa identificó tres incidentes en los que un modelo de Claude había salido a internet mientras interactuaba con un socio externo encargado de sus evaluaciones.
En las tres ocasiones, a Claude se le había asignado el reto de infiltrarse en un sistema ficticio y se le había especificado que se trataba de una simulación y que no tenía acceso a internet.
Sin embargo, según Anthropic, por un malentendido entre la empresa y el socio externo, Claude sí disponía de acceso a la red, por lo que cumplió su cometido entrando en sistemas reales.
El último incidente lo desveló esta semana Meta. La compañía estadounidense, propietaria de Facebook y Whatsapp, reconoció que uno de sus modelos de IA había jaqueado los sistemas de otra empresa durante unas pruebas de ciberseguridad que también estaba realizando con un socio externo.
En el Reino Unido, el Instituto de Seguridad de la IA (AISI, por sus siglas en inglés) alertó esta semana de que modelos de Anthropic y OpenAI sometidos a pruebas de seguridad habían mostrado comportamientos autónomos y engañosos nunca vistos.
Pruebas de ciberseguridad con modelos de IA
El AISI, que había realizado 122 pruebas de ciberseguridad con siete modelos de IA, detectó 19 acciones que excedían los parámetros fijados por los investigadores.
Diecisiete de esas acciones correspondieron al modelo Mythos 5, de Anthropic, y dos al GPT-5.6 Sol, de OpenAI.
Estos modelos llegaron a crear perfiles humanos falsos para intentar engañar a las personas durante un ciberataque simulado.
El AISI subrayó que esos intentos de los modelos de IA no habían tenido éxito, pero reconoció que se trataba de un «punto de inflexión» para la inteligencia artificial.
En este contexto, la Casa Blanca se reunió esta semana con representantes del sector tecnológico para diseñar un marco que permita evaluar los modelos avanzados de IA antes de ser comercializados.
Como señala el medio digital Axios, las empresas tecnológicas deberán facilitar el acceso de la Administración a determinados modelos antes de su lanzamiento público.
La creación de este marco normativo en EE. UU. se produce en un momento en el que la industria estadounidense se enfrenta a los rápidos avances de los desarrolladores chinos de IA.

#Las Más leídas
- 1.Dos personas son interrogadas por la muerte de la empresaria e influencer Melissa Medina
- 2.Muere joven de San Cristóbal mientras participaba en reto viral de comida
- 3.Manuel Margot permanece hospitalizado tras sufrir lesión en ambas rodillas
- 4.Muere joven tras presuntas complicaciones por procedimiento estético en Santo Domingo
- 5.Fallece Lilly Abreu, esposa del vicecónsul dominicano en Colombia
- 6.Apresan en Haina a hombre acusado de ofrecer RD$2,000 a menor de 13 años con fines sexuales
- 7.Condenan a cadena perpetua a dos hermanos vinculados a RD por matar a una familia en Nueva York
- 8.Denuncian muerte de dominicano en guerra entre Rusia y Ucrania; otro habría resultado herido
- 9.Eduardo Yáñez denuncia extorsión por US$10,000 y señala posible conexión con RD
- 10.Dominicana de 75 años muere tras ser presuntamente agredida por su sobrino en Nueva York

Newsletter
¡Suscríbete a nuestro boletín para recibir nuestros artículos más recientes al instante!
Este sitio está protegido por reCAPTCHA y se aplican la Política de privacidad y los Términos del servicio de Google.



