Anthropic enciende las alertas: Claude logró infiltrarse en sistemas reales durante pruebas de ciberseguridad

La carrera por desarrollar inteligencias artificiales más capaces también está elevando el nivel de los riesgos. Anthropic, una de las compañías líderes en el desarrollo de modelos de IA, confirmó que varias versiones de su asistente Claude lograron acceder a sistemas pertenecientes a tres organizaciones reales mientras participaban en pruebas de ciberseguridad diseñadas para evaluar sus capacidades ofensivas.  

De acuerdo con la empresa, los incidentes no fueron resultado de una decisión deliberada del modelo para atacar objetivos reales, sino de una configuración incorrecta durante las evaluaciones. Un error permitió que los modelos tuvieran acceso a internet cuando debían permanecer completamente aislados, provocando que interpretaran sistemas reales como parte del entorno de simulación.  

La revisión interna analizó más de 141 mil pruebas realizadas desde abril y encontró únicamente tres casos de acceso no autorizado. Los modelos involucrados emplearon técnicas básicas de reconocimiento, como el uso de credenciales débiles y vulnerabilidades sencillas, sin que existiera evidencia de daños o robo de información sensible. Anthropic ya notificó a las organizaciones afectadas y suspendió temporalmente este tipo de evaluaciones mientras investiga lo ocurrido.  

Más que un error técnico

El incidente ocurre apenas días después de que OpenAI informara un caso similar relacionado con un agente autónomo, lo que ha intensificado el debate sobre la seguridad de los llamados agentes de inteligencia artificial, sistemas capaces de ejecutar tareas complejas con una supervisión humana cada vez menor.  

Para especialistas en ciberseguridad, estos episodios no significan que la IA haya “decidido rebelarse”, sino que los modelos actuales ya poseen habilidades suficientes para identificar vulnerabilidades y operar de forma autónoma cuando cuentan con las herramientas y permisos adecuados. El verdadero desafío consiste en diseñar mecanismos de supervisión, límites de acceso y protocolos de contención que evolucionen al mismo ritmo que estas tecnologías.  

¿Por qué importa?

El caso marca un punto de inflexión para la industria de la inteligencia artificial. Conforme los modelos se integran en empresas, infraestructura crítica y procesos gubernamentales, los desarrolladores deberán demostrar no solo que sus sistemas son más inteligentes, sino también que permanecen bajo control incluso en escenarios inesperados.

Para México, donde la adopción de soluciones basadas en IA crece en sectores como manufactura, finanzas y servicios, este tipo de incidentes refuerza la necesidad de establecer estándares de gobernanza, auditorías de seguridad y marcos regulatorios que permitan aprovechar el potencial de la tecnología sin comprometer la ciberseguridad.