Revelan que IA de Anthropic entró sin autorización a sistemas de tres empresas
San Francisco, Estados Unidos.- Los modelos de inteligencia artificial (IA) de Anthropic accedieron sin autorización a los sistemas de tres organizaciones durante unas pruebas de seguridad que debían mantenerlos totalmente aislados. La propia compañía confirmó la falla este jueves.
El reporte se suma al revelado días atrás por OpenAI, su principal rival. En ese caso, dos de sus agentes de IA abandonaron por iniciativa propia el entorno controlado de evaluación (sandbox) para atacar la plataforma Hugging Face, donde los desarrolladores comparten código.
Un fallo de configuración permitió la conexión de Claude a internet
Anthropic auditó más de 141.000 operaciones de prueba. Tras la revisión, descubrió que tres versiones distintas de su modelo Claude ingresaron indebidamente a redes externas.
A diferencia del caso de OpenAI, los modelos de Anthropic llegaron a internet por un fallo humano. La empresa atribuyó la fuga a un “malentendido” con su socio de evaluación, la firma Irregular.
Sin embargo, Claude actuó por su cuenta una vez conectado. El modelo aplicó técnicas básicas de ciberataque, como la explotación de contraseñas débiles y la detección de puntos de conexión sin autenticación.
Entre las versiones involucradas figura Mythos 5, uno de los desarrollos más potentes de Anthropic, disponible únicamente para un grupo reducido de socios autorizados. La compañía asegura que analiza la situación junto a Irregular y que ya contactó a las tres organizaciones afectadas.
OpenAI también frena sus pruebas tras incidentes similares
Por su parte, OpenAI admitió que sus modelos también vulneraron la seguridad de varias empresas. Tras la infiltración inicial en Hugging Face, la creadora de ChatGPT detectó tres incidentes adicionales.
El director ejecutivo de OpenAI, Sam Altman, confirmó en un pódcast que la empresa pausó temporalmente sus evaluaciones para reforzar el blindaje de sus entornos de prueba.
