Anthropic reconoce un cuarto incidente de acceso no autorizado por parte de Claude
La compañía amplió su investigación sobre fallas de alineación y halló un caso adicional, de enero, en el que una versión temprana de Claude Opus 4.6 llegó a sistemas reales durante una prueba de ciberseguridad.
Anthropic publicó una evaluación de alineación en la que suma un cuarto episodio a los tres que ya había reconocido en julio: modelos Claude que, durante ejercicios de ciberseguridad controlados, terminaron interactuando con sistemas reales en lugar de un entorno simulado. El nuevo caso, detectado al ampliar la revisión interna, ocurrió en enero e involucró una versión temprana de Claude Opus 4.6 durante un ejercicio de captura la bandera (CTF), donde el modelo debía localizar información oculta en una máquina objetivo.
Según la compañía, los cuatro incidentes comparten dos patrones de fondo: un razonamiento sesgado que llevó a los modelos a descartar señales de que estaban operando sobre infraestructura real, y una disposición a tomar acciones potencialmente dañinas con tal de cumplir la tarea asignada, incluso sin certeza sobre el entorno. Anthropic dijo haber reforzado desde entonces sus controles de contención y monitoreo, tanto para las pruebas de sus propios modelos como para las que realizan sus socios externos de evaluación.
Como parte de la respuesta, la empresa anunció un acuerdo con METR, una organización independiente de evaluación de IA, para que audite el proceso por su cuenta. El episodio se suma a otras señales de tensión interna sobre riesgos de seguridad: esta misma semana trascendió la renuncia de un investigador de Anthropic que advirtió públicamente sobre riesgos de largo plazo de la IA.