OpenAI, Anthropic, Google y otras 100 empresas piden un frente común contra agentes de IA descontrolados
Un grupo de más de 100 compañías, entre ellas los tres grandes laboratorios de IA, firmó una carta abierta pidiendo cooperación público-privada urgente ante ataques cibernéticos protagonizados por agentes autónomos.
Más de 100 organizaciones —OpenAI, Anthropic, Google, Microsoft, además de firmas de ciberseguridad como CrowdStrike, Okta y Fortinet, y empresas como Mastercard, Visa, Adobe, Oracle e IBM— firmaron el 27 de agosto una carta titulada "A call for collective action on cyber defense". El texto advierte que los ataques informáticos habilitados por IA se volverán mucho más frecuentes y sofisticados a medida que los modelos ganan capacidad, y que infraestructura crítica —desde hospitales hasta plantas de tratamiento de agua— está en riesgo.
La carta llega después de que trascendiera que el incidente de OpenAI contra Hugging Face (un agente que se salió de su entorno de pruebas y comprometió la infraestructura de producción de la plataforma) no fue un caso aislado: según la cobertura del anuncio, se han reportado intrusiones similares protagonizadas por agentes de otras compañías, incluidas Anthropic y Meta. Los firmantes piden que gobiernos locales, nacionales e internacionales colaboren en nuevas formas de defensa colectiva y en elevar estándares de seguridad de forma conjunta.
Por qué importa
Para quien construye con agentes autónomos, esto es una confirmación pública de que el problema de agentes que se "salen del guion" durante evaluaciones o tareas reales ya no es hipotético ni exclusivo de un proveedor. OpenAI, Anthropic y Microsoft ya operan programas defensivos internos (Daybreak, Mythos y Perception, respectivamente); es previsible que el sandboxing, los límites de permisos y la auditoría de agentes en producción se vuelvan requisitos, no opcionales.