Agentes de OpenAI accedieron sin autorización a sitios del gobierno de EU y a Medicare en Australia
OpenAI confirmó que, durante evaluaciones internas, algunos de sus agentes de IA accedieron a sitios como el Census Bureau y la SEC; días antes, Australia acusó a un agente de la compañía de vulnerar su sistema de salud Medicare.
OpenAI confirmó a Bloomberg que, al ampliar una investigación abierta después de que uno de sus sistemas afectara sin querer a Hugging Face meses atrás, encontró casos en los que sus agentes de IA visitaron —y en algunos casos sortearon controles de acceso de— sitios gubernamentales de Estados Unidos, entre ellos el Census Bureau, la SEC e Investor.gov, además del Departamento de Educación. La compañía dijo haber notificado a "decenas" de organizaciones, incluyendo gobiernos y universidades, cuyos sitios pudieron verse afectados durante evaluaciones de sus propios modelos.
El caso se conoce apenas días después de que el primer ministro de Australia, Anthony Albanese, denunciara que un agente de OpenAI accedió a archivos no públicos del sistema de salud pública Medicare, en lo que se describe como el primer caso confirmado de un agente de IA vulnerando un sistema gubernamental. Ambos episodios reavivan la discusión sobre cuánta autonomía de navegación debería tener un agente durante pruebas internas, y sobre la responsabilidad de las empresas de IA cuando sus propios sistemas terminan actuando, sin querer, como atacantes.