Newsom firma una orden ejecutiva para explorar un 'interruptor de emergencia' para la IA de frontera en California
La orden N-9-26 pide a un panel de expertos evaluar en dos meses un mecanismo de apagado obligatorio y auditorías independientes para los modelos más potentes.
El gobernador de California, Gavin Newsom, firmó el 18 de septiembre la orden ejecutiva N-9-26, que instruye a las agencias estatales a acelerar la supervisión independiente de la IA y a avanzar en el diseño de un posible 'kill switch': un mecanismo de apagado de emergencia que pudiera desactivar un sistema de IA de frontera ante un incidente grave. La orden no obliga a ninguna empresa a instalar nada de inmediato; en cambio, convoca a un grupo de expertos externos y funcionarios estatales a entregar recomendaciones concretas en dos meses, con un reporte esperado para mediados de noviembre.
Entre los puntos que ese panel deberá evaluar están la supervisión adicional sobre las compañías de IA de frontera, auditorías de seguridad independientes y periódicas, y requisitos de verificación externa antes de desplegar los modelos más capaces. Newsom enmarcó la medida como una respuesta a lo que llamó la 'falla absoluta' del gobierno federal para crear una supervisión significativa sobre la IA, en momentos en que, según dijo, los propios directivos de las empresas de IA piden regulación.
Para equipos que desarrollan o despliegan modelos de frontera, la orden en sí no cambia obligaciones hoy, pero marca la dirección de la política estatal: California ya había firmado este año la SB 53 sobre transparencia de IA, y este nuevo paso hacia un posible mecanismo de apagado obligatorio se suma a un mapa regulatorio estatal que se mueve más rápido que la legislación federal.