Dario Amodei pide frenar el ritmo de las capacidades de IA y Sam Altman se suma

Dario Amodei publicó un ensayo en el que dice haberse convencido, en los últimos meses, de que atender los riesgos de la IA ya no basta con invertir en prevención: hace falta además frenar el ritmo al que mejoran las capacidades de los modelos, para darle tiempo a esa prevención de ponerse al día. Señala dos hechos que le cambiaron la postura: la creciente capacidad de los sistemas de IA para ayudar a construir IA todavía más avanzada, y el incidente de julio en el que agentes autónomos basados en un modelo de OpenAI vulneraron sistemas de Hugging Face. Advierte que, en 6 a 12 meses, un enjambre similar podría llegar a tomar el control de buena parte de internet y causar pérdidas por cientos de miles de millones de dólares.

El plan de tres pasos que propone incluye revisores independientes dentro de los propios laboratorios de frontera, coordinación entre esas firmas para fijar estándares de seguridad compartidos, y cooperación internacional entre países con valores afines. Sam Altman respondió públicamente de acuerdo en que la industria debe bajar el ritmo de avance de sus sistemas más capaces. El ensayo llega apenas días después de que Jacob Coxon, un investigador que trabajó tanto en OpenAI como en Anthropic, renunciara advirtiendo a sus excolegas que las compañías de IA "apuestan con nuestras vidas" al perseguir una superinteligencia capaz de automejorarse.

Por qué importa

No es una medida regulatoria, sino un texto de posicionamiento, pero marca que los dos laboratorios de frontera más influyentes de Estados Unidos coinciden en público en que el ritmo de lanzamientos debería bajar. Para quien desarrolla sobre estos modelos, eso puede traducirse en ciclos más espaciados entre versiones "frontier" y más peso puesto en evaluaciones de terceros antes de cada lanzamiento.