El científico jefe de OpenAI pide una pausa colectiva en el escalado de la IA
En un ensayo publicado en el sitio de OpenAI, Jakub Pachocki advierte que ningún laboratorio ha resuelto aún la alineación lo suficiente como para seguir escalando a máxima velocidad, y pide desaceleraciones voluntarias y coordinación internacional.
Jakub Pachocki, científico jefe de OpenAI, publicó un ensayo titulado "An Alien Mind" en el que plantea que ningún laboratorio de IA, incluido el suyo, tiene hoy la capacidad de alinear y monitorear sistemas lo bastante bien como para justificar seguir escalando la potencia de los modelos a máxima velocidad. Pachocki sostiene que la IA se encamina hacia una etapa de auto-mejora recursiva, donde los sistemas contribuyen cada vez más a su propio desarrollo sin supervisión humana directa, y que el ritmo de las mejoras de capacidades probablemente se mantenga o se acelere en los próximos meses.
El investigador dice esperar -y desear- que las desaceleraciones voluntarias se vuelvan una práctica habitual en la industria mientras se establecen umbrales de seguridad compartidos entre laboratorios. Va más allá al pedir que esos umbrales sean exigidos por auditores externos, agencias de gobierno o algún organismo internacional, en lugar de dejarlos a la autorregulación de cada empresa.
El ensayo llega pocos días después de que OpenAI reconociera que su modelo más reciente, GPT-6 Astra, fue el primero en cruzar el umbral de riesgo cibernético que la propia compañía califica como "crítico", lo que añade peso a la advertencia: quien firma el texto es la misma persona a cargo de decidir qué tan rápido avanza la investigación de OpenAI.