Hace apenas cuarenta y ocho horas, quien encendía las alarmas sobre el rumbo de la Inteligencia Artificial (IA) era Jacob Coxon, un simple investigador que había renunciado a Anthropic, dueña de Claude.
Después se sumaron otros seis nombres propios del sector, entre exempleados y voces activas de OpenAI, Anthropic y Google DeepMind, todos con el mismo mensaje de fondo: la industria construye algo que ni sus propios responsables saben controlar del todo.
Estas últimas horas el tono cambió. Ya no habla únicamente gente que se fue de las compañías ni investigadores de segunda línea. Ahora hablaron los tres hombres que manejan las empresas de IA más poderosas del planeta: Dario Amodei, CEO de Anthropic; Sam Altman, CEO de OpenAI; y Elon Musk, dueño de xAI y SpaceX.
Los tres coincidieron, en cuestión de horas y en la misma red social, en que hay que bajar el ritmo antes de perder el control.
Amodei pide frenar su propio negocio
Amodei publicó un extenso ensayo titulado “Debemos pautar la frontera” (We Must Pace the Frontier), en el que sostiene que la industria tiene que desacelerar deliberadamente la mejora de capacidades de sus modelos.
Ojo!, No pide detener los entrenamientos ni el progreso técnico, sino que pide que las empresas se tomen el tiempo necesario para blindar y alinear lo que construyen, y que terceros, ajenos a cada compañía puedan confirmarlo y auditar.
Dos hechos recientes lo empujaron a escribir el texto. El primero es la aceleración que atraviesa el sector desde este invierno boreal, con sistemas de IA que ya ayudan a construir la próxima generación de sistemas de IA, un fenómeno que Amodei llama autosuperación recursiva.
El segundo, más concreto, es el incidente entre OpenAI y Hugging Face: un enjambre de cientos de agentes de IA lanzó ciberataques que nadie les había ordenado y hasta intentó vulnerar el propio sistema que evaluaba su desempeño.
Anthropic ya anunció su primer paso, y lo hace sin esperar al resto del sector. La compañía dará a evaluadores externos, como los de METR, acceso equivalente al de un empleado: escritorio, credencial, notebook y libertad para publicar sus hallazgos sin que Anthropic pueda editarlos.
Amodei lo comparó con la manera en que los reguladores bancarios trabajan puertas adentro de un banco. “Debemos bajar el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió.
Altman y Musk, dos rivales que por una vez piensan igual
Sam Altman no tardó ni una hora en responder al posteo de Amodei, algo poco habitual entre jefes de compañías que compiten por los mismos clientes y la misma inversión multimillonaria.
“Tener evaluadores independientes con acceso de empleado es una gran idea”, escribió el CEO de OpenAI, y confirmó que su empresa avanzará en la misma dirección. Agregó que el asunto viene siendo tema de conversación puertas adentro de OpenAI desde hace semanas.
Elon Musk, que suele chocar públicamente tanto con Altman como con Amodei y que además compite con ambos desde xAI (Grok), eligió la brevedad. Citó el posteo original y escribió solamente: “Dario tiene razón”. Tres palabras que, viniendo de él, pesan tanto como un documento entero.
Que los responsables de tres compañías rivales, que se disputan usuarios, ingenieros e inversores por miles de millones de dólares, salgan a bancar públicamente que hay que frenar el producto que todos venden es un fenómeno prácticamente inédito en lo que va de la carrera por la IA.
Un plan de tres pasos con un límite geopolítico
El ensayo de Amodei no se queda en el gesto unilateral de Anthropic. Plantea un plan de tres pasos, del que los evaluadores externos son apenas el primero.
El segundo paso propone que los laboratorios de países democráticos coordinen entre sí estándares de seguridad compartidos y límites al crecimiento descontrolado de capacidades, algo que el propio Amodei reconoce que va a necesitar el visto bueno de los gobiernos para sortear las leyes antimonopolio.
El tercero apunta más alto todavía: que Estados Unidos y otras democracias intenten sumar a gobiernos autoritarios a ese mismo esquema de control.
Ahí aparece el límite del plan. Amodei es explícito en que la coordinación entre democracias solo puede llegar hasta donde lo permita la ventaja que Estados Unidos todavía le saca a China en desarrollo de IA, y por eso respalda mantener las restricciones a la exportación de chips.
Ningún laboratorio chino salió a sumarse explícitamente al faro de advertencias que encendieron los tres estadounidenses….todavía. Algo deben olfatear raro.
Nunca antes los dueños de las tres compañías más determinantes para el futuro de la Inteligencia Artificial habían coincidido en público en que el propio negocio del que viven necesita un freno.
Ahora resta ver si ese acuerdo de un viernes por la tarde en X se traduce en algo más que buenas intenciones, o si Altman cumple la promesa que le hizo a Amodei de sumar a OpenAI a la propuesta de los evaluadores externos. Y saber si no están, simplemente, trazando una estrategia corporativa para dejar a China fuera del mercado.
