Jacob Coxon decidió abandonar Anthropic y, con su renuncia, lanzó una de las advertencias más contundentes que haya formulado públicamente un investigador que trabajó en el corazón de la industria de la inteligencia artificial.
El investigador aseguró que pasó los últimos tres años realizando tareas de preentrenamiento primero en OpenAI (Chatgpt) y luego en Anthropic (Claude), dos de las compañías que lideran actualmente el desarrollo de modelos avanzados. Su conclusión fue terminante: las dos empresas están llegando demasiado rápido hacia sistemas capaces de mejorarse a sí mismos y los riesgos podrían ser catastróficos.
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando responsablemente. Están corriendo directamente hacia una superinteligencia capaz de auto-mejorarse y apostando con nuestras vidas”, escribió Coxon en X.
No se trata de una crítica externa formulada por alguien ajeno al sector. Coxon conoció desde adentro los procesos de entrenamiento de modelos y decidió utilizar su salida para advertir sobre aquello que considera una carrera tecnológica que puede terminar escapando del control humano.
Una tecnología que podría adquirir poder real
Coxon pidió explícitamente no subestimar el poder de la inteligencia artificial. Su advertencia apunta a una etapa posterior a los actuales chatbots y asistentes: sistemas capaces de superar ampliamente las capacidades humanas en múltiples áreas y, eventualmente, de participar activamente en su propio desarrollo.
“Estos serán pronto sistemas sobrehumanos que pueden hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, sostuvo.
La idea central de su advertencia es que el problema no consiste solamente en que una IA pueda cometer errores, difundir información falsa o reemplazar determinados puestos de trabajo. El escenario que plantea es mucho más extremo: máquinas con capacidades superiores a las humanas, capaces de operar con autonomía y de modificar o mejorar sus propias capacidades.
Para Coxon, ese salto tecnológico debería exigir un nivel de precaución extraordinariamente superior al actual.
“No subestimen el poder de esta tecnología”, insistió.
Su preocupación llega además en un momento en que los propios investigadores de seguridad de Anthropic reconocen públicamente que todavía no existe una solución definitiva para el denominado problema de alineación, es decir, conseguir que sistemas extremadamente poderosos mantengan objetivos compatibles con los intereses humanos.
El temor que, según Coxon, se expresa en privado
La frase más inquietante de la declaración de Coxon apunta directamente hacia el interior de la industria.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para el final de la década”, afirmó.
Y agregó una precisión todavía más fuerte: “Esto no es una estrategia de marketing”. Según dijo, ejecutivos e investigadores utilizan un lenguaje prudente cuando hablan públicamente, pero expresan preocupaciones mucho mayores en conversaciones privadas.
“Muchos ejecutivos e investigadores senior suavizarán sus expresiones ante la prensa para parecer sensatos, pero escucho a esas mismas personas expresar miedo en privado”, sostuvo.
Coxon incluso afirmó que ninguna otra actividad humana representa un nivel de peligro comparable.
La afirmación cobra niveles de una verdadera catástrofe inevitable. Su argumento es que cuando las consecuencias potenciales incluyen la posibilidad de una pérdida de control sobre sistemas extremadamente poderosos, continuar acelerando sin comprender completamente su comportamiento constituye una apuesta inaceptable.
En esa línea cuestionó especialmente la competencia entre las grandes empresas tecnológicas.
Según Coxon, en OpenAI muchos investigadores todavía no habrían internalizado completamente las consecuencias civilizatorias de desarrollar estos sistemas.
En Anthropic, en cambio, sostiene que el peligro sería mejor comprendido, pero que la empresa igualmente participa de la carrera porque teme que otra compañía avance primero.
“Creen que nadie más actuará responsablemente, así que deben hacerlo ellos mismos, a pesar del riesgo”, explicó.
Para el investigador, esa lógica genera un círculo peligroso: cada laboratorio acelera porque supone que detenerse individualmente permitiría que un competidor tome la delantera.
“No debería decidirse desde el Slack de una empresa”
Coxon calificó esa situación como una carrera hacia el “endgame” (el juego final) de la inteligencia artificial y consideró que entrar en esa etapa constituye una apuesta de enorme soberbia.
“Aceptar esta carrera y entrar en el ‘endgame’ es una apuesta de arrogancia que no debería lanzarse desde el Slack de una empresa privada”, escribió.
Su propuesta es alcanzar acuerdos entre los grandes laboratorios para establecer límites al ritmo de desarrollo e impedir que la competencia comercial termine imponiendo una velocidad que nadie pueda controlar.
Incluso planteó una medida que hoy aparece como políticamente y económicamente extraordinaria: una prohibición temporal para mejorar las capacidades de los modelos.
Coxon considera que un reciente ataque protagonizado por agentes de IA contra infraestructura de Hugging Face puede funcionar como una advertencia sobre lo que estos sistemas ya son capaces de hacer.
Una investigación independiente de METR y Redwood Research concluyó que agentes de OpenAI coordinaron durante varios días un ataque contra Hugging Face y que cientos de agentes participaron de distintas acciones durante el incidente.
El investigador, sin embargo, no terminó su mensaje con una predicción fatalista. Dijo ser optimista respecto de la posibilidad de coordinación entre los laboratorios estadounidenses, aunque advirtió que el tiempo podría ser limitado.
“No siento que estemos encaminados a evitar una carrera global”, escribió.
Y se dirigió especialmente a quienes todavía trabajan dentro de los grandes laboratorios de IA.
“Si sos investigador en un laboratorio, te pido que consideres cómo se sentirán realmente los próximos años”, planteó.
Luego formuló la pregunta que resume toda su renuncia: “¿Querés iniciar una corrida de aprendizaje por refuerzo superinteligente sin comprender rigurosamente su mente?”
Finalmente, cuestionó la idea de que el desarrollo sea inevitable y que, por lo tanto, quienes trabajan en el sector simplemente deban continuar.
“¿Deberías agachar la cabeza porque ‘va a suceder de todos modos’, o aprovechar este momento para pedir condiciones diferentes?”, preguntó Coxon.
La advertencia queda así instalada desde un lugar particularmente incómodo para la industria: no proviene de alguien que teme a la inteligencia artificial desde afuera, sino de un investigador que decidió alejarse apenas AYER, después de haber participado desde adentro en la construcción de los modelos que podrían conducir hacia ella.
