El referente de Inteligencia Artificial (IA), Jacob Coxon, renunció el lunes a Anthropic y encendió una mecha que todavía no se apagó. Lo que empezó como el descargo de un solo investigador se transformó en apenas horas en una cadena de declaraciones de otras seis personas que ocupan u ocuparon puestos clave en las compañías más exitosas del sector: OpenAI, Anthropic y Google DeepMind.
Todas estas “eminencias” del área coincidieron en el mismo punto de partida: la industria está construyendo una tecnología que sus propios responsables no terminan de saber cómo controlar. Y lo dijeron en público, con nombre y apellido, algo que hasta hace pocos días quedaba reservado a charlas de pasillo.
A los legos en el tema solo nos queda exclamar: ¿”Y ahora me lo venís a decir”?
“No tenemos un plan para resolverlo”
El primero en sumarse fue Samuel Marks. Es líder de Supervisión Escalable en Anthropic (Claude), y aclaró que escribía a título personal, no en representación de su empleador. Fue quien aportó el dato más citado de estos días.
“Cuanto más ‘senior’ (más experimentado) es el empleado, más preocupado está”, escribió Marks sobre cómo se vive puertas adentro el riesgo de un desenlace catastrófico. Sostuvo que existen métodos para orientar a los sistemas hacia mejores comportamientos. Pero remarcó que ninguno logra todavía garantizar un control total sobre ellos.
Evan Hubinger conduce el área de Ciencia de Alineación también en Anthropic y le puso un número a la alarma.
“Jacob tiene razón: realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió. Calculó que la probabilidad de ese desenlace supera el 10% en la próxima década. Dijo que Anthropic “está haciendo todo lo posible“. Sin embargo, admitió sin vueltas que la empresa todavía no cuenta con un plan para resolver el problema de alineación en sistemas de superinteligencia.
Alex Turner se fue de Google DeepMind (Gemini) en junio pasado, hace menos de 3 meses. Confirmó desde adentro lo que Coxon había planteado sobre OpenAI.
“Muchos investigadores creen que están construyendo algo que podría matar a todos en el planeta. Era literalmente mi trabajo diario pensar en cómo detener eso”, escribió Turner.
La voz que más pesa: el jefe científico de OpenAI
La declaración con mayor peso institucional llegó desde el propio OpenAI. Jakub Pachocki es el científico jefe de la compañía y publicó un texto extenso en el que reconoció que los modelos de razonamiento actuales ya operan computadoras, colaboran entre sí y llevan adelante proyectos de investigación por cuenta propia.
“Este es un momento que exige una precaución extrema. Me preocupa que nadie esté preparado para las consecuencias de un aumento continuo y rápido en la inteligencia de las máquinas”, escribió Pachocki.
El científico jefe pidió que OpenAI refuerce sus propios sistemas de alineación y monitoreo, y que esté dispuesta a frenar unilateralmente el desarrollo de sus modelos si hace falta. También planteó que ese esfuerzo individual no alcanza y reclamó intervenciones más amplias, que excedan a una sola compañía.
Jason Wolfe también investiga en OpenAI y sumó una mirada menos apocalíptica, aunque igual de inquietante.
“No sé cuáles son mis probabilidades de una extinción literal, pero al ritmo actual la humanidad será bastante afortunada si logramos mantenernos en el estrecho camino entre todos los malos resultados”, escribió Wolfe.
El otro riesgo: la concentración de poder
Jonathan Richard Schwarz dejó Google DeepMind después de siete años en la compañía. Desde entonces rechazó ofertas de las otras dos firmas mencionadas en este hilo de advertencias.
“Lo que está sucediendo actualmente en este campo es profundamente perjudicial para la sociedad”, escribió Schwarz. Su preocupación apunta a la concentración de poder que acumulan estos laboratorios sin ningún control externo.
Coxon, el tecnológico que renunció antes de ayer y encendió la mecha, había cerrado su propio hilo con un pedido directo a quienes todavía trabajan puertas adentro de los grandes laboratorios. Les preguntó si quieren iniciar una corrida de entrenamiento superinteligente sin entender a fondo lo que están construyendo. O si prefieren aprovechar este momento para exigir condiciones distintas.
Ninguna de estas siete personas habla desde afuera del negocio de la inteligencia artificial. Todas entrenaron o supervisaron directamente los modelos que hoy generan esa misma inquietud, y varias siguen trabajando en el corazón de las compañías que lideran la carrera hacia la superinteligencia.
Los siete mensajes se publicaron entre el 8 y el 9 de septiembre, y ninguno de sus autores se retractó ni matizó lo dicho en las horas siguientes.
Alguien se encargó de transformar la declaración catástrofe de Coxon de ayer, luego de renunciar, en una canción de una supuesta “boy band”, y lo hizo a través de Inteligencia Artificial, manteniendo exactas las palabras del especialista que hoy es tapa de todos los diarios y portales del planeta.
