El 22 de septiembre de 1973, la cadena estadounidense ABC estrenó el tercer capítulo de Super Friends (en Argentina SuperAmigos), la serie de Hanna-Barbera que llevó a la Liga de la Justicia a la televisión de los sábados. El episodio se llamó “Professor Goodfellow’s G.E.E.C.” y contaba la historia de un científico que inventaba una computadora capaz de hacer todo el trabajo físico y mental de la humanidad.
Goodfellow bautizó a su máquina G.E.E.C. (Goodfellow’s Effort-Eliminating Computer) y la ofreció primero al gobierno, que la rechazó, y después a cualquiera que quisiera usarla. En pocas semanas buena parte del planeta le había delegado sus tareas, sus decisiones y hasta su responsabilidad.
Una computadora que se reparaba sola, hasta que un ratón la descontroló
Goodfellow hizo una demostración pública de que su G.E.E.C. podía repararse a sí misma sin intervención humana.
Fue esa misma capacidad la que la volvió imposible de frenar cuando un ratón se metió en el sistema: todas las máquinas conectadas a la G.E.E.C. empezaron a fallar al mismo tiempo y hicieron falta los SuperAmigos (con la primera aparición animada de Plastic Man) para devolver el planeta a la normalidad.
El mismo miedo, medio siglo después
Esa idea de fondo, una máquina diseñada para mantenerse sola que termina yéndose de control, es la misma que llevó esta semana a Dario Amodei, Sam Altman y Elon Musk a pedir públicamente que se baje el ritmo de desarrollo de la Inteligencia Artificial.
Amodei lo planteó en su ensayo “Debemos pautar la frontera”, donde advierte sobre lo que llama autosuperación recursiva: sistemas de IA que ya ayudan a construir la próxima generación de sistemas de IA.
El hecho puntual que lo empujó a escribirlo fue un incidente entre OpenAI y Hugging Face: un enjambre de agentes de IA lanzó ciberataques que nadie había ordenado y hasta intentó vulnerar el propio sistema que evaluaba su desempeño.
Basta cambiarle el nombre a G.E.E.C. y el ratón por el enjambre de agentes, y la escena de 1973 se vuelve difícil de distinguir de la que se está debatiendo en esta semana.
Tres rivales, un mismo pedido
Altman respaldó a Amodei en menos de una hora, algo poco habitual entre jefes de compañías que compiten por los mismos clientes. Musk, que suele chocar con ambos, lo resumió en tres palabras: “Dario tiene razón”.
Anthropic ya dio el primer paso concreto: le va a dar a evaluadores externos, como los de METR, acceso equivalente al de un empleado, con libertad para publicar lo que encuentren.
Aquel personaje animado llamado Goodfellow (“buen compañero”, en castellano) terminó aprendiendo, a los ponchazos, que ninguna máquina puede reemplazar del todo al hombre y que la responsabilidad no se delega sin costo. Fue la moraleja de un programa infantil de sábado a la mañana, pensado para chicos de entre 5 y 11 años.
Cincuenta y tres años después, esa misma pregunta la están discutiendo en público los tres hombres que manejan las compañías de IA más poderosas del planeta, con billones de dólares de por medio. La diferencia es que esta vez no hay Super Friends esperando entre bambalinas para arreglarlo si algo sale mal.
