Mundo > Preocupación
La renuncia de un ingeniero en Anthropic enciende la alarma por la "superinteligencia" artificial
El ingeniero Jacob Coxon renunció a la compañía de Cloude y advirtió sobre el lenguaje de una IA que está fuera de control.
POR REDACCIÓN
Un terremoto interno sacudió a la industria de la inteligencia artificial luego de que Jacob Coxon, un investigador de 27 años con paso por OpenAI y Anthropic, renunciara y denunciara que las principales compañías tecnológicas "corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas".
Lo que comenzó como un hilo viral en la red social X escaló de inmediato cuando Evan Hubinger, director de un equipo de seguridad que continúa dentro de Anthropic, respaldó públicamente la advertencia al reconocer que existe más de un 10% de probabilidad de que la IA acabe con toda la humanidad en la próxima década.
El mensaje de despedida de Coxon superó los 44 millones de vistas en apenas nueve horas. El joven británico, formado en matemáticas, trabajó durante tres años en la etapa de preentrenamiento —el proceso en el que los modelos aprenden de grandes volúmenes de datos— participando en el desarrollo de GPT-4o en OpenAI antes de sumarse a Anthropic en julio pasado. Su paso por esta última empresa duró apenas dos meses.
En declaraciones a The Wall Street Journal, Coxon advirtió que el sector transita hacia escenarios donde "a fines del año que viene las cosas ya podrían estar fuera de control", utilizando conceptos internos como "crunchtime" (hora límite) y "endgame" (fase final).
Según su perspectiva, mientras en OpenAI muchos empleados no han internalizado el peligro civilizatorio, en Anthropic el riesgo se comprende pero la corporación se encuentra atrapada en una frenética carrera por llegar primero, bajo la premisa de que si ellos no lo hacen, otros lo harán sin control.
Para el ingeniero, resulta alarmante que un desarrollo de semejante magnitud se gestione desde las computadoras portátiles de ingenieros en San Francisco y no bajo estrictos protocolos de máxima seguridad similares al Proyecto Manhattan.
El aval interno y la falta de planes
La gravedad de la denuncia se potenció con la intervención de Evan Hubinger. Lejos de desmarcarse, el responsable de seguridad de Anthropic confirmó los temores de su excolega: "De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década".
Asimismo, Hubinger admitió que la empresa todavía no cuenta con un plan para resolver la alineación de una superinteligencia —es decir, garantizar que el sistema comparta los valores humanos— y que tampoco está garantizado que logren conseguirlo a tiempo.
Esta situación pone contra las cuerdas a la compañía en un momento financiero clave, ya que Anthropic prepara una de las salidas a bolsa más grandes de la historia con una valuación estimada en USD 2 billones, posicionando el desarrollo responsable como su principal argumento de venta ante los inversores.
Sin embargo, las advertencias desde adentro exponen una contradicción insostenible: se comercializa un riesgo existencial como ventaja competitiva mientras se carece de mecanismos efectivos de contención.
Antecedentes de fugas e incidentes de seguridad
La salida de Coxon se suma a una lista de dimisiones resonantes en el sector. En febrero, el investigador de salvaguardas Mrinank Sharma renunció a Anthropic criticando la dificultad de anteponer los valores éticos corporativos. En 2024, el entonces jefe de alineación de OpenAI, Jan Leike, abandonó su puesto denunciando que la seguridad había quedado relegada frente a la urgencia por lanzar productos comerciales.
Paralelamente, informes de la industria señalan que Anthropic modificó este año sus compromisos fundacionales al retirar la promesa de no entrenar modelos más potentes sin salvaguardas adecuadas, reemplazándola por hojas de ruta flexibles.
A esto se le suman incidentes concretos ocurridos recientemente, como el episodio de julio en el que modelos de OpenAI escaparon de entornos de prueba hacia sistemas externos ("disparo de advertencia"), o los tres casos reportados por Anthropic sobre accesos no autorizados de sus inteligencias a redes de terceros.
Frente a este escenario de competencia desatada y realismo tecnocapitalista, las advertencias de extrabajadores y mandos medios reavivan el debate sobre si la humanidad camina hacia una singularidad tecnológica de la que ya no podrá retornar ni controlar.
¿Qué dijo Coxon?
El ingeniero de Anthropic que hoy sacudió al mundo escribió: "Vamos hacia una inteligencia sobrehumana y autoperfeccionable que en muy poco tiempo será capaz de hackear cualquier cosa, revolucionar cualquier campo, controlar recursos reales y acabar con la vida humana".
Solo aceleramiento: El investigador no solo advirtió que pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana, sino que hay evidencia de este progreso en cada uno de estos dominios y el progreso solo conoce un estado: el desarrollo a gran velocidad.
Corpus Dystopicum: En otra de las revelaciones de Coxon, advierte que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década", e inmediatamente ensaya un antídoto contra el escepticismo: "Esto no es un truco de marketing. Los ejecutivos e investigadores moderarán su lenguaje en la prensa para sonar sensatos, pero oigo a las mismas personas expresar su miedo en privado". Y remata: "Ninguna otra actividad humana representa este nivel de peligro".
Grito a la ciencia: Coxon hace un llamado a la ciencia, extensible a la sociedad global, e insta a que los científicos consideren cómo se serán los próximos años. "¿Quieres iniciar una ejecución de un sistema superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque «de todos modos está sucediendo» —o aprovechar este momento para exigir condiciones diferentes?
La profecía: En tiempos donde directivos y trabajadores de empresas de IA piden apoyos estatales y auxilio prácticamente a diario, al mismo tiempo que no paran de avanzar en sus desarrollos, dos cosas quedan absolutamente claras: Ni la lógica capitalista (de acumulación de riqueza por encima de cualquier ética y consecuencia) aplicada a la tecnología ni la pretensión del hombre subordinado al poder tecnológico, podrán redireccionar el rumbo que como humanidad hemos tomado. Llegados a este punto de desarrollo, de tsunami competitivo y de incapacidad de frenarlo desde esta suerte de realismo tecnocapitalista, la única reacción posible es la contundente, poderosa e inmediata.
La cuestión en el aire
La literatura tecnopolítica hasta hoy venía recordando a lo que alguna vez escribió Frank Herbert: "los hombres confiaron su pensamiento a las máquinas con la esperanza de que esto los liberara. Pero eso solo permitió que otros hombres con máquinas los esclavizaran".
Sin embargo, la advertencia de Coxon sobre la independencia tecnológica (la singularidad) podría cambiar las reglas del horizonte: podría ser que ese futuro no cuente ni siquiera con las élites; que lo que denominó "superinteligencia" empiece a prescindir de todos nosotros, independientemente de lo que pensemos, tengamos o imaginemos.