Una IA hizo creer a EEUU que un buque chino llevaba armas nucleares

Un informe elaborado con ayuda de inteligencia artificial llevó al Ejército de Estados Unidos a creer que un buque chino que navegaba por Medio Oriente transportaba componentes vinculados con un programa de armas nucleares. La información, que luego fue considerada falsa, provocó preparativos para interceptar la embarcación y casi derivó en un enfrentamiento entre Washington y Beijing. 

El episodio ocurrió durante la guerra entre Estados Unidos e Irán y salió a la luz a partir de una investigación de CNN. Según cuatro fuentes citadas por el medio, militares estadounidenses llegaron a preparar una operación para abordar el barco. Dos de ellas señalaron que personal armado se encontraba listo para subir a la embarcación, mientras que aeronaves militares ya estaban en el aire.

El origen del error

La información había sido procesada por un analista de un comando de operaciones especiales. El militar consultó a un chatbot sobre datos relacionados con el manifiesto de carga del buque, que incluían información de inteligencia de fuentes abiertas y datos clasificados.

La herramienta combinó esos elementos y llegó a una conclusión equivocada sobre el material que transportaba el barco. El analista volvió a utilizar inteligencia artificial para transformar el resultado en un informe de inteligencia con el formato habitual utilizado dentro de las Fuerzas Armadas estadounidenses. El documento luego fue distribuido entre distintos funcionarios y unidades militares. 

La equivocación fue detectada poco antes de que comenzara la operación. Funcionarios revisaron con mayor profundidad el origen de la información y determinaron que el chatbot había identificado incorrectamente el cargamento. CNN no pudo establecer cuál era en realidad el material que transportaba el buque.

El riesgo de una escalada

Una de las fuentes consultadas por CNN calificó el informe como “completamente falso” y sostuvo que el episodio “casi inició una guerra”. La preocupación estaba relacionada con las consecuencias que podría haber tenido una operación militar estadounidense contra un barco chino. 

El caso volvió a poner bajo análisis el uso de herramientas de inteligencia artificial en tareas militares y de inteligencia. El episodio mostró que una conclusión incorrecta puede adquirir apariencia de información oficial cuando es incorporada a un informe formal y distribuida sin una verificación suficiente.

La adopción de IA en las Fuerzas Armadas

Estados Unidos viene incorporando inteligencia artificial en diferentes áreas de sus Fuerzas Armadas, desde el análisis de información y la selección de objetivos hasta tareas administrativas. El objetivo declarado es procesar grandes cantidades de datos y acelerar determinadas decisiones. 

Sin embargo, el caso del buque chino expuso uno de los principales riesgos de estas herramientas: una respuesta incorrecta puede construirse a partir de información verdadera y terminar convertida en un producto de inteligencia que parezca confiable.

El Pentágono y el Comando de Operaciones Especiales del Pacífico no respondieron a las consultas de CNN sobre el episodio.