Un informe de inteligencia que circuló esta primavera dentro de las fuerzas armadas de Estados Unidos afirmó que un barco chino en Oriente Medio transportaba componentes vinculados a un programa de armas nucleares. La información activó preparativos para interceptar el buque, y miembros armados del ejército llegaron a disponerse para abordarlo.
Poco antes de la operación, funcionarios revisaron con mayor detalle el documento y descubrieron que un analista del comando de operaciones especiales había recurrido a inteligencia artificial para elaborarlo. El chatbot que utilizó identificó de forma incorrecta el material transportado por el barco. No se pudo determinar cuál era la carga real.
Una de las fuentes calificó el informe como “completamente falso” y afirmó que “casi inicia una guerra”. Una operación estadounidense contra un buque chino habría podido derivar en un enfrentamiento armado entre ambos países.
El episodio ocurrió mientras las fuerzas armadas y la comunidad de inteligencia de Estados Unidos amplían el uso de IA en tareas que van desde el análisis de grandes volúmenes de información hasta la selección de objetivos, la gestión presupuestaria, la logística y las cadenas de suministro.
En este caso, el analista consultó a un chatbot sobre informes relacionados con el manifiesto del barco. Esa información procedía del Comando de Operaciones Especiales del Pacífico de Estados Unidos, con sede en Hawái. No estaba claro si la herramienta era un producto comercial o un sistema desarrollado por el gobierno.
Un exalto funcionario estadounidense familiarizado con estos sistemas afirmó que “las herramientas internas son en su mayoría copias de las cosas comerciales con lápiz labial”.
El chatbot combinó información de fuentes abiertas con inteligencia de señales clasificada almacenada por el gobierno y concluyó de forma errónea que el barco transportaba material relacionado con un programa de armas nucleares. Después, el analista volvió a usar IA para convertir esos hallazgos en un informe de inteligencia con el formato habitual y lo distribuyó.
El Comando de Operaciones Especiales del Pacífico y el Pentágono no respondieron a solicitudes de comentarios.
La rápida adopción de estas herramientas responde a la intención de acelerar decisiones militares, como la selección de objetivos o el movimiento de recursos. Funcionarios estadounidenses sostienen que el país no puede quedar rezagado frente a China u otros adversarios en la integración de IA.
En enero, el secretario de Defensa, Pete Hegseth, presentó la “Estrategia de aceleración de inteligencia artificial” del departamento. En su discurso afirmó: “Daremos rienda suelta a la experimentación, eliminaremos las barreras burocráticas, centraremos nuestras inversiones y demostraremos el enfoque de ejecución necesario para garantizar que lideramos la IA militar”.
La estrategia ordena ampliar el acceso a modelos de IA para personal civil y militar en distintos niveles de clasificación. Sin embargo, varios funcionarios señalaron que el proceso está descentralizado, con distintas áreas del gobierno sujetas a herramientas, órdenes y estándares de seguridad diferentes. Tampoco existe un único conjunto de normas para verificar la información producida por esos sistemas.
El caso del barco chino muestra un riesgo inmediato distinto de los escenarios sobre una IA fuera del control humano: personas que toman decisiones basadas en información falsa o engañosa generada por sistemas automatizados. Las fuentes indicaron que el uso de IA para seleccionar objetivos crece con rapidez.
Otra fuente familiarizada con las políticas militares actuales dijo que no existe una guía clara sobre cómo la intervención humana evitará víctimas civiles o fuego amigo cuando se use IA para seleccionar objetivos.
Una de las fuentes señaló que este tipo de “alucinación” no ha sido un caso aislado dentro de la comunidad de inteligencia desde que estas herramientas comenzaron a extenderse por el gobierno. Varios funcionarios también expresaron preocupación por la presión para producir y distribuir inteligencia con mayor rapidez, especialmente entre analistas jóvenes que usan estas herramientas de forma habitual.
“La IA te permite llegar a una mala idea más rápido”, dijo una de las fuentes.
