La alucinación de la inteligencia artificial ha estado a punto de desencadenar un incidente militar entre Estados Unidos y China. Un informe de inteligencia elaborado con ayuda de herramientas de IA, y completamente falso, llevó al Ejército estadounidense a preparar el abordaje de un buque chino en aguas de Oriente Medio con apoyo aéreo, según ha revelado CNN a partir de cuatro fuentes conocedoras del episodio.
Claves de la operación
- El informe salió de un analista del Mando de Operaciones Especiales. El documento sostenía que el buque chino transportaba componentes para su programa nuclear rumbo a Oriente Medio.
- Un chatbot identificó mal el material embarcado. La revisión interna desveló que la herramienta había descrito la carga de forma inexacta, siempre según las mismas fuentes.
- La interceptación se frenó antes del abordaje. Una de las personas consultadas resume el episodio con una frase que mide por sí sola el tamaño del fallo: ‘casi provocó una guerra’.
De una consulta a un chatbot a una operación de abordaje
La secuencia que reconstruye la cadena estadounidense es incómoda para cualquier estado mayor. Un analista del Mando de Operaciones Especiales (USSOCOM) se apoyó en herramientas de lenguaje natural para redactar un informe de inteligencia. El resultado atribuía a un buque chino el transporte de componentes de su programa nuclear por aguas de Oriente Medio.
Con ese documento sobre la mesa, el Ejército activó los preparativos de una interceptación con apoyo aéreo. La operación se detuvo cuando los mandos revisaron cómo se había generado el informe y comprobaron que el sistema había identificado la carga de forma inexacta. Nadie apretó el botón. El abordaje nunca llegó a producirse, pero el episodio ya circula por los despachos de Washington y de Bruselas.
Conviene subrayar el estatus de la información antes de sacar conclusiones gruesas: son cuatro fuentes anónimas, no existe confirmación oficial del Pentágono ni del USSOCOM y el relato llega a través de un único medio. Eso sí, la descripción del error es lo bastante concreta como para que el riesgo de la IA en defensa haya dejado de ser un asunto de seminario.
El vacío regulatorio que empieza donde termina el AI Act
El reglamento europeo de inteligencia artificial excluye de su ámbito de aplicación los sistemas desarrollados con fines militares y de defensa. Las obligaciones para los sistemas de alto riesgo entraron en vigor el pasado 2 de agosto y, aun así, no alcanzan a la herramienta que asesoró al mando estadounidense. Ese hueco es, precisamente, el espacio donde se movía el informe fallido.
En Estados Unidos el problema tiene otro nombre: urgencia. El Departamento de Defensa lleva tres años integrando asistentes generativos en tareas de análisis, traducción y resumen documental, y la presión por acortar los plazos de contratación ha ido por delante de los protocolos de validación. Un informe falso que llega rápido sigue siendo un informe falso, aunque el mando lo reciba antes que el adversario.
Delegar en una máquina la primera lectura de la inteligencia no elimina el error humano: lo traslada a un punto donde nadie lo revisa con la misma prisa.
La paradoja tiene una lógica incómoda. Cuanto más se acelera la adopción de IA en los ministerios de defensa, menos reglas vinculantes la cubren. Los contratistas venden velocidad de análisis, los estados compran capacidad de reacción. Nadie firma la casilla de la verificación humana. Y una alucinación del modelo no se detecta hasta que alguien pregunta de dónde sale el dato.
Indra, el rearme europeo y la tentación de automatizar el análisis
En España el debate no es teórico. Indra, compañía del Ibex 35 que coordina la participación española en el programa FCAS y figura entre los principales proveedores tecnológicos del Ministerio de Defensa, ha situado la inteligencia artificial en el centro de sus sistemas de mando y control. Compite en Europa con Thales y Leonardo por los mismos contratos y con el mismo argumento comercial: menos tiempo entre el dato y la decisión.
El episodio del buque chino introduce un riesgo que las áreas de compras todavía no habían puesto en precio. Una sola alucinación puede congelar un contrato o abrir una auditoría de certificación en pleno ciclo de rearme. En un mercado donde Palantir sostiene buena parte de su facturación en el gasto público estadounidense, y donde los fabricantes europeos pujan por los presupuestos de defensa del continente, la trazabilidad de cada respuesta generada deja de ser un detalle técnico y pasa a ser argumento de venta.
España ha comprometido con la OTAN una senda de crecimiento del gasto en defensa hasta 2035. Con ese dinero encima de la mesa la tentación de automatizar el análisis de inteligencia es enorme: los estados mayores quieren respuestas en minutos, no en días. La velocidad vende. El problema es que la velocidad, sin verificación humana obligatoria, también fabrica certezas falsas.
Observamos un patrón que se repite en cada despliegue corporativo de IA y que en defensa adquiere otra escala: la herramienta se compra por lo que promete y se audita por lo que falla. El precedente español más cercano no está en los cuarteles, sino en la digitalización administrativa, donde un error automatizado se corrige con una reclamación y un par de semanas de paciencia. Aquí la reclamación llega cuando el buque ya está interceptado.
Queda por ver si el Pentágono confirma el episodio y si su revisión interna acaba en un protocolo de verificación obligatoria para cada informe asistido por IA. El hito no es la herramienta que falló, sino el procedimiento que se escriba después. Mientras no llegue, la única conclusión sólida es que la regulación de la inteligencia artificial sigue mirando hacia otro lado justo donde más duele.
La entrada Una alucinación de la inteligencia artificial casi desata un ataque militar de EEUU contra un barco chino aparece primero en Moncloa.
