Las alucinaciones de la IA llegan a la aviación militar: datos inventados podrían filtrarse en el proyecto de un caza

La inteligencia artificial puede mezclar sin que se note datos inventados en la información con la que se diseñan aviones de combate y se planifican operaciones militares. Los diseñadores aeronáuticos chinos advierten que los grandes modelos de lenguaje pueden afirmar con seguridad características inexistentes de radares, misiles, sistemas de guerra electrónica y otros equipos. Si un ingeniero o analista toma una respuesta verosímil por información comprobada, el error puede afectar los requisitos de un nuevo avión antes incluso del inicio de su desarrollo detallado.

La advertencia fue preparada por especialistas del instituto aeronáutico chino AVIC en Chengdu, que participó en el desarrollo del caza J-20 y en el programa del futuro avión J-36. A los ingenieros les preocupa el uso de grandes modelos de lenguaje en el tratamiento de información militar. Los algoritmos analizan rápidamente enormes volúmenes de documentos y generan respuestas detalladas, pero a veces completan la información faltante con hechos inventados. Ese tipo de errores se denominan habitualmente alucinaciones de IA.

Para la aviación militar el coste de un error es especialmente alto. Los desarrolladores de un nuevo avión estudian primero las amenazas con las que la aeronave puede enfrentarse en combate. Los ingenieros necesitan datos sobre la ubicación de los radares enemigos, el alcance de detección de blancos y las bandas de frecuencia de operación. Se evalúan por separado las zonas de afectación de los sistemas de misiles, las capacidades del armamento aéreo y las características de los medios de guerra electrónica.

En los requisitos del avión también influyen la ubicación de los aviones de detección por radar de largo alcance, los sistemas terrestres de defensa antiaérea y otros elementos del sistema de detección. El panorama de inteligencia determina los requisitos de furtividad, el conjunto de sensores a bordo, la maniobrabilidad y el radio de combate. Un error en una etapa temprana puede hacer que los ingenieros optimicen la estructura para una amenaza cuyas características se describieron incorrectamente desde el principio.

Un gran modelo de lenguaje puede proporcionar parámetros extremadamente concretos, pero ficticios. El algoritmo puede inventar las dimensiones del avión, la masa de la carga bélica, las características del armamento, la velocidad máxima o el radio de combate. Un peligro particular son los errores en la información sobre las estaciones de radar. El sistema puede indicar un alcance de detección incorrecto o una banda de frecuencia operativa equivocada y, al mismo tiempo, formular la respuesta sin signos de duda.

Verificar esa información a simple vista es difícil. Los números pueden encajar en un rango verosímil, los términos técnicos pueden utilizarse correctamente y la explicación puede mantener una lógica interna. El problema se detecta solo tras contrastar con fuentes fiables o con las limitaciones técnicas del equipo concreto.

También pueden producirse errores en los cálculos de ingeniería. La IA puede recomendar un material para una pieza aunque la carga calculada supere el límite admisible de resistencia a la fatiga. La resistencia a la fatiga indica cuántas cargas repetidas soportará el material antes de que aparezcan grietas y se produzca la falla. Una evaluación incorrecta es peligrosa para las piezas del avión que experimentan vibraciones repetidas, variaciones de presión y cargas en las maniobras.

El algoritmo también puede proponer una maniobra que la aeronave físicamente no podrá ejecutar. Las limitaciones las imponen la aerodinámica, la reserva de empuje, la resistencia de la estructura y las sobrecargas admisibles. Si el modelo ignora aunque sea un parámetro, la trayectoria calculada puede parecer convincente sobre el papel, pero resultar imposible en vuelo real.

Un problema similar surge en la planificación de misiones de combate. La IA puede trazar una ruta que exija a la aeronave cubrir una distancia mayor que su radio de combate real. El radio de combate indica hasta qué punto la máquina puede alejarse de la base, cumplir la misión y regresar sin reabastecimiento, con una determinada carga y perfil de vuelo.

Al analizar datos de inteligencia, un modelo de lenguaje puede inventar no solo características de equipos, sino los propios objetos. En el informe pueden aparecer bases militares inexistentes, unidades o movimientos de tropas ficticios. Si los analistas cargan la información inventada en una simulación, el programa calculará las capacidades del adversario en base a hechos y fuerzas que en realidad no existen.

La verificación manual reduce el riesgo parcialmente, pero el volumen de información se convierte progresivamente en un problema distinto. Las organizaciones militares quieren usar IA precisamente porque el ser humano no puede revisar por sí mismo enormes volúmenes de datos de inteligencia. Si el especialista tiene que volver a verificar cada hecho que preparó el modelo, la ganancia en velocidad se reduce considerablemente.

Los autores del estudio relacionan el peligro también con la aplicación real de la IA en la selección de objetivos militares. La publicación cita el ejemplo de un ataque con un alto número de víctimas que fue precedido por una evaluación automática que consideró el objetivo como prioritario. Al mismo tiempo se utilizaron datos de inteligencia obsoletos. La combinación de ambos errores muestra cuán peligrosa puede ser la situación en la que una recomendación automática recibe confirmación adicional de información que ya no es vigente.

Se propone reducir el riesgo mediante varios niveles de verificación. Los modelos de lenguaje pueden conectarse a bases de datos militares verificadas y a almacenes especializados de conocimiento para que el sistema contraste las respuestas con las características conocidas del equipo. Consultas más precisas reducen la probabilidad de una interpretación ambigua de la tarea. Otra opción consiste en usar varios sistemas de IA que analicen de forma independiente la misma información y verifiquen entre sí sus conclusiones.

Ninguno de los métodos mencionados anula la necesidad de verificar los datos de origen. Un gran modelo de lenguaje construye la respuesta según patrones estadísticos en la información disponible y no garantiza que cada cifra mencionada exista en una fuente real. Para la aviación militar la diferencia entre un parámetro verosímil y uno verificado puede afectar el diseño del avión, la evaluación del adversario o el plan de una operación concreta.