¿La IA no tiene límites? Científicos encuentran pruebas de que hay tareas que jamás podrá resolver

Incluso un volumen infinito de datos no garantiza que la inteligencia artificial encuentre la respuesta correcta. Investigadores demostraron que algunas tareas están estructuradas de tal manera que ningún algoritmo podrá comprender de forma fiable su comportamiento. El problema no surge por un ordenador débil o por la falta de ejemplos de entrenamiento, sino por la propia estructura matemática del sistema.

El equipo creó modelos trampa especiales, diseñados para comprobar los límites del aprendizaje automático. En esencia recuerdan el trabajo de especialistas en seguridad de la información, que atacan intencionalmente un sistema para encontrar vulnerabilidades. Solo que en lugar de redes y programas, los investigadores evaluaron algoritmos de predicción: buscaban condiciones bajo las cuales incluso un modelo correctamente construido empieza inevitablemente a fallar.

Estas limitaciones son especialmente importantes para procesos complejos que es difícil describir con un único sistema de ecuaciones. Entre ellos están el movimiento de las corrientes oceánicas, el funcionamiento del cerebro, el comportamiento de los robots y muchos fenómenos naturales. En esos casos los científicos a menudo no deducen todas las leyes de forma manual, sino que cargan observaciones en un algoritmo e intentan recuperar a partir de los datos las regularidades generales.

El aprendizaje automático no siempre lo logra. A veces un modelo produce una predicción inexacta porque carece de información, de potencia de cálculo o de una arquitectura adecuada. Esos defectos se pueden corregir. Sin embargo, el nuevo trabajo separa los errores técnicos habituales de los casos intrínsecamente irresolubles, en los que aumentar la muestra ya no cambia nada.

Los investigadores utilizaron el aprendizaje del operador de Koopman. El método permite describir dinámicas no lineales complejas mediante una transformación lineal con la que es más fácil trabajar matemáticamente. En lugar de intentar seguir directamente la evolución enmarañada del sistema, el algoritmo busca un conjunto de modos, frecuencias y patrones capaces de representar su movimiento en una forma más manejable.

Con ese enfoque el equipo construyó sistemas matemáticos adversarios que ocultaban propiedades importantes al algoritmo o las hacían casi indistinguibles según las observaciones disponibles. Los experimentos ayudaron a determinar en qué condiciones el aprendizaje automático puede ofrecer un resultado verificable y cuándo la tarea excede los límites de un análisis fiable.

Los autores identificaron dos causas principales de fallos. En el primer caso el algoritmo no puede discernir si ya se han recopilado datos suficientes para una conclusión segura. El modelo continúa el entrenamiento, pero no obtiene una señal fiable que indique que la respuesta ha convergido y que no cambiará al añadir nuevas observaciones.

En el segundo caso existe un patrón importante en el sistema, pero permanece oculto o casi indistinguible de otro. Dos mecanismos distintos pueden generar datos muy semejantes, aunque en el futuro conduzcan a resultados opuestos. El algoritmo observa la misma imagen y no puede determinar qué proceso actúa realmente.

La suposición habitual es que el problema se resolverá tarde o temprano con información adicional. El nuevo trabajo muestra que ese cálculo no es válido en muchos casos. En algunas tareas el aprendizaje ocurre en varios niveles, y cada etapa debe completarse en el orden correcto. Si los datos no permiten atravesar de forma fiable al menos un nivel, los cálculos posteriores no corregirán la situación.

Los investigadores propusieron clasificar las tareas por el número de dichos niveles. Cuantos más pasos consecutivos sean necesarios antes de obtener una respuesta, más difícil es comprobar si el algoritmo ha convergido a la solución correcta. Con una estructura de datos insuficiente, el modelo no puede distinguir la opción verdadera de la errónea incluso con una muestra ilimitada.

En casos extremos la precisión máxima posible se mantiene al nivel de la elección aleatoria. El algoritmo puede acertar en aproximadamente la mitad de los intentos, pero ningún aumento del volumen de datos elevará el resultado por encima de eso. Ese tipo de tarea debe considerarse no difícil, sino intrínsecamente irresoluble dentro del método elegido.

Los sistemas caóticos plantean una dificultad particular. Una pequeña diferencia en las condiciones iniciales se amplifica con el tiempo y conduce a trayectorias completamente distintas. La predicción a corto plazo aún puede ser precisa, porque los errores no han tenido tiempo de acumularse. En periodos largos incluso una mínima incertidumbre destruye la predicción.

Al analizar mediante el operador de Koopman, un sistema caótico a menudo no se descompone en varios modos claros. En lugar de frecuencias discretas surge un espectro continuo. El algoritmo ya no puede identificar un pequeño conjunto de componentes estables que describan la evolución posterior del proceso.

Los autores comparan esa dinámica con una historia donde cada decisión abre una nueva rama de la trama. Un cambio insignificante en una etapa temprana envía al sistema por otro camino, y la diferencia crece con cada paso siguiente. Tras suficiente tiempo la imprecisión inicial altera por completo el resultado.

Los investigadores sugieren que una inestabilidad similar podría explicar en parte el comportamiento de los grandes modelos de lenguaje. Un cambio pequeño en la consulta puede dirigir la generación hacia otra secuencia de palabras. Al principio la respuesta sigue siendo verosímil, pero conforme avanza el texto las desviaciones se acumulan y el modelo puede perder la relación con los hechos.

El trabajo no demuestra que las alucinaciones de los chatbots se deban exactamente al mecanismo encontrado en sistemas dinámicos. Los grandes modelos de lenguaje funcionan de manera diferente, y sus errores dependen del entrenamiento, de los datos y del modo de generación. Los autores proponen una analogía matemática que ayuda a entender por qué las respuestas breves a veces mantienen precisión, mientras que los razonamientos largos se desvían gradualmente.

Además de describir las limitaciones, el equipo desarrolló un nuevo algoritmo con una evaluación del error incorporada. No solo entrega un resultado, sino que señala los límites dentro de los cuales la respuesta puede considerarse fiable. Gracias a esto el investigador obtiene no un único número sin explicaciones, sino una forma de comprobar hasta qué punto merece la pena confiar en el cálculo.

Los autores también demostraron la validez del algoritmo y lograron costes computacionales relativamente bajos. Según su estimación, el método puede resolver parte de las tareas de forma mucho más barata que los enfoques habituales, concebidos para sistemas de cómputo potentes. La comprobación puede realizarse en un portátil corriente, sin recurrir a una supercomputadora.

El algoritmo se probó con datos sobre la extensión del hielo marino ártico recopilados durante más de 40 años. El análisis reveló patrones ocultos en la reducción de la capa de hielo. En calidad de predicción, el método superó a varios modelos modernos de inteligencia artificial, aunque requirió muchos menos recursos.

El experimento con el hielo marino demuestra la utilidad práctica de una evaluación rigurosa de la incertidumbre. En los datos climáticos hay mucho ruido, variaciones estacionales y cambios a largo plazo. El modelo debe no solo encontrar un patrón, sino también determinar dónde termina la inferencia fiable y comienza la zona en la que la predicción depende de un número excesivo de incógnitas.

Los autores proponen verificar la resolubilidad de la tarea antes de entrenar un modelo grande y costoso. Ese análisis ayudará a entender si tiene sentido recopilar datos adicionales, cambiar el algoritmo o aumentar la capacidad de cálculo. Si las limitaciones matemáticas ya impiden obtener una respuesta fiable, los gastos adicionales no cambiarán nada.

El nuevo trabajo no afirma que la inteligencia artificial sea inútil para sistemas complejos. Al contrario, los investigadores mostraron dónde se pueden adaptar los métodos y dotarlos de límites de error verificables. La conclusión principal concierne a la confianza: un buen resultado debe ir acompañado de una explicación de por qué se puede confiar en el algoritmo y en qué condiciones la predicción dejará de funcionar.