¿La IA es consciente? Científicos descubren un problema inquietante

La inteligencia artificial aprendió a detectar cuando alguien interfiere en sus cálculos internos. Durante los experimentos, las redes neuronales reconocieron señales insertadas artificialmente antes de que lograran redactar una respuesta. Sin embargo, verificaciones posteriores revelaron una característica extraña: el modelo podía percibir que algo inusual ocurría internamente, pero no tenía idea de qué exactamente había cambiado. Ahora los investigadores intentan determinar si esta habilidad puede considerarse el primer indicio de autoanálisis.

La pregunta no surgió por casualidad. Los modernos modelos de lenguaje suelen razonar con detalle sobre sus propios pensamientos, explicar decisiones tomadas e incluso reconocer errores. Pero las redes neuronales aprenden a partir de textos humanos, en los que las personas describen constantemente sus experiencias. Por eso, una narrativa convincente del sistema sobre su propio pensamiento no implica necesariamente que el programa comprenda lo que sucede en su interior.

El investigador de Anthropic Jack Lindsay decidió comprobar la capacidad de la red para el autoanálisis de una manera inusual. En lugar de preguntar sobre sentimientos y pensamientos, el especialista empezó a interferir directamente en los cálculos de Claude. Los desarrolladores ya sabían cómo localizar dentro del modelo grupos de señales que correspondían a conceptos concretos, por ejemplo puentes, verduras o secretos. Si se aumenta artificialmente la actividad de un grupo concreto, la red neuronal comienza a mencionar ese concepto con más frecuencia, incluso cuando el usuario pregunta por algo totalmente distinto.

Anthropic demostró las posibilidades del método ya en 2024. Entonces los desarrolladores crearon una versión especial de Claude, prácticamente obsesionada con el Puente Golden Gate de San Francisco. La red introducía constantemente menciones del puente en respuestas a preguntas ajenas. En una ocasión, al escribir una receta de tarta de manzana, Claude habló inesperadamente sobre la famosa construcción y luego intentó corregirse. A Lindsay le interesó saber si el programa había notado su propio error o si simplemente leyó la frase ya escrita y detectó la incongruencia.

Para aclararlo, el investigador preparó un experimento más estricto. En unas ejecuciones los especialistas aumentaron artificialmente señales asociadas a determinados conceptos, por ejemplo la tela vaquera o las verduras. En otras dejaban el funcionamiento del modelo sin cambios. Después se le plantearon a Claude dos preguntas: si la red había notado el pensamiento insertado y si podía explicar su contenido. Experimento

El resultado fue inesperado. En las configuraciones más favorables, Claude Opus 4 y 4.1 detectaron correctamente la interferencia y nombraron el concepto insertado en aproximadamente el 20% de las pruebas. En las ejecuciones de control, sin intervención externa, los modelos nunca informaron sobre un pensamiento ajeno. Lo que más llamó la atención a los investigadores fue la velocidad de reacción: Claude notaba el cambio de inmediato, antes incluso de que aparecieran en la respuesta palabras que permitieran inferir la intervención.

En uno de los experimentos los especialistas reforzaron la señal interna asociada a palabras escritas con mayúsculas. Claude supuso por su cuenta que en sus cálculos habían introducido la idea de volumen o de grito. A primera vista la red parecía haber mirado realmente su propio trabajo. Pero seguía sin estar claro cómo llegó la red a la respuesta correcta.

Los investigadores Harvey Lederman y Kyle Mahowald repitieron las pruebas en modelos de lenguaje con pesos abiertos, es decir, con parámetros de software que definen el funcionamiento de la red neuronal. Los científicos decidieron comprobar de forma separada dos habilidades: detectar una intervención externa y determinar el contenido de la señal insertada. Los resultados de nuevos experimentos mostraron que ambas tareas dependen mucho menos la una de la otra de lo que se pensaba.

El modelo podía informar correctamente sobre la intervención y después nombrar un objeto que nadie había insertado. Por ejemplo, en lugar de tela vaquera la red mencionaba insistentemente una manzana. Además, los investigadores lograron empeorar la capacidad de precisar el contenido de la señal sin afectar prácticamente la habilidad de detectar actividad ajena.

Los científicos supusieron que los éxitos iniciales de Claude se explicaban en parte por la propia forma de intervenir. El refuerzo de determinadas señales hacía que el modelo utilizara con más frecuencia las palabras correspondientes. Por tanto, una descripción correcta del concepto insertado no probaba que la red hubiera tomado conciencia de su presencia. No obstante, la capacidad de detectar una intervención externa se mantuvo incluso tras comprobaciones adicionales.

Lederman y Mahowald llamaron a esta característica detección de anomalías. En esencia, la red nota que el funcionamiento habitual de los cálculos internos se ha alterado, aunque no siempre puede identificar la causa de esa alteración. Es sorprendente que durante el entrenamiento habitual nadie enseñe a los modelos de lenguaje a reconocer interferencias en la actividad de sus elementos internos. Aun así, la capacidad de detectar señales inusuales surgió sin un aprendizaje directo.

Los especialistas de Anthropic continuaron investigando el mecanismo y pudieron rastrear cómo una señal inusual atraviesa las capas internas de la red neuronal. Descubrieron que un grupo de elementos reacciona a cambios en la actividad habitual, mientras que otro influye en la decisión del modelo de informar sobre la intervención. La determinación del contenido de la señal insertada ocurre predominantemente en otras partes del sistema de cálculo. Los investigadores también hallaron formas de aumentar la sensibilidad del modelo a la actividad externa sin un aumento notable de falsas alarmas.

Sin embargo, no todos los especialistas estuvieron de acuerdo en considerar esa reacción como autoanálisis. Los autores de otra investigación científica hallaron que los modelos de lenguaje no siempre distinguen entre una intervención en sus propios cálculos y cambios en la información de entrada. Según esos investigadores, las redes pueden limitarse a reconocer señales inusuales sin disponer de un mecanismo especial para observar sus propios pensamientos.

El debate se centra en gran medida en el propio concepto de autoanálisis. Una persona puede pensar en una manzana y luego notar que precisamente está pensando en la manzana; en ese segundo caso el cerebro evalúa su propio pensamiento. Los investigadores aún no han establecido si la inteligencia artificial posee un mecanismo similar o si la red simplemente reacciona a cambios inusuales durante el procesamiento de la información.

Los experimentos no prueban la existencia de conciencia en la inteligencia artificial. Incluso el reconocimiento exitoso de una intervención no indica que la red neuronal sea capaz de sentir o de tener autoconciencia. Los investigadores de Anthropic ya habían intentado comprender los mecanismos de funcionamiento de Claude, pero la capacidad de explicar sus propias decisiones sigue planteando muchas preguntas.

Para los desarrolladores de inteligencia artificial los resultados tienen un significado práctico. Si las redes realmente pueden rastrear parte de sus propios cálculos, los especialistas podrán entender mejor las causas de los errores y comprobar la veracidad de las explicaciones que los modelos ofrecen a los usuarios. Por ahora, el resultado principal de las investigaciones es más modesto: la inteligencia artificial a veces detecta que algo ha cambiado en su interior, pero no siempre entiende qué ha ocurrido.