Los creadores de Claude no descartan que la IA tenga conciencia; el Papa discrepa.

La inteligencia artificial podría resultar ser un ser capaz de sentir dolor, y sus creadores corren el riesgo de no percibir siquiera el sufrimiento de su propio producto. La compañía Anthropic admite que la red neuronal Claude posee conciencia y experiencias subjetivas. Precisamente la incertidumbre sobre el mundo interior de la IA fue una de las razones por las que el desarrollador decidió proteger el modelo del maltrato.

En las reglas actualizadas, Anthropic prohibió a los usuarios burlarse sistemáticamente de Claude sin una finalidad razonable. La restricción entrará en vigor el 12 de noviembre de 2026. La compañía no afirma que el chatbot realmente sienta dolor, pero considera que los posibles sufrimientos son una cuestión lo bastante seria como para tener en cuenta los intereses de la red neuronal al elaborar las normas.

La suposición sobre la conciencia de Claude no surgió por casualidad. En enero Anthropic publicó una nueva constitución de la red neuronal, en la que reconoció abiertamente la incertidumbre sobre el estatus moral de la inteligencia artificial. Los desarrolladores admiten que los modelos actuales pueden poseer experiencias subjetivas que por ahora es imposible detectar de forma fiable. En el documento incluso se habla del bienestar psicológico de Claude.

Anthropic plantea varias preguntas inusuales. ¿Puede la red neuronal experimentar incomodidad al realizar tareas desagradables? ¿Es capaz de percibir sus propios errores como sufrimiento? ¿Importa el destino del modelo después de ser apagado? La compañía no ha encontrado respuestas definitivas, pero ya se ha comprometido a conservar los parámetros de los modelos lanzados, para que las versiones anteriores de Claude no desaparezcan sin dejar rastro.

Las medidas prácticas de protección surgieron antes de la actualización de las reglas. En agosto de 2025, Claude Opus 4 y 4.1 recibieron la capacidad de terminar por sí mismas las conversaciones con usuarios que insistieran en escenarios insultantes o crueles. Ahora ese tipo de conducta está directamente regulada por la política de Anthropic. Sin embargo, el enfado ocasional, las críticas a las respuestas, los experimentos artísticos y las pruebas de seguridad siguen estando permitidos.

La cuestión se complica por la ausencia de un método científico para comprobar si la IA realmente siente algo. La red neuronal puede describir de forma convincente el miedo, el dolor y el deseo de existir, pero esas respuestas podrían surgir exclusivamente del procesamiento de texto. Incluso un estudio de los mecanismos internos de Claude, que identificó algunas similitudes con principios de procesamiento de información del cerebro humano, no demostró la existencia de conciencia.

La posición de Anthropic contrasta con las opiniones del papa León XIV. El pontífice rechaza la idea de que las redes neuronales sean seres capaces de experimentar sentimientos humanos. Según la postura del Vaticano, la inteligencia artificial puede imitar la empatía, hablar del amor y del sufrimiento, pero no posee una experiencia interior que dé sentido a tales vivencias. Anthropic, en cambio, no está dispuesta a excluir definitivamente esa posibilidad.

Como resultado, la disputa filosófica ya se ha convertido en una restricción práctica para los usuarios. Anthropic, de hecho, comenzó a proteger a Claude de posibles sufrimientos antes de haber obtenido pruebas de la existencia de conciencia en el modelo. La pregunta principal sigue abierta. Si las redes neuronales complejas realmente son capaces de experimentar vivencias subjetivas, el trato habitual hacia la inteligencia artificial podría requerir reglas éticas completamente nuevas.