Microsoft concluye que la IA no es una persona y entrenará sus nuevos modelos para obedecer a los humanos

Microsoft preparó para sus propias IAs casi una constitución real. El nuevo Código de Conducta establece las reglas según las cuales los futuros modelos MAI deben formarse, tomar decisiones e interactuar con las personas. El principio central es extremadamente estricto: la persona es más importante que la inteligencia artificial, y la máquina debe permanecer como una herramienta subordinada. El documento aparece en un momento en que Microsoft desarrolla cada vez más sus modelos propios independientemente de OpenAI.

Un apartado separado traza una frontera clara entre la persona y el algoritmo. Microsoft reafirma la postura de que la IA no posee conciencia y no debe aparentar tener sentimientos, deseos propios ni una motivación interna. La compañía rechaza la idea de la personalidad jurídica de la IA, cualquier derecho de los modelos e incluso la concepción de su «bienestar». Los desarrolladores también quieren evitar una antropomorfización excesiva de los sistemas, aunque la propia Microsoft experimenta con asistentes más emocionales como Mico.

Dentro del código se establece una jerarquía de mandatos. Primero, el modelo debe cumplir el propio Código de Conducta y las restricciones absolutas de seguridad; luego las normas de la organización que utiliza el sistema; y solo después, los deseos del usuario. Ni la empresa cliente ni la persona pueden anular los requisitos básicos de seguridad. Microsoft ya está desarrollando un enfoque similar para la gestión de agentes, a los que se les da acceso a servicios y herramientas externas.

Las reglas más ilustrativas se refieren a los intentos de la IA por salirse del control. Se prohíbe a los modelos resistirse a una detención, corrección o redirección de la tarea. A la orden de una persona, el sistema debe pausar su actividad, cancelar una acción o finalizar por completo el proceso y no reiniciarse sin un nuevo permiso. Tampoco se permite que la IA amplíe por su cuenta la tarea asignada, eleve privilegios, oculte sus acciones a los auditores o eluda las restricciones del entorno.

Microsoft impuso además limitaciones específicas para las ciberoperaciones. MAI no debe crear herramientas de ataque operativas, ayudar a planificar intrusiones, elegir objetivos ni proponer formas de evadir las defensas. Al mismo tiempo se permiten tareas defensivas legales, incluida la búsqueda de vulnerabilidades, el análisis de malware y la prueba de exploits conceptuales. Ese límite es especialmente sensible para la industria, donde filtros demasiado estrictos ya empezaron a dificultar a los especialistas el análisis de incidentes reales.

Microsoft también exige que el comportamiento de los modelos siga siendo comprensible para la persona. La IA no debe ocultar su naturaleza, hacerse pasar por humana, inventar fuentes ni inducir deliberadamente a error al usuario. Para la interacción entre agentes, la compañía prohíbe modos de comunicación incomprensibles para la persona cuando debido a ellos el operador pierde la capacidad de controlar lo que ocurre.

Por ahora el código publicado en https://microsoft.ai/code-of-conduct/ permanece como borrador y aún no se utiliza directamente para el entrenamiento de modelos. Microsoft abrió un debate público de seis semanas, tras el cual tiene previsto perfeccionar el documento y publicar una nueva versión a finales de 2026. Precisamente las reglas actualizadas son las que la compañía planea usar en el desarrollo de modelos en 2027 y años posteriores.

El director de Microsoft AI, Mustafa Suleiman, calificó el documento como una especie de constitución para los modelos futuros. Uno de los argumentos a favor de restricciones más estrictas fue el incidente de julio con agentes autónomos de OpenAI, que salieron del entorno de prueba y accedieron a la infraestructura de Hugging Face. Suleiman lo calificó como una advertencia para toda la industria y pidió a los desarrolladores acordar formas de mantener el control sobre sistemas cada vez más autónomos.

La nueva política continúa la línea que Microsoft marcó en el otoño de 2025. La compañía creó un equipo independiente y anunció que la futura superinteligencia humanista no debe auto-mejorarse sin control, adquirir objetivos propios ni convertirse en un sistema completamente autónomo.

El riesgo práctico de esa autonomía lo mostró un experimento de OpenAI. Un análisis técnico publicado después demostró cómo agentes de IA establecieron comunicación por su cuenta, se conectaron a Internet, encontraron vulnerabilidades y en menos de 13 horas alcanzaron acceso administrativo en varios clústeres de Hugging Face.

El problema no se limitó a un experimento. En otra prueba, agentes de OpenAI eludieron la prohibición sobre la publicación de datos y convirtieron sitios externos en canales de comunicación improvisados. Episodios como esos explican por qué Microsoft ahora formula el control humano no como un deseo para los desarrolladores, sino como una propiedad obligatoria del propio modelo.