El modo Lockdown llega a ChatGPT: OpenAI limita su IA para reforzar la seguridad

Las herramientas de inteligencia artificial cada vez trabajan más con archivos, sitios y servicios externos, por lo que obtienen nuevos canales para la fuga de datos. En este contexto OpenAI comenzó a introducir en ChatGPT un nuevo modo Lockdown Mode para cuentas personales y para las suscripciones independientes de ChatGPT Business. El modo está pensado para usuarios y organizaciones que manejan información sensible y quieren reducir el riesgo de que los datos salgan del diálogo.

La principal tarea de Lockdown Mode está relacionada con ataques del tipo Prompt Injection. En este tipo de ataque, una instrucción maliciosa se oculta en un documento, una página web u otra fuente externa e intenta obligar al modelo a ejecutar una acción que el usuario no solicitó. En un escenario peligroso, esa instrucción puede enviar datos al servidor del atacante a través de las funciones de red disponibles.

El nuevo modo no intenta detener completamente el Prompt Injection. En su lugar, Lockdown Mode reduce el número de vías por las que la información puede salir. OpenAI limita las solicitudes de red salientes y desactiva parte de las funciones que conectan ChatGPT con Internet o servicios externos.

Tras activar el modo, la búsqueda web funciona solo con contenido en caché, se elimina el soporte de imágenes en las respuestas normales y la obtención de imágenes desde la red, se desactivan Deep Research y Agent Mode. También se bloquean las capacidades de red de Canvas, la carga de archivos para el análisis de datos y otras funciones que podrían transferir información a infraestructura externa.

OpenAI subraya además que Lockdown Mode no está diseñado para todos los usuarios. El modo refuerza la protección a costa de la comodidad, por lo que algunas funciones habituales quedan indisponibles. Además, no es posible usar Lockdown Mode y Developer Mode simultáneamente: activar uno desactiva el otro.

Las restricciones no garantizan una seguridad total. Una instrucción maliciosa en un archivo subido aún puede influir en el comportamiento de ChatGPT y provocar una respuesta incorrecta. También persisten los riesgos por las Apps activadas, combinaciones inesperadas de funciones y nuevos métodos de ataque.

Paralelamente, OpenAI añadió la gestión de sesiones activas de ChatGPT. Los usuarios pueden ver los dispositivos, las aplicaciones, la ubicación aproximada y la hora de inicio de sesión, y después cerrar una sesión individual o cerrar la sesión en todos los dispositivos si hay actividad sospechosa.

La historia concluye con el lanzamiento de dos medidas de protección: Lockdown Mode reduce el riesgo de fuga a través de funciones de red, y la gestión de sesiones ayuda a reaccionar más rápidamente ante posible acceso no autorizado a la cuenta. Para reducir el riesgo, OpenAI recomienda activar Lockdown Mode al trabajar con datos sensibles y revisar las sesiones activas ante signos de actividad sospechosa.