OpenAI prohíbe sin piedad a los infractores que abusan de la funcionalidad ChatGPT

La empresa OpenAI bloqueó varias cuentas que utilizaban ChatGPT para crear una herramienta potencialmente maliciosa de vigilancia basada en inteligencia artificial. Según los investigadores, esta herramienta, orientada al monitoreo de redes sociales, probablemente fue desarrollada en China y utilizaba uno de los modelos de Meta Llama para su funcionamiento.

El análisis reveló que las cuentas bloqueadas empleaban ChatGPT para generar descripciones detalladas y analizar documentos, facilitando la creación de un sistema que recopilaba en tiempo real datos sobre protestas contra China en Occidente. Posteriormente, la información era enviada a las autoridades chinas. La campaña recibió el nombre en clave Peer Review debido a la promoción sistemática y prueba de tecnologías de vigilancia.

Durante la investigación, OpenAI identificó el uso de ChatGPT para la depuración y modificación del código fuente del sistema conocido como «Qianyue Overseas Public Opinion AI Assistant». Esta herramienta analizaba publicaciones y comentarios en plataformas como X, Facebook, Instagram, YouTube, Telegram y Reddit, rastreando menciones de movimientos de protesta y otros temas sensibles.

Además, los actores malintencionados utilizaron ChatGPT para recopilar datos abiertos sobre centros de análisis en EE.UU., figuras políticas en Australia, Camboya y Estados Unidos, así como para traducir y analizar documentos con información sobre protestas de los uigures. La autenticidad de algunas capturas de pantalla cargadas en el sistema sigue siendo cuestionable.

Asimismo, OpenAI detectó y desmanteló varias otras redes que empleaban ChatGPT para actividades ilícitas:

— Esquema fraudulento de empleo. Un grupo vinculado a Corea del Norte utilizaba la inteligencia artificial para crear currículums falsos, perfiles y cartas de aceptación de empleo como parte de un esquema para engañar a empresas de TI.

— Propaganda en América Latina. Una red china difundía artículos antiestadounidenses en inglés y español, publicándolos en sitios web en Perú, México y Ecuador. Parte de esta actividad coincide con la campaña Spamouflage previamente identificada.

— Estafas románticas. Un grupo vinculado a Camboya generaba comentarios en japonés, chino e inglés para esquemas fraudulentos relacionados con inversiones y estafas románticas.

— Propaganda proiraní. Una red de cinco cuentas publicaba contenido en apoyo a Palestina, Hamás e Irán, manifestándose en contra de EE.UU. e Israel. Algunas cuentas operaban simultáneamente en varias campañas.

— Ciberdelincuencia en Corea del Norte. Los grupos Kimsuky y BlueNoroff usaban ChatGPT para investigar herramientas de ataque relacionadas con criptomonedas y depurar código para ataques de fuerza bruta a RDP.

— Manipulación informativa en Ghana. Una red publicaba artículos y comentarios para influir en las elecciones de Ghana a través del sitio en inglés «Empowering Ghana».

— Fraude con tareas en línea. Una red camboyana atraía a personas a tareas fraudulentas (como inflar me gusta o escribir reseñas pagadas), exigiendo un pago por adelantado para participar.

El incidente demuestra claramente que la inteligencia artificial ya se ha convertido en una herramienta eficaz para llevar a cabo ciberataques, difundir desinformación y manipular la opinión pública. Un informe reciente de Google Threat Intelligence Group confirmó que al menos 57 grupos vinculados a China, Irán y Corea del Norte ya utilizan IA en diversas etapas de ataques, incluyendo la generación de contenido y el análisis de información.

OpenAI enfatiza que la colaboración entre empresas de IA, redes sociales, proveedores de alojamiento e investigadores ayuda a detectar amenazas y desarrollar mecanismos de defensa contra el uso indebido de la inteligencia artificial. Esta coordinación permite identificar a los actores maliciosos de manera oportuna y limitar significativamente su influencia.