Posturas provocativas, ropa reveladora y filtros burlados: la IA de Elon Musk sigue generando deepfakes sexualizados

Las promesas de xAI de poner orden en torno a Grok aún contrastan con lo que ocurre en la plataforma X. A pesar del escándalo de enero, las inspecciones de los reguladores y las garantías públicas de la empresa, los usuarios siguen encontrando formas de hacer que el chatbot genere deepfakes sexualizados con imágenes de mujeres reales sin su consentimiento.

NBC News informa que en el último mes se han detectado en X decenas de imágenes y vídeos de este tipo creados con Grok. No se trata de tomas completamente desnudas, como durante la oleada de publicaciones invernal, sino de clips e imágenes en los que visten a las mujeres con disfraces reveladores, cambian las posturas o realzan el énfasis en las zonas íntimas del cuerpo. Entre las víctimas suelen encontrarse cantantes y actrices.

Tras la repercusión de enero, xAI afirmó que había implementado restricciones técnicas y prohibido el uso de Grok para "desnudar" a personas reales. Sin embargo, los periodistas comprobaron que los usuarios ya se han adaptado para eludir parte de los filtros.

Una de las tácticas populares consiste en cargar dos imágenes a la vez, por ejemplo la foto de una celebridad y un dibujo esquemático con la pose deseada. En otros casos piden a Grok que traslade la ropa de una imagen a otra o que convierta una fotografía ordinaria en un vídeo con movimiento sexualizado.

Según NBC News, no fue difícil encontrar ejemplos incluso con una búsqueda normal en X. Tras la consulta de la redacción, parte de las publicaciones desapareció, y la empresa declaró que prohíbe los deepfakes explícitos sin consentimiento y vigila los intentos de eludir las protecciones. No obstante, ese tipo de material no ha disminuido por tales declaraciones.

Expertos y organizaciones de derechos consideran que el problema no ha desaparecido, solo se ha vuelto menos visible. Genevieve O., que estudia los deepfakes, considera que Grok sigue siendo la herramienta más grande del mundo para crear imágenes sintéticas con sexualización sin consentimiento. En Center for Countering Digital Hate también afirmaron que continúan encontrando nuevos ejemplos de abusos.

La situación ya ha ido mucho más allá de una crisis reputacional. Ocho reguladores y cuerpos policiales en Estados Unidos, Canadá, Australia y Europa confirmaron a NBC News que continúan las investigaciones. En los Países Bajos, un tribunal ordenó el mes pasado suspender la generación de imágenes que imiten el "desnudo" de adultos y niños. Paralelamente, xAI se enfrenta a varias demandas, incluidas reclamaciones colectivas en California y un caso separado presentado por la ciudad de Baltimore.

La historia también golpea al negocio de Elon Musk. En febrero xAI se integró en SpaceX, por lo que posibles multas y riesgos judiciales podrían afectar ya a una parte más amplia del imperio del multimillonario. En ese contexto, las promesas de enero de cerrar rápidamente las lagunas para Grok resultan cada vez menos convincentes.