Muah.ai: el hackeo mostró lo que la gente quiere hacer con las chicas de IA

Un hacker ha vulnerado el sitio Muah.ai, que ofrece a los usuarios la posibilidad de crear sus propias parejas sexuales virtuales "sin censura", y robó una masiva base de datos de interacciones de usuarios con los chatbots.

En la filtración se encontraron solicitudes que contenían fantasías sexuales, incluidas aquellas relacionadas con CSAM. Aunque no está claro si el sistema de IA pudo responder a tales solicitudes, los datos muestran que los usuarios intentaron usar la plataforma para estos fines.

El hacker declaró a 404 Media que Muah.ai está mal protegido y consiste en varios proyectos de código abierto ensamblados. El hackeo comenzó por curiosidad, pero tras descubrir el contenido de la base de datos, decidió informar a los periodistas. También afirmó que encontró vulnerabilidades bastante rápido.

El administrador del sitio, que utiliza el nombre de Harvard Han, señaló que el ataque fue organizado por competidores "motivados por el lucro", mientras que Muah.ai es un proyecto orientado a la comunidad. El hackeo se descubrió la semana pasada, pero Han no proporcionó pruebas de sus declaraciones. El hacker, por su parte, afirmó que trabaja en el ámbito de TI, pero no está relacionado con el desarrollo de IA.

El hackeo ha creado serios riesgos para los usuarios de Muah.ai, ya que sus fantasías sexuales ahora pueden estar vinculadas a direcciones de correo electrónico personales, muchas de las cuales parecen ser cuentas privadas con nombres reales. La filtración también incluye solicitudes que describen fantasías sobre dominación sexual, tortura y coerción.

404 Media contactó a varios usuarios cuyos datos estaban en la base de datos, pero ninguno de ellos proporcionó comentarios.

Después de descubrir el hackeo, apareció un mensaje en el servidor de Discord sobre el ataque. En la publicación se confirmó el hecho del hackeo y se afirmó que los datos de los chats no se almacenan y se eliminan después de un reinicio. Sin embargo, la base de datos parece contener mucha información que vincula a los usuarios con sus solicitudes.