El Hackeo de ComfyUI: ¿Lucha por los Derechos de los Artistas o una Cómoda Cobertura?

El grupo de hackers Nullbulge, supuestamente en contra del "arte de IA", hackeó a los usuarios de la popular interfaz ComfyUI para trabajar con la red neuronal Stable Diffusion en la creación de imágenes. Los delincuentes distribuyeron a través de Github una extensión maliciosa llamada ComfyUI_LLMVISION , que les permitía acceder a los datos de los usuarios.

ComfyUI es una interfaz gráfica de código abierto ampliamente utilizada para Stable Diffusion, alojada en Github, que facilita significativamente la generación y modificación de imágenes de IA. La extensión hackeada ComfyUI_LLMVISION permitía integrar potentes modelos de lenguaje como GPT-4 y Claude 3 en el mismo programa. Originalmente, era legítima.

En este momento, la página de ComfyUI_LLMVISION en Github no está disponible, sin embargo, en una versión archivada del 9 de junio se menciona que fue "COMPROMETIDA POR EL GRUPO NULLBULGE". "Quizás deberían prestarnos más atención y pensar detenidamente antes de lanzar herramientas de IA a través de una cuenta tan poco protegida", dice el irónico mensaje de los hackers.

En una versión archivada de la página del 25 de mayo, se puede ver que la herramienta era bastante popular y estaba siendo utilizada activamente: 42 estrellas, 4 bifurcaciones y 12 commits. En su sitio web, los hackers afirman que explotaron ComfyUI_LLMVISION durante muchos meses, y que tomaron control de ella antes de que el creador publicara la extensión. Parece que el código malicioso fue integrado en el programa desde el principio, lo que significa que todas las personas que lo usaron estaban en riesgo.

La administración de Github aún no ha comentado sobre la situación.

En el subreddit temático de ComfyUI, uno de los usuarios compartió su historia: "Yo mismo fui víctima de este ataque. Aproximadamente una semana después de instalar la desafortunada extensión, recibí una avalancha de notificaciones sobre intentos sospechosos de inicio de sesión en mis cuentas en varios servicios. Por lo tanto, estoy absolutamente seguro de que los hackers están utilizando activamente los datos robados".

En su sitio web, los miembros de Nullbulge también publicaron una lista que llaman credenciales de inicio de sesión para varias cuentas de cientos de usuarios.

La compañía vpnMentor, que ofrece servicios de VPN y realiza investigaciones en el campo de la ciberseguridad para promover su producto, analizó la extensión hackeada. Según su declaración, la extensión es capaz de robar carteras de criptomonedas, tomar capturas de pantalla de los usuarios, revelar información sobre dispositivos y direcciones IP, así como robar archivos que contienen ciertas palabras clave o aplicaciones.

El sitio web de Nullbulge también está actualmente inaccesible, pero en su versión archivada hay una sección "Sobre nosotros" que dice: "Somos un colectivo de personas convencidas de la importancia de proteger los derechos de los artistas y garantizar el pago justo por su trabajo".

Otra sección en la página principal se titula: "¡Me/Nos han hackeado/mi sitio web! ¿Por qué?". En ella se menciona:

"Lamentamos tener que hacer esto, pero solo lo hacemos si han cometido uno de los siguientes actos que consideramos 'pecados': robar obras de arte, promover criptomonedas, utilizar arte generado por IA, robar contenido de Patreon u otras plataformas que apoyan a los artistas, así como cualquier otra forma de ataque contra los derechos de los creadores".

Queda por ver si los hackers realmente están motivados por creencias ideológicas o si esto es simplemente una cobertura. Independientemente de los motivos verdaderos, el ataque a ComfyUI_LLMVISION subraya una vez más los serios riesgos del uso de software gratuito de Github, mantenido por individuos o pequeños grupos de desarrolladores de código abierto.