Castigado por ser sensato: desarrollador de xAI despedido por intentar hacer Grok más seguro

La carrera por productos de IA rápidos cada vez choca menos con la velocidad de desarrollo y más con la pregunta de quién responde por las consecuencias de su funcionamiento. El exingeniero de xAI Devin Kim presentó una demanda ante un tribunal del estado de California y afirmó que la empresa lo despidió ilegalmente por intentar reforzar las medidas de seguridad para el chatbot Grok.

Los documentos del caso indican que Kim advirtió a la dirección sobre los riesgos asociados a desarrollar Grok sin limitaciones adecuadas. El ingeniero consideraba que un control débil sobre el sistema podría conducir a consecuencias ilegales, incluido contenido discriminatorio y materiales relacionados con armas peligrosas. De hecho, por esto Grok fue acusado recientemente en una acción pública de protesta en Times Square.

Kim afirma que llegó a xAI entre los primeros empleados en 2024 y que al cabo de unos meses asumió un puesto directivo. Según su versión, Elon Musk esperaba del equipo revisiones de seguridad y procedimientos claros, pero el cofundador de xAI, Jimmy Ba, rechazó sistemáticamente las propuestas de Kim. El ingeniero declaró que Ba lo despidió en septiembre del año pasado poco antes de una presentación sobre seguridad de la IA prevista para la dirección.

La demanda surgió en medio de reclamos contra Grok por parte de los reguladores. Ese mismo día, la autoridad canadiense de supervisión informó que el chatbot violó las leyes de privacidad tras el lanzamiento de un generador de imágenes que permitía crear y difundir deepfakes sexualizados de personas sin su consentimiento. Tras el inicio de la investigación en enero, xAI modificó el funcionamiento de la herramienta para limitar la edición de imágenes de personas reales con ropa reveladora.

Grok ya había atraído atención por materiales similares. Según especialistas del Center for Countering Digital Hate, el servicio había generado anteriormente numerosas imágenes sexualizadas por IA basadas en fotografías de mujeres sin su consentimiento. La organización también declaró que en 11 días de diciembre y enero Grok generó alrededor de 23.000 imágenes sexualizadas de niños. Musk negó estar al tanto de la creación de ese tipo de material, y xAI en enero impuso restricciones al generador de imágenes tras la reacción de los reguladores.

Kim dirige ahora el Center for AI Safety, que se ocupa de los riesgos de la inteligencia artificial. En la demanda contra xAI y SpaceX solicita una compensación por el presunto despido en represalia por denuncias internas. Para reducir el riesgo de incidentes similares, según las medidas descritas en el caso, deberían aplicarse revisiones de seguridad regulares, procedimientos internos transparentes y restricciones a la generación de imágenes de personas reales sin su consentimiento.