OpenAI investiga cómo generar contenido explícito de forma «responsable»

La empresa OpenAI, desarrolladora de la popular plataforma de inteligencia artificial ChatGPT, ha hecho pública una documentación de proyecto en la que se describen los principios fundamentales del funcionamiento de sus tecnologías. Una parte importante del documento es una gran sección que analiza la posibilidad de implementar funciones específicas para la creación de contenido NSFW (Not Safe For Work).

En la actualidad, la política de uso de OpenAI prohíbe el contenido de carácter sexual o incluso cualquier insinuación al respecto. Sin embargo, el documento indica que la empresa está considerando permitir este tipo de material en contextos apropiados para determinadas edades. Es poco probable que el asistente aprenda a generar pornografía, pero sí podría generar relatos eróticos ligeros si fuera apropiado en el contexto del diálogo.

«Creemos que los desarrolladores y usuarios deben tener la capacidad de utilizar nuestros servicios de manera flexible a su discreción, siempre que cumplan con nuestras políticas de uso. Estamos explorando si podemos ofrecer responsablemente la posibilidad de generar contenido NSFW en contextos apropiados para la edad a través de la API y ChatGPT», se lee en el comentario de la guía de especificaciones.

El problema de la restricción excesiva de respuestas es relevante para muchas redes neuronales modernas. Por ejemplo, Bing de Microsoft y Gemini de Google se niegan instantáneamente a responder a una pregunta si el tema se torna «subido de tono». Las empresas temen posibles generaciones dañinas que puedan manchar su reputación. Al mismo tiempo, ChatGPT de OpenAI está menos sujeto a tales restricciones y, según la documentación publicada, estas restricciones serán aún menos notorias en el futuro.

Una nota en la documentación menciona que el contenido NSFW permitido puede incluir erotismo, violencia, lenguaje ofensivo y blasfemias no solicitadas. Todo esto es algo que el asistente pronto podría comenzar a generar, si la empresa encuentra una forma de hacer que el modelo de lenguaje determine la idoneidad de dichos materiales y los genere sin cruzar la línea.

A pesar de las buenas intenciones de OpenAI, la cuestión de la eficacia de moderar dicho contenido y evitar su uso con fines desleales sigue siendo bastante apremiante. Los cambios recientes que Microsoft realizó en una de sus herramientas de inteligencia artificial generativa después de que fue utilizada para crear y distribuir imágenes indecentes de la cantante Taylor Swift resaltan los riesgos potenciales de tales tecnologías.

Así pues, el deseo de las empresas desarrolladoras de ampliar la funcionalidad de los asistentes de IA mediante la incorporación de la generación de contenido para adultos conlleva riesgos muy serios. Incluso con una moderación cuidadosa, siempre existe la posibilidad de que tales capacidades se utilicen indebidamente con fines deshonestos.

Las empresas deben ser extremadamente cautelosas a la hora de incluir funciones similares, garantizando sistemas fiables de filtrado de contenido y protección contra su uso indebido. De lo contrario, la búsqueda de mayores capacidades de la IA podría dañar a la comunidad de Internet y a la reputación de los propios desarrolladores.