De startup a bancarrota: Perplexity AI al borde por alucinaciones de IA

Los mayores editores de EE. UU., Dow Jones & Co y NYP Holdings, presentaron una demanda contra la startup Perplexity, desarrolladora de un motor de búsqueda basado en IA. La demanda alega que Perplexity utiliza contenido ilegalmente para entrenar sus modelos sin pagar compensaciones por el material con derechos de autor.

La demanda fue presentada por las publicaciones The Wall Street Journal y New York Post, a través de su empresa matriz News Corporation, en el Tribunal del Distrito Sur de Nueva York. Se alegan dos violaciones de derechos de autor y un caso de falsa atribución de origen y menoscabo de marca. News Corp acusa a Perplexity de utilizar el trabajo de los periodistas para alimentar las necesidades de sus modelos de IA.

News Corp señaló que este caso podría ser solo el primero de una serie de litigios similares contra desarrolladores de IA. Según la empresa, Perplexity usa deliberadamente una gran cantidad de contenido protegido sin compensación y, además, afirma que los usuarios no necesitan seguir los enlaces. De este modo, según News Corp, Perplexity evita pagar a los autores del contenido.

La dirección de News Corp también expresó su apoyo a las empresas que actúan de manera responsable. En particular, el acuerdo con OpenAI demuestra cómo trabajar con propiedad intelectual de forma ética. News Corp firmó con OpenAI un acuerdo por más de 250 millones de dólares para el uso de su material en el entrenamiento de modelos de IA.

News Corp intentó contactar a Perplexity en julio de 2024, pero no recibió respuesta. La demanda exige una compensación de 150,000 dólares por cada violación. Si se aceptan las reclamaciones, Perplexity podría enfrentarse a la bancarrota.

Además de las acusaciones por uso ilegal de datos, News Corp señala que Perplexity no enlaza a las fuentes originales, lo que priva a los editores de ingresos directos. Además, el sistema de IA de Perplexity a veces publica información incorrecta y la atribuye a News Corp y sus publicaciones.

La demanda destaca que Perplexity a menudo proporciona información que las publicaciones nunca han publicado. Estos errores se conocen en la industria de IA como "alucinaciones", y según News Corp, Perplexity puede atribuir hechos inexistentes o conclusiones incorrectas a la empresa. Un ejemplo fue un artículo del New York Post: Perplexity copió 139 palabras del artículo original y agregó cinco párrafos con información falsa.

Perplexity afirma que respeta las directivas de robots.txt, que permiten a los sitios web limitar el uso de su contenido en las bases de datos de IA. Sin embargo, News Corp considera que algunos socios de Perplexity podrían estar ignorando estas restricciones. Por ahora, Perplexity no ha comentado la situación.

En 2023 se reveló que los principales medios de comunicación estaban descontentos con el uso de su contenido original por parte de empresas desarrolladoras de IA para entrenar modelos generativos. New York Times, News Corp, Axel Springer, IAC y otras compañías formaron una coalición para hacer frente a Google y OpenAI.

En otro caso, el alcalde de una ciudad de Australia también amenazó con demandar a OpenAI. Según él, ChatGPT afirmó su participación en un escándalo de corrupción . A OpenAI se le otorgó un plazo de 28 días para corregir el funcionamiento de su modelo de IA, pero desde entonces no ha habido información sobre acciones legales adicionales.