"1984" en 2024: OpenAI se convertirá en la empresa más orwelliana de la historia

Gary Marcus, conocido cognitivista e investigador en el campo de la inteligencia artificial, lanzó un pronóstico alarmante sobre el futuro de OpenAI. Según él, el líder de la industria de IA podría pronto dar un giro brusco hacia la vigilancia masiva de los usuarios y acercarnos al mundo distópico descrito en la novela "1984" de George Orwell.

Hablando en un seminario en el Centro de Inteligencia Artificial Centrada en el Ser Humano de Stanford , Marcus declaró: "Creo que OpenAI se convertirá en la empresa más orwelliana de todos los tiempos. Serán empujados a convertirse en una compañía vigilante".

La razón de este resultado, según Marcus, es simple: OpenAI necesitará encontrar una forma de generar ingresos. La startup, que comenzó como una organización sin fines de lucro con objetivos altruistas, hoy se ha convertido en la cara de una industria en rápido crecimiento y, en efecto, en una empresa comercial.

Marcus señala que, en 2023, OpenAI promovía activamente la idea de una IA universal, capaz de resolver cualquier tarea. Las empresas más grandes del mundo probaron estas tecnologías con entusiasmo. Sin embargo, para 2024, los ánimos han cambiado: según numerosos informes, la tecnología no ha demostrado ser lo suficientemente confiable para su uso práctico debido a "alucinaciones" y fallos en su funcionamiento.

"Como resultado, muchas empresas se han vuelto más cautelosas al implementar IA", añade el investigador. Esta opinión coincide con las evaluaciones de otros analistas, que advierten sobre la posibilidad de que el mercado de la inteligencia artificial forme una especie de "burbuja". A pesar del bombo publicitario y las enormes inversiones, aún no está claro cómo los modelos actuales podrán recuperar las sumas invertidas y empezar a generar beneficios.

Marcus subraya que la idea de utilizar tecnologías inteligentes para la vigilancia masiva no es nueva. Muchas grandes empresas de TI ya ganan dinero recopilando y vendiendo los datos de los usuarios. Por ejemplo, las redes sociales como X (antes Twitter) venden información a terceros, entre los cuales podrían estar empresas que colaboran con organismos gubernamentales.

Sin embargo, OpenAI, como líder de la industria, tiene acceso a volúmenes colosales de datos de todo internet. Esto podría permitir al equipo crear un sistema de vigilancia sin precedentes, que superaría a todos los sistemas existentes.

Ya se pueden notar algunas señales preocupantes. Por ejemplo, este verano OpenAI incorporó a su junta directiva al exdirector de la Agencia de Seguridad Nacional de EE. UU., Paul Nakasone, lo que desató una tormenta de discusiones en la comunidad.

Gary Marcus alguna vez tuvo la esperanza de que OpenAI cambiaría de rumbo. Pero desde entonces ha adoptado una visión más escéptica, especialmente hacia el enfoque de Sam Altman, después de que la empresa abandonara su apariencia de organización sin fines de lucro.

"En los últimos meses, OpenAI se ha quitado definitivamente la máscara, y dudo mucho que Altman alguna vez regrese a la misión original", declaró el investigador. "La promesa a los inversores de hacer que el negocio sea rentable significa, en efecto, que los ideales anteriores han quedado atrás".