La IA contra la humanidad: un nuevo sistema nos salvará de la invasión de bots

Científicos que representan a los principales institutos tecnológicos y empresas, incluyendo OpenAI, Microsoft, MIT y Harvard, han presentado una solución innovadora para abordar el problema de la capacidad de la IA para imitar el comportamiento humano en línea. Su concepto, similar al de las identificaciones personales, ayudará a distinguir a los usuarios reales de los bots.

Este problema adquiere una importancia particular en el contexto de la propagación de desinformación y nuevas formas de fraude. Cuando es imposible decir con certeza quién está realmente creando contenido o enviando mensajes, la confianza en las comunicaciones en línea disminuye rápidamente. Los sistemas de IA pueden utilizarse para crear perfiles falsos, difundir información errónea y deepfakes.

El sistema propuesto se basa en el hecho de que la IA aún no es capaz de superar los protocolos criptográficos modernos. Para obtener un documento, la persona deberá presentarse personalmente en una de las organizaciones emisoras.

Las instituciones gubernamentales u otras organizaciones de confianza podrían asumir el rol de emisores. Se requerirá que el solicitante presente su pasaporte o datos biométricos. El proceso de verificación será lo suficientemente riguroso como para que ningún algoritmo, por avanzado que sea, pueda engañar a los verificadores. Al final, el usuario recibirá una identificación única que podrá almacenar en sus dispositivos personales, de la misma manera que se guardan las tarjetas de crédito y débito en las billeteras móviles.

Para confirmar su identidad en internet, el usuario podrá presentar el documento a los servicios en línea. La autenticidad se verificará mediante un protocolo criptográfico especial llamado "prueba de conocimiento cero". Este método permite confirmar que el usuario posee la identificación sin revelar ninguna información adicional sobre él, lo que garantiza un alto nivel de seguridad y confidencialidad.

Uno de los participantes del proyecto, Tobin South, un estudiante de posgrado del MIT, señala que el objetivo de su trabajo no es imponer una solución prefabricada, sino iniciar una discusión sobre la necesidad de tales medidas y las posibles formas de implementarlas. Subraya: "La IA está en todas partes. Nos enfrentamos a muchos problemas y, por lo tanto, a muchas soluciones. Nuestra tarea no es dictar al mundo qué hacer, sino comenzar una conversación sobre por qué lo necesitamos y cómo podemos lograrlo".

Es importante destacar que ya se han realizado intentos para crear sistemas de verificación similares. Por ejemplo, la plataforma Idena ofrece a los usuarios resolver acertijos complejos en un tiempo limitado. Otro ejemplo es el proyecto Worldcoin, que, a pesar de su reputación controvertida, utiliza el escaneo del iris para crear un identificador único. Sin embargo, estas soluciones aún no han logrado una amplia aceptación debido a diversos problemas técnicos y éticos.

Los expertos, sin embargo, ven un obstáculo significativo para la implementación de "identificaciones personales". Para que el proyecto tenga éxito, es necesario que lo apoyen grandes plataformas de internet, servicios digitales y gobiernos de diferentes países. Muchos de ellos podrían no estar dispuestos a aceptar un estándar que no controlan. Además, existe la preocupación de que tal sistema pueda llevar a una centralización excesiva del control sobre nuestra identidad digital.

Martin Chammer, responsable de seguridad en Synthesia, una empresa que desarrolla tecnologías para la creación de deepfakes realistas, duda de la viabilidad práctica de esta idea. En su opinión, existe el riesgo de que la implementación de un sistema así solo aumente la influencia de las grandes compañías tecnológicas: "Podríamos encontrarnos en una situación donde los gigantes de la industria de internet obtengan aún más control sobre nuestra vida digital".

A pesar de las dificultades, los especialistas coinciden en que es urgente encontrar formas de distinguir entre personas y bots en internet. La discusión de este problema entre las partes interesadas en el mundo de la tecnología y la política es un paso importante en la dirección correcta. El profesor Emilio Ferrara de la Universidad del Sur de California subraya: "No podemos permitirnos ser tan ingenuos como las generaciones anteriores respecto a las nuevas tecnologías".