El asistente de IA Gemini hurga sin permiso en los archivos personales de los usuarios

Recientemente, Kevin Bankston, asesor senior de gobernanza de IA en el Centro para la Democracia y la Tecnología (CDT), descubrió con sorpresa que el asistente de IA Gemini de Google había analizado automáticamente sus documentos abiertos en Google Docs sin ningún permiso.

Kevin compartió su historia en las redes sociales, donde contó que simplemente abrió una declaración de impuestos en formato PDF a través del editor de documentos en la nube Google Docs, después de lo cual inesperadamente recibió de Gemini un breve resumen de sus impuestos. Afirma que no invocó a Gemini manualmente ni le dio consentimiento para analizar sus archivos.

Tras investigar más a fondo el principio de funcionamiento del asistente de IA, Kevin notó que el problema solo ocurría con documentos PDF. Supuso que una vez, al abrir un PDF y hacer clic en el botón de Gemini, había «permitido» que el asistente apareciera cada vez que se abrían archivos PDF.

Luego, Kevin intentó desactivar esta función preguntando al propio Gemini cómo hacerlo. Desafortunadamente, recibió instrucciones incorrectas del chatbot que no llevaron a ninguna parte. Al final, logró encontrar la configuración necesaria por sí mismo, pero aquí también hubo una decepción: la función ya estaba desactivada, lo que significa que el algoritmo para trabajar con archivos de usuario es aún más complicado de lo que parecía a primera vista.

La reacción de los usuarios a la publicación de Kevin fue variada. Algunos expresaron preocupación de que los servicios de Google pudieran usarse para entrenar IA con datos de usuarios. Otros criticaron a Kevin por cargar declaraciones de impuestos en Google Docs. Y uno de los comentaristas preguntó si la ayuda no solicitada de Gemini fue útil, a lo que Kevin respondió negativamente.

De esta desagradable situación se puede concluir que no se deben abrir documentos personales, especialmente aquellos relacionados con finanzas y otra información confidencial, a través de editores en la nube.

Por supuesto, existe la posibilidad de que Kevin haya cometido un error al trabajar con Gemini, pero no se puede excluir el hecho de que la «corporación del bien» realmente podría haber decidido estudiar los archivos de los usuarios para hacer su red neuronal más personalizada.

Por lo tanto, siempre se deben verificar las configuraciones de privacidad y ser consciente de los riesgos asociados con el acceso de los asistentes de IA a los datos personales, especialmente si no desea que estos datos se hagan públicos.