Análisis de IA de fotos en Android: Google activó SafetyCore en silencio

Google se ha visto envuelta en un nuevo escándalo de privacidad tras revelarse que ha instalado en dispositivos Android, sin notificar a los usuarios, un sistema llamado "SafetyCore". Este servicio realiza un escaneo local de imágenes para identificar contenido potencialmente no deseado, pero la falta de transparencia en su implementación genera serias dudas.

Recientemente, ocurrió una situación similar con Apple, cuando los usuarios descubrieron que la función "Enhanced Visual Search" enviaba partes de sus fotos a servidores para el reconocimiento de lugares de interés. A pesar de las garantías de privacidad, la indignación se debió al hecho de que la función se activó de manera oculta. Ahora, un escenario similar se está desarrollando con Google, pero en este caso, el procesamiento de datos ocurre directamente en el dispositivo.

"SafetyCore" es un componente de Android diseñado para realizar un escaneo local de imágenes y otros datos con el fin de detectar spam, fraudes y contenido potencialmente dañino. A diferencia de Apple, donde el procesamiento ocurre en la nube, el sistema de Google opera directamente en el dispositivo. Sin embargo, el principal problema radica en que se ha instalado de manera oculta, sin el consentimiento previo de los usuarios.

Los desarrolladores de "GrapheneOS", un sistema operativo independiente con mayor seguridad, analizaron "SafetyCore" y confirmaron que esta tecnología no envía datos a los servidores de Google. Su función es clasificar imágenes y mensajes, ayudando, por ejemplo, a marcar enlaces potencialmente fraudulentos. No obstante, los investigadores han manifestado su descontento con el hecho de que Google no ha revelado el código de "SafetyCore", lo que impide que expertos externos verifiquen el sistema en busca de posibles riesgos para la privacidad.

Según "ZDNet", "SafetyCore" se instaló y activó en todos los dispositivos con Android 9 o superior como parte de las actualizaciones del sistema desde octubre de 2024. Sin embargo, Google nunca notificó explícitamente a los usuarios sobre la implementación de esta función.

Una de las principales críticas ha sido que "SafetyCore" se instala en silencio, sin solicitar permiso de manera explícita. Esto ha generado una ola de preocupaciones, ya que los usuarios temen que en el futuro se activen otras funciones de IA sin su conocimiento. A pesar de que Google insiste en que el sistema es completamente autónomo, los expertos advierten que, aunque "SafetyCore" no transmita datos en este momento, la empresa podría integrarlo con otros servicios en el futuro, cambiando su comportamiento.

"Si no confías en Google, lo que debería preocuparte no es que 'SafetyCore' supuestamente no envíe datos, sino que en el futuro podría empezar a hacerlo", señala "ZDNet".

Aunque Google no informa abiertamente sobre la existencia de esta función, los usuarios pueden desactivarla manualmente siguiendo estos pasos:

1. Abrir "Configuración" → "Aplicaciones"
2. Ir a "Aplicaciones del sistema"
3. Buscar "SafetyCore"
4. Presionar "Detener" o "Desactivar"

Este proceso puede variar según el modelo de smartphone, pero la lógica general es la misma: "SafetyCore" se puede eliminar o desactivar si el usuario sabe dónde buscar.

El caso de "SafetyCore" confirma la tendencia de las grandes empresas tecnológicas de implementar potentes funciones de IA sin notificar a los usuarios. Recientemente, Apple enfrentó un escándalo similar con su función "Enhanced Visual Search", que analizaba fotos de los usuarios sin su conocimiento. Aunque ambas compañías afirman que estas tecnologías están diseñadas para mejorar la experiencia del usuario y proteger sus datos, la falta de comunicación abierta genera un creciente sentimiento de desconfianza.

La lección clave para Google y Apple es clara: si los usuarios no saben que sus dispositivos están recibiendo nuevas funciones de IA, cuando descubran estos cambios, no confiarán en las afirmaciones sobre seguridad y privacidad. Transparencia, información y la posibilidad de elección son lo que los usuarios esperan. De lo contrario, este tipo de situaciones seguirán repitiéndose, generando cada vez más dudas sobre la transparencia de las tecnologías.