«Les mandamos todo, resuélvanlo ustedes»: por qué los informes de Zuckerberg solo entorpecen la captura de pedófilos

Las autoridades estadounidenses se quejaron de que la moderación automática de Meta con cada vez más frecuencia satura a los servicios con avisos sobre posibles casos de violencia sexualizada contra menores, pero una parte significativa de esas señales no es adecuada para el trabajo y ralentiza las investigaciones.

Agentes de Internet Crimes Against Children (ICAC) en Nuevo México dijeron en el juicio estatal contra Meta que desde Instagram, Facebook y WhatsApp reciben regularmente informes que carecen de datos clave. A veces los informes describen una situación sin indicios de delito; otras veces señalan un posible ilícito, pero faltan imágenes, vídeos o fragmentos de conversaciones o están inaccesibles.

El agente del ICAC Benjamin Tsvaybel relacionó el aumento de esas notificaciones con el uso de algoritmos. En la unidad de Tsvaybel, la cantidad de "pistas cibernéticas" durante 2024–2025, según estimaron los oficiales, se duplicó aproximadamente, aunque cada alerta debe verificarse de todos modos.

Meta rechaza las acusaciones y subraya que coopera con las autoridades. La empresa afirma que entrega datos ante solicitudes de emergencia y remite información sobre materiales sospechosos al Centro Nacional para Niños Desaparecidos y Explotados de EE. UU. (NCMEC), que distribuye las notificaciones entre agencias. El fiscal general de Nuevo México, Raúl Torres, también reconoció en las audiencias que las plataformas sociales, incluidas Meta, comunican imágenes a NCMEC, aunque la demanda del estado se basa en acusaciones de que priorizan las ganancias sobre la seguridad de los niños.

Los documentos del caso incluyeron debates internos de Meta en 2019, cuando la empresa se preparaba para ampliar el cifrado de extremo a extremo en Facebook Messenger. Entonces la dirección discutía cómo afectaría el cifrado la detección de delitos y la asistencia a las investigaciones. El cifrado de extremo a extremo en Messenger se desplegó finalmente en 2023, y un portavoz de Meta, Andy Stone, explicó posteriormente que esas preocupaciones habían impulsado a la empresa a desarrollar mecanismos de protección pensados para funcionar también en chats cifrados.

Por su parte, los agentes del ICAC atribuyen la "avalancha" de mensajes a la ley REPORT Act, que entró en vigor en noviembre de 2024 y amplió los requisitos de notificación al NCMEC. Según su versión, Meta pudo empezar a notificar "por exceso" para no infringir las nuevas normas, lo que hace que al flujo general lleguen episodios que son difíciles de interpretar como delitos.

También provocan retrasos las sutilezas legales. En algunos casos, las notificaciones generadas por algoritmos y no confirmadas por un empleado de la empresa requieren una orden judicial aparte para que el agente pueda acceder a las copias del material, y esos procedimientos consumen tiempo de unidades ya sobrecargadas.