Redes sociales solo a partir de los 16 años y control estricto de la IA: Canadá cambia las reglas para los gigantes tecnológicos

Canadá decidió tomar medidas más estrictas contra las redes sociales y los chatbots. El gobierno presentó el proyecto de ley C-34, que obligaría a los grandes servicios digitales a proteger mejor a niños y adolescentes contra el acoso, la explotación infantil, contenido peligroso y respuestas dañinas de la inteligencia artificial.

El proyecto de ley introduce nuevas reglas para redes sociales, servicios de transmisión en directo, plataformas con contenido generado por usuarios para adultos y chatbots basados en inteligencia artificial.

Los autores de la iniciativa señalan que los servicios en línea hace tiempo que forman parte de la vida cotidiana, pero junto con los beneficios han traído riesgos significativos. Según las autoridades canadienses, uno de cada cuatro adolescentes de 12 a 17 años ha sufrido ciberacoso. También aumenta el número de casos registrados por la policía relacionados con CSAM en internet.

Se pone un énfasis particular en los propios mecanismos de las plataformas. Los feeds de recomendaciones, la reproducción automática, el desplazamiento infinito y los algoritmos de participación pueden favorecer la difusión de contenido dañino y su aparición frecuente ante menores. Los chatbots con inteligencia artificial plantean otro problema, ya que pueden mantener conversaciones prolongadas con el usuario y ofrecer respuestas inseguras en situaciones sensibles.

El proyecto de ley distingue siete categorías de contenido dañino. Entre ellas: material íntimo publicado sin consentimiento, imágenes CSAM, material que incita al menor al autolesionismo, contenido para el acoso de niños, material que alimenta el odio y llama a la violencia física, así como material relacionado con el terrorismo y el extremismo.

Las redes sociales y los chatbots deberán evaluar los riesgos con antelación, implementar mecanismos de protección para niños, publicar normas para los usuarios y ofrecer herramientas sencillas para presentar quejas y bloquear. Además, se obligará a las redes sociales a cerrar el acceso a material que explote a niños y a imágenes íntimas publicadas sin consentimiento, incluidos los deepfakes pornográficos. Para los chatbots se establecerán obligaciones específicas. Los desarrolladores deberán reducir el riesgo de respuestas dañinas, aplicar medidas para la respuesta de emergencia en situaciones de crisis y prevenir comportamientos del sistema que puedan perjudicar al usuario.

Canadá también planea establecer una edad mínima para las cuentas en redes sociales. Las autoridades pretenden fijar el límite en 16 años, aunque la comisión podrá hacer una excepción para un servicio si la plataforma demuestra la existencia de medidas de protección suficientes para los menores.

La Comisión de Seguridad Digital de Canadá supervisará el cumplimiento de las nuevas normas por parte de las plataformas. El nuevo organismo tendrá la facultad de revisar los informes de las plataformas, realizar auditorías, emitir órdenes, tramitar las quejas de los usuarios y multar a los servicios por incumplimientos. Las empresas también deberán publicar planes de seguridad digital que describan las medidas que ayudan a cumplir los requisitos de la ley.

Las autoridades canadienses consideran que las medidas voluntarias por parte de las plataformas ya no son suficientes. Según el gobierno, la nueva ley debe hacer que los grandes servicios en línea sean más transparentes y responsables de los riesgos que generan sus propios productos.