Inspector de IA escolar: el sistema digital analiza detalladamente cada acción de los estudiantes

En la escuela secundaria Lawrence, en Kansas, recientemente se implementó un sistema de vigilancia 24/7 para los estudiantes. Desde noviembre del año pasado, el distrito escolar firmó un contrato de $162,000 con la empresa Gaggle, especializada en tecnologías de seguridad para estudiantes.

El sistema de inteligencia artificial de Gaggle analiza todas las tareas, correos electrónicos, fotografías y chats en los dispositivos escolares. Busca signos de consumo de drogas y alcohol, comportamiento antisocial y tendencias suicidas.

Si la IA detecta una palabra o imagen sospechosa, las consecuencias pueden variar desde una conversación con un administrador hasta una derivación a una consulta psicológica en línea o una visita de la policía local.

La administración del distrito afirma que Gaggle es una herramienta para mejorar la seguridad y el bienestar de los estudiantes y el personal. Este objetivo es especialmente relevante considerando que el suicidio es la segunda causa más común de muerte entre los jóvenes de 15 a 19 años.

La empresa Gaggle declara que de 2018 a 2023 ha «salvado» alrededor de 5790 vidas estudiantiles. Sin embargo, la metodología para calcular estos datos suscita dudas entre los críticos del sistema.

El uso de este tipo de software también genera preocupaciones sobre la violación de las libertades civiles. Los críticos señalan el posible impacto negativo sobre la creatividad y la autoexpresión de los estudiantes.

Ha habido casos en los que el sistema marcó erróneamente los trabajos de los estudiantes fotógrafos como que contenían «desnudos», aunque los propios estudiantes lo negaron. Especial preocupación expresaron los estudiantes periodistas, quienes afirman que el sistema viola sus derechos a la libertad de prensa y la confidencialidad de las fuentes.

A pesar de las críticas, el consejo escolar de Lawrence votó recientemente a favor de extender el contrato con Gaggle por $53,000. Un miembro del consejo subrayó que los estudiantes y el personal no tienen expectativas de privacidad al usar los dispositivos proporcionados por el distrito.

Los debates sobre el uso de sistemas de vigilancia en las escuelas continúan. Los defensores argumentan que si tal sistema salva, aunque sea una vida (y Gaggle afirma haber salvado 5790 vidas), vale la pena. Los críticos temen que tales medidas conviertan literalmente las escuelas en «campos de concentración virtuales».