Preselect Recidive: un algoritmo policial que etiqueta a niños inocentes como criminales

En los Países Bajos se ha desatado un escándalo en torno a un algoritmo policial que predice si los adolescentes problemáticos se convertirán en delincuentes empedernidos en el futuro. El programa, llamado Preselect Recidive , recopila información sobre jóvenes de entre 12 y 18 años que al menos una vez han estado en la mira de la policía y trata de vislumbrar su futuro. Muchos ya han comparado esta práctica con la película de Steven Spielberg «Особое мнение», donde un departamento especial de la policía intentaba prevenir los delitos antes de que ocurrieran.

Periodistas de investigación de la publicación FTM descubrieron que el sistema funciona terriblemente mal. Además de que en un tercio de los casos la IA se equivoca, los propios criterios con los que el algoritmo evalúa a los adolescentes generan preocupación. «Preselect Recidive» tiene en cuenta la edad, cualquier contacto familiar con la policía e incluso situaciones en las que el niño simplemente haya sido testigo de un delito.

Como resultado, surgen las situaciones más absurdas: entre jóvenes con el mismo origen y estilo de vida, el sistema puede calificar de peligroso a aquel cuyo pariente lejano haya estado bajo custodia.

Según la información de FTM, la etiqueta de «delincuente potencial» afecta seriamente el destino de un adolescente: de la evaluación del sistema depende si se le enviará a rehabilitación a través de un programa estatal o si se iniciará un proceso penal después de que haya infringido la ley. Algunos especialistas holandeses consideran que, debido a la gran cantidad de errores, el algoritmo no funciona mejor que arrojar una moneda al aire.

Las autoridades municipales de todo el país ya utilizan el sistema para elaborar listas de niños a los que las fuerzas del orden vigilarán de cerca. Y aunque para la elaboración de dichas listas también se tienen en cuenta otros factores, las previsiones de «Preselect Recidive» desempeñan un papel decisivo.

Se crea así un círculo vicioso: los adolescentes son detenidos con más frecuencia no porque tengan una mayor inclinación a delinquir, sino porque están siendo vigilados. Al mismo tiempo, sus coetáneos con una «evaluación limpia» pueden violar la ley con la misma frecuencia, pero simplemente nadie presta tanta atención a sus acciones.

Lo que es peor, ni los propios niños ni sus abogados sabían siquiera de la existencia del algoritmo. Y esa calificación, al igual que cualquier otra —sea crediticia o criminal—, podría ser utilizada por empleadores u otras partes interesadas al tomar decisiones importantes para una persona.

El Ministerio de Justicia y Seguridad de los Países Bajos, tras recibir la solicitud de la publicación FTM, admitió que sí, el sistema es imperfecto. Pero inmediatamente añadió que, de momento, cumple suficientemente bien sus funciones.