Prédire le crime en renforçant le profilage racial

Allô la mauvaise idée

Exclusif

À Chicago, l’utilisation par la police d’algorithmes visant à prévenir des crimes avant qu’ils ne soient commis a entraîné – surprise! – une série de faux positifs et le renforcement de certains préjugés sociaux.

Le projet en question, la Strategic Subjects List, est en cours depuis 2013 dans cette grande ville américaine connue pour son fort taux de criminalité. À voir les statistiques, soit 410 morts par balle depuis le début de l’année, pour un total de 453 homicides, l’idée pourrait avoir du bon… si elle fonctionnait.

Comme l’écrit le blogue More in Comments, le projet pilote réalisé en collaboration avec l’Illinois Institute of Technology se sert d’un algorithme pour classer et identifier les gens qui risquent le plus d’être coupables ou victimes de crimes violents commis avec des armes à feu, en fonction de données telles que les précédentes arrestations liées à la drogue, les liens avec les gangs de rue, et l’âge au moment de la plus récente arrestation.

L’algorithme aurait initialement identifié 426 personnes qui ont été placées dans le collimateur des services sociaux. Le hic? Le programme ne fonctionne tout simplement pas. Une étude réalisée par RAND Corporation écrit en toutes lettres que ce maintien préventif de la paix «ne semble pas avoir réussi à réduire la violence commise à l’aide d’armes à feu», pas plus que les gens inscrits sur la liste de suspects et de victimes aient eu droit à davantage de services sociaux.

Empirer les choses

Les policiers se seraient servis de la liste comme point de départ pour mener des enquêtes, forçant les personnes identifiées à adopter le rôle de premiers suspects, plutôt que celui de victimes potentielles.

En fait, les policiers se seraient servis des noms sur la liste comme point de départ pour mener des enquêtes, forçant les personnes identifiées à adopter le rôle de premiers suspects, plutôt que celui de victimes potentielles. Ce faisant, les policiers donnent raison à de nombreux groupes de défense des droits de la personne : utiliser des services de «précriminalité» mène les forces de l’ordre à muscler leurs interventions auprès de gens subissant déjà les impacts d’une forte présence policière dans leur entourage.

L’idée avait pourtant du bon. Comme l’indiquait l’an dernier le responsable des technologies au sein de la police de Chicago, Jonathan Lewin, lorsqu’une personne compose le 911, quelque chose s’est déjà produit. Pourquoi, alors, ne pas s’inspirer de statistiques existantes pour mieux coordonner les efforts du service de police et ainsi empêcher – espère-t-on – qu’une personne ne commette un acte illégal. D’autant plus que la violence à l’aide d’armes à feu prend fréquemment des proportions endémiques dans la ville des vents.

Jonathan Lewin, chef adjoint de la police de Chicago (Photo : Chicago Tribune).

Jonathan Lewin, chef adjoint de la police de Chicago (Photo : Chicago Tribune).

Personne n’est contre la sécurité des citoyens et la réduction du nombre d’actes criminels. Et les données statistiques, les cartes et autres informations sur la criminalité sont déjà employées un peu partout, que ce soit à des fins d’information, pour illustrer le travail des médias, ou encore pour décider de la répartition des sommes destinées aux services sociaux. Mais employer ces données pour tenter de deviner où aura lieu le prochain crime fait basculer le projet en terres de science-fiction. Impossible de ne pas penser à Minority Report, où des mutants sont employés pour prévisualiser les meurtres devant être commis dans les heures, ou même les minutes qui suivront. La police, dirigée par Tom Cruise dans le film inspiré de la nouvelle littéraire de Philip K. Dick, se précipite alors pour arrêter le futur criminel et le plonger dans un coma végétatif.

Dans le film, le service précrime finit par être victime de l’une de ses particularités constituantes. Dans la vraie vie, il y a lieu de se demander si les gens arrêtés avant de commettre un crime pourraient être raisonnablement condamnés dans une cour de justice.

Reconnaître l’évidence

Fondamentalement, l’approche adoptée par la police de Chicago n’est pas nécessairement mauvaise, mais celle-ci s’appuie sur des bases erronées. Sans surprise, les gens les plus propices à commettre un crime ou à en être victimes sont presque toujours des gens démunis vivant dans des quartiers pauvres. Et ces mêmes gens, parfois arrêtés pour des crimes sans envergure, se retrouvent ainsi fichés par la police, courant du même coup plus de risques de se retrouver derrière les barreaux. Ou pire.

Et à Chicago, ainsi qu’ailleurs aux États-Unis, ces quartiers difficiles sont souvent peuplés de Noirs prisonniers d’un système social déficient ne leur permettant pas de briser le cycle de pauvreté et de violence. Face à cette réalité, la prédiction de crime a du plomb dans l’aile.

Alors, faut-il tout jeter pour repartir à neuf? Plutôt le contraire, en fait.

Aux dires de la police de Chicago, la liste de suspects et victimes potentiels examinée par RAND Corporation dans le cadre de son étude est une version antérieure du document, et que les versions plus récentes seraient plus efficaces pour prédire l’identité des gens menacés par de possibles crimes.

Ces outils doivent être placés entre les mains de policiers capables de faire la différence entre une personne poussée à l’impensable par des facteurs externes et un criminel pur et dur.

Cela étant, il ne suffit pas de s’appuyer sur la technologie : l’éducation, la hausse du niveau de vie, la possibilité d’obtenir un emploi avec un salaire décent, la réforme des méthodes employées par les forces de l’ordre pour éviter le profilage racial, voilà autant de pistes de solution visant à réduire la criminalité, y compris les fusillades.

Mais ces façons de faire prennent du temps, beaucoup de temps. Et en attendant, rien n’interdit de développer des outils technologiques pour mieux identifier et, si besoin, éradiquer les sources de violences criminelles. Mais ces mêmes outils doivent être placés entre les mains de policiers compétents et capables de faire la différence entre une personne poussée à l’impensable par des facteurs externes et un criminel pur et dur.

Autrement, Chicago, voire l’ensemble des États-Unis, si les conditions politiques sont réunies, risque de ressembler à une dystopie orwellienne où les gens seraient arrêtés préventivement pour n’importe quel «crime».

Et cette perspective a sa place en science-fiction, mais seulement en science-fiction.