Un réseau neuronal apprend à reconnaître les criminels par leurs visages

Minority Report

De récents efforts visant à identifier des criminels selon leurs caractéristiques faciales soulèvent d’importantes questions éthiques sur l’utilisation de l’intelligence artificielle.

Vers la fin du 19e siècle, le criminologue italien Cesare Lombroso a mis au point une théorie voulant que la nature criminelle d’un individu soit une classe héréditaire pouvant être distinguée par l’apparence physique. Lombroso était convaincu qu’il était possible d’identifier les personnes à risque de délinquance par la présence de traits semblables à des singes, comme la forme du crâne, le front incliné, des oreilles de taille inhabituelle, et diverses asymétries du visage.

Cette théorie a par la suite été discréditée de manière virulente par le criminologue anglais Charles Goring, après que celui-ci ait analysé statistiquement les données liées aux anomalies physiques auprès de criminels et de non-criminels. Il conclut que la méthode de Lombroso ne pouvait expliquer la criminalité que très marginalement, et que les différences statistiques des deux catégories d’individus étaient insignifiantes.

Ce débat ressurgit à nouveau dans la communauté scientifique cette semaine, alors que des chercheurs de l’Université Jiao-Tong de Shanghai ont déposé une étude s’appuyant sur cette même théorie. Les chercheurs Xiaolin Wu et Xi Zhang ont ainsi mis au point un réseau neuronal conçu pour analyser «la courbure des lèvres, la distance du coin interne de l’œil, et ce que l’on surnomme l’angle du nez et de la bouche» de visages afin d’identifier la nature criminelle d’une personne.

L’algorithme a été en mesure de reconnaître avec succès des criminels 89% du temps, simplement en évaluant leurs yeux, nez et bouches sur un ensemble de photos d’identité.

Intitulée Automated Inference on Criminality using Face Images, l’étude en question, qui doit toujours être évaluée par des pairs, décrit comment l’équipe a entraîné un algorithme à analyser une collection de photos d’identité d’hommes âgés de 18 à 55 ans.

Une banque de 1 856 photos d’hommes, dont la moitié était des criminels ayant été condamnés ou des suspects recherchés par le ministère de la sécurité publique, a ainsi été employée dans le cadre de cette expérience. Tous les portraits présentaient des hommes bien rasés, avec aucun signe distinctif, et sans expression faciale particulière (visage neutre).

Après avoir été alimenté de 90% de ces images (avec, pour chaque photo, l’information concernant la nature criminelle de la personne concernée), l’algorithme a ensuite tenté d’évaluer le reste des images – 186 photos – pour identifier qui en étaient les criminels. Selon les chercheurs, leur système a été en mesure de reconnaître avec succès les criminels du lot 89% du temps, simplement en évaluant leurs yeux, nez et bouches.

«Ces résultats très cohérents sont la preuve de la validité de l’inférence automatisée induite par le visage sur la criminalité, en dépit de la controverse historique entourant le sujet», affirment Wu et Zhang.

Ils ont tracé la variance des données de visages criminels et non-criminels dans un espace à paramètre simplifié. La nécessité de ce processus expliquerait pourquoi les différences physiques ont toujours été si difficiles à observer.

Selon leurs analyses, alors que l’ensemble des données est concentrique, les données des visages de criminels démontrent une variance beaucoup plus importante. «En d’autres mots, les visages du public respectant la loi partagent une plus grande ressemblance entre eux que les visages de criminels, ou les criminels ont un degré plus élevé de différence dans l’apparence de leur visage que les gens normaux.»

Cette observation peut aussi expliquer pourquoi certains types de tests statistiques ne permettent pas de distinguer ces catégories de personnes. Lorsque Wu et Zhang combinent les visages de criminels et de non-criminels pour créer un visage moyen par catégorie, les deux semblent identiques.

Selon MIT Technology Review, le résultat de cette étude, bien qu’inquiétant, n’est pas tout à fait inattendu. En 2011, des psychologues de l’Université Cornell sont parvenus à assembler un groupe de personnes ayant la capacité de repérer efficacement des criminels en voyant leur visage dans un groupe de photos d’individus mixtes.

Une nouvelle ère d’anthropométrie

L’avancement technologique liée à l’intelligence artificielle annonce une nouvelle ère d’anthropométrie, qu’elle soit du domaine judiciaire ou autre.

Photo : Fusion

Photo : Fusion

Au début du mois, des chercheurs américains ont révélé comment ils avaient entraîné un système à apprentissage profond pour juger si une personne était digne de confiance simplement en analysant la photo de son visage. Plus les machines deviendront performante, plus on pourra les exploiter afin de tirer des conclusions sur notre comportement, nos mouvements, etc.

«L’utilisation d’un système comme celui-ci, basé sur l’apparence plutôt que sur le comportement, pourrait conduire à une politique axée sur l’eugénisme.»

Sans surprise, les travaux de Wu et Zhang ont été rapidement contestés dans les médias suite à leur publication.

«C’est un exemple de recherche dirigée par des statistiques sans aucun fondement théorique», a affirmé Prof McVie, directrice du centre de recherche Applied Quantitative Methods Network, à la BBC. «Quelle serait la raison pour laquelle le visage de quelqu’un le mènerait à devenir criminel ou non? Il n’y a aucune raison théorique permettant d’expliquer comment l’apparence de quelqu’un ferait de cette personne un criminel.»

McVie s’inquiète également d’imaginer qu’un tel algorithme puisse être utilisé pour discriminer des citoyens, par exemple à l’aéroport, aux frontières, ou même pour obtenir un emploi.

«L’utilisation d’un système comme celui-ci, basé sur l’apparence plutôt que sur le comportement, pourrait conduire à une politique axée sur l’eugénisme», ajoute-t-elle.

Interrogé sur le sujet par The Telegraph, Richard Tynan, technologue chez Privacy International a souligné que cette étude partageait les mêmes fondements que la théorie discréditée de Lombroso.

«En fait, le problème est beaucoup plus profond, car il peut être impossible de savoir pourquoi une machine a tiré certaines conclusions à votre sujet», croit-il. «Cela démontre les corrélations arbitraires et absurdes que les algorithmes, l’intelligence artificielle et l’apprentissage machine peuvent trouver dans des ensembles de données minuscules. Ce n’est pas la faute de ces technologies, mais plutôt une preuve des dangers d’appliquer des systèmes complexes dans des contextes inappropriés.»

  • Serge

    Si on part du point de vue que cet algorithme est valide (on sait jamais), je me demande jusqu’à quel point ces traits pourrait décrire d’autre types de comportements par ricochet et porter de fausses accusations.

    Mon point, par exemple, est qu’un criminel a souvent le goût du risque plus élevé que les gens normaux. Pour eux, le risque de se faire attraper est plus bas que le gain potentiel. Ce type de comportement peut certainement être utilisé en entreprise en R&D ou en recherche car les personnes aimant le risque seront plus enclin à prendre des décisions qui ne sont pas conservatrices. Pourtant ces personnes ne feront probablement jamais de crimes, mais pourraient avoir les mêmes traits.

    bien entendu c’est juste un exemple, mais je veux simplement mentionner qu’il ne faudrait pas discriminer une personne par des traits physiques qui pourraient être appliqués pour détecter des d’autre types de traits qui sont en fait utiles à la société.

  • Dominique Théberge

    Il y a des enseignants qui utilisent la psychognomonie (l’étude des traits physiques pour détecter les copathologies mentales) pour détecter les enfants-problèmes dès le début de l’année. Grâce à ce dépistage précoce, ils peuvent refuser de répondre aux question de ces élèves, avertir les autres enfants de ne pas jouer avec, les exclure des sorties, les mettre seuls lors des travaux d’équipe, et en règle générale éviter de perdre du temps avec. S’ils se font intimider ou que leurs notes baissent au cours de l’année, ça prouve au professeur que leur diagnostic était juste.
    La psychognomonie ne fait que codifier un préjugé courant: si tu es laid, tu es méchant. Pas besoin d’être monstrueux, juste de ne pas fiter avec l’image du citoyen idéal. Et quand quelqu’un passe sa vie pas tout à fait exclu mais pas vraiment bienvenu non plus, ce n’est pas étonnant qu’il ait plus de risque de devenir délinquant.

    • PinkyPie

      Quels enseignants?

      Est-ce que des écoles à proximité utilisent cette technique?

      Je suis très sceptique.

      Après un certain temps les enseignants savent qui sont les cas problèmes dans leur classe, quel est l’intérêt d’utiliser cette technique.