Le Royaume-Uni crée un outil de « prédiction des meurtres » pour identifier les personnes les plus susceptibles de tuer

Résumé : Un programme gouvernemental britannique de "prédiction des meurtres" développe actuellement des algorithmes analysant les données personnelles de milliers d'individus pour identifier ceux susceptibles de commettre des crimes violents. Découvert par Statewatch via des demandes d'accès à l'information, ce projet rebaptisé "sharing data to improve risk assessment" suscite de vives controverses. Tandis que le Ministère de la Justice affirme n'utiliser que des données de personnes déjà condamnées et uniquement à des fins de recherche, les militants dénoncent un système "glaçant et dystopique" qui pourrait exploiter des informations sensibles sur la santé mentale, les addictions et les violences domestiques de personnes non condamnées. Les critiques craignent que cette technologie ne renforce les discriminations systémiques contre les minorités ethniques et les personnes défavorisées.

Le gouvernement britannique met au point un programme de « prédiction des meurtres » qui, selon lui, pourrait utiliser les données personnelles des personnes déjà connues des autorités pour identifier les personnes les plus susceptibles de devenir des tueurs.

Les chercheurs utiliseraient des algorithmes pour analyser les informations de milliers de personnes, y compris des victimes de la criminalité, afin d'essayer d'identifier les personnes qui risquent le plus de commettre des infractions violentes graves.

Le projet s'appelait à l'origine « projet de prédiction des homicides (homicide prediction project)», mais il a été rebaptisé « partage des données pour améliorer l'évaluation des risques (sharing data to improve risk assessment) ». Le ministère de la justice espère que le projet contribuera à renforcer la sécurité publique, mais des militants l'ont qualifié de « effrayant et dystopique ».

L'existence du projet a été découverte par le groupe de pression Statewatch, et certains de ses rouages ont été dévoilés grâce à des documents obtenus dans le cadre de demandes au titre de la liberté d'information.

Statewatch affirme que des données provenant de personnes n'ayant fait l'objet d'aucune condamnation pénale seront utilisées dans le cadre du projet, y compris des informations personnelles sur l'automutilation et des informations relatives aux violences domestiques. Les autorités nient fermement cette affirmation et insistent sur le fait que seules des données concernant des personnes ayant fait l'objet d'au moins une condamnation pénale ont été utilisées.

Le gouvernement affirme que le projet est à ce stade uniquement destiné à la recherche, mais les militants affirment que les données utilisées introduiraient un biais dans les prédictions à l'encontre des minorités ethniques et des personnes pauvres.

Le ministère de la justice indique que le projet « examinera les caractéristiques des délinquants qui augmentent le risque de commettre un homicide » et « explorera des techniques alternatives et innovantes de science des données pour l'évaluation du risque d'homicide ».

Le projet « fournira des éléments permettant d'améliorer l'évaluation des risques de crimes graves et contribuera en fin de compte à la protection du public grâce à une meilleure analyse », a ajouté un porte-parole. 

Ce projet, commandé par le cabinet du Premier ministre lorsque Rishi Sunak était au pouvoir, utilise des données sur la criminalité provenant de diverses sources officielles, dont le service de probation et les données de la police du Grand Manchester antérieures à 2015.

Les données traitées comprennent les noms, les dates de naissance, le sexe et l'origine ethnique, ainsi qu'un numéro identifiant les personnes dans le fichier national de la police.

L'affirmation de Statewatch selon laquelle les données de personnes innocentes et de celles qui ont demandé de l'aide à la police seront utilisées est basée sur une partie de l'accord de partage de données entre le ministère de la justice et la police du Grand Manchester.

Une section intitulée : « type de données personnelles à partager » par la police avec le gouvernement comprend divers types de condamnations pénales, mais aussi l'âge auquel une personne s'est présentée pour la première fois comme victime, y compris en cas de violence domestique, et l'âge auquel une personne a eu son premier contact avec la police.

Seront également partagés - et répertoriés dans les « catégories spéciales de données à caractère personnel » - les « marqueurs de santé qui sont censés avoir un pouvoir prédictif significatif », tels que les données relatives à la santé mentale, à la toxicomanie, au suicide et à la vulnérabilité, à l'automutilation, ainsi qu'au handicap.

Sofia Lyall, chercheuse pour Statewatch, a déclaré : La tentative du ministère de la Justice de mettre en place ce système de prédiction des meurtres est le dernier exemple effrayant et dystopique de l'intention du gouvernement de développer des systèmes de « prédiction » de la criminalité.

Les recherches ont montré à maintes reprises que les systèmes algorithmiques de « prédiction » de la criminalité sont intrinsèquement défectueux.

« Ce dernier modèle, qui utilise les données de notre police et de notre ministère de l'intérieur institutionnellement racistes, renforcera et amplifiera la discrimination structurelle qui sous-tend le système juridique pénal. 

« Comme d'autres systèmes de ce type, il codera des préjugés à l'encontre des communautés racisées et à faibles revenus. Construire un outil automatisé pour profiler les gens comme des criminels violents est profondément répréhensible, et utiliser des données aussi sensibles sur la santé mentale, la toxicomanie et le handicap est extrêmement intrusif et alarmant ».

Un porte-parole du ministère de la justice a déclaré : « Ce projet est mené à des fins de recherche uniquement. Il a été conçu à partir des données existantes détenues par le HM Prison et le Probation Service et les forces de police sur les délinquants condamnés pour nous aider à mieux comprendre le risque que les personnes en probation commettent des actes de violence graves. Un rapport sera publié en temps voulu ».

Les responsables indiquent que les services pénitentiaires et de probation utilisent déjà des outils d'évaluation des risques, et que ce projet vise à déterminer si l'ajout de nouvelles sources de données, provenant des données de la police et de la détention, permettrait d'améliorer l'évaluation des risques.

traduction de :

https://www.theguardian.com/uk-news/2025/apr/08/uk-creating-prediction-tool-to-identify-people-most-likely-to-kill