Une patate chaude : Dans une rare histoire (ces jours-ci) concernant l'intelligence artificielle de type non génératif, l'Assemblée nationale française a approuvé l'utilisation de l'IA pour aider à la vidéosurveillance des Jeux olympiques de Paris 2024. Cette décision intervient malgré l'opposition des groupes de défense des droits qui estiment que cette utilisation constitue une violation potentielle des libertés civiles et ouvre la voie à l'utilisation future d'une vidéosurveillance invasive pilotée par des algorithmes dans toute l'Europe.
Selon The Reg, le gouvernement français a adopté l'article 7 de la loi en préparation pour les Jeux olympiques et paralympiques de 2024, autorisant l'utilisation de l'analyse automatisée des vidéos de surveillance provenant de caméras fixes et de drones.
Le système est censé détecter des événements suspects spécifiques dans les espaces publics, tels que des comportements anormaux, des événements prédéterminés et des mouvements de foule.
Bien que le plan de surveillance par IA puisse être contesté devant la plus haute cour constitutionnelle, la France semble en passe de devenir le premier pays de l'Union européenne à utiliser un tel système.
Il semble que la France ait ignoré l'avertissement de 38 organisations de la société civile qui ont exprimé leurs préoccupations concernant cette technologie dans une lettre ouverte. Elles affirment que les mesures de surveillance proposées violent le droit international en matière de droits de l'homme, car elles sont contraires aux principes de nécessité et de proportionnalité, et présentent des risques inacceptables pour les droits fondamentaux, tels que le droit à la vie privée, la liberté de réunion et d'association, et le droit à la non-discrimination.
 |
| Illustration non contenue dans l'article original |
La lettre prévient que si le système d'IA est adopté, il créera un précédent de surveillance injustifiée et disproportionnée dans les espaces accessibles au public.
"Si l'objectif des caméras pilotées par des algorithmes est de détecter des événements suspects spécifiques dans les espaces publics, elles captureront et analyseront nécessairement les caractéristiques physiologiques et les comportements des individus présents dans ces espaces, tels que la position de leur corps, leur démarche, leurs mouvements, leurs gestes ou leur apparence", peut-on lire dans la lettre ouverte. Isoler les individus de l'arrière-plan, sans quoi il serait impossible d'atteindre l'objectif du système, équivaudra à une "identification unique".
Comme c'est souvent le cas avec la surveillance par l'IA, il y a aussi des craintes de discrimination. "L'utilisation de systèmes algorithmiques pour lutter contre la criminalité a entraîné une surveillance excessive, une discrimination structurelle dans le système de justice pénale et une surpénalisation des minorités raciales, ethniques et religieuses", ajoutent les organisations.
Mher Hakobyan, conseillère d'Amnesty International en matière de réglementation de l'IA, a déclaré que cette décision risquait de transformer définitivement la France en un État de surveillance dystopique.
La Commission nationale de l'informatique et des libertés (CNIL) a soutenu le projet de loi à condition qu'aucune donnée biométrique ne soit traitée, mais les défenseurs de la vie privée ne croient pas qu'une telle chose soit possible.
Daniel Leufer, conseiller politique de l'organisation de défense des droits numériques Access Now, a déclaré : "Il y a deux choses à faire : la détection d'objets ou l'analyse du comportement humain, ce qui revient à traiter des données biométriques".
source :
https://www.techspot.com/news/98069-france-likely-use-ai-powered-surveillance-paris-olympics.html