Le rapporteur de l'ONU sur l'extrême pauvreté déclare que les grandes entreprises de technologie sont autorisées à ne pas être réglementées dans les "zones franches des droits de l'homme" et ne sont pas tenues de rendre des comptes.
Partout dans le monde, les nations sont " en train de tomber comme des zombies dans une dystopie numérique du bien-être social " dans laquelle l'intelligence artificielle et d'autres technologies sont utilisées pour cibler, surveiller et punir les personnes les plus pauvres, a averti l'Observatoire de la pauvreté des Nations unies.
Philip Alston, rapporteur des Nations Unies sur l'extrême pauvreté, a dressé un bilan dévastateur de la manière dont les nouvelles technologies numériques révolutionnent l'interaction entre les gouvernements et les plus vulnérables de la société. Dans ce qu'il appelle la montée de "l'Etat providence numérique", des milliards de dollars de deniers publics sont aujourd'hui investis dans des systèmes automatisés qui changent radicalement la nature de la protection sociale.
Le rapport d'Alston sur les implications de ce changement pour les droits de l'homme sera présenté à l'Assemblée générale de l'ONU vendredi prochain. Il affirme que l'IA a le potentiel d'améliorer considérablement la vie des communautés défavorisées, mais prévient que cet espoir se perd dans la recherche constante de réduction des coûts et de "l'efficacité".
Les grandes entreprises technologiques sont autorisées à ne pas être réglementées dans des "zones franches de droits de l'homme", les budgets sociaux sont décimés et de nouvelles sanctions sont imposées en cas de non-respect de la loi pour les personnes qui peuvent être analphabètes ou n'avoir pas accès à l'internet. Au Royaume-Uni, note-t-il, 12 millions de personnes, soit une personne sur cinq de la population, n'ont pas les compétences numériques essentielles nécessaires à la vie quotidienne moderne.
Alston écrit que " les décisions cruciales de passer au numérique ont été prises par des ministres du gouvernement sans consultation, ou même par des fonctionnaires ministériels sans qu'il y ait eu de discussions politiques importantes ". En raison de l'absence de responsabilité, "les technologies numériques sont utilisées dans l'État-providence pour surveiller, cibler, harceler et punir les bénéficiaires, en particulier les plus pauvres et les plus vulnérables d'entre eux".
Avocat basé à New York, Alston est devenu un critique virulent de l'inégalité et du mépris pour les droits humains fondamentaux. En juin 2018, il a provoqué d'importantes réductions d'impôts avec l'administration Trump en déclarant qu'elle forçait cruellement des millions de personnes à la misère avec ses réductions d'impôts pour les riches. Il a ensuite mis en colère le gouvernement britannique avec son rapport accablant sur l'austérité au Royaume-Uni.
Maintenant, il est susceptible de déplaire à plusieurs gouvernements qui se sentiront mal à l'aise en lisant son rapport. Selon lui, la situation normale dans laquelle les gouvernements doivent rendre des comptes à leurs citoyens a été bouleversée par l'introduction de la prise de décisions automatisée et le retrait de la discrétion humaine des systèmes de protection sociale.
"Dans un tel monde, les citoyens deviennent de plus en plus visibles pour leurs gouvernements, mais pas l'inverse."
Le rapport d'Alston démolit également les grandes entreprises de technologie qui, selon lui, agissent comme des forces en elles-mêmes. L'avènement de la révolution numérique a permis au secteur privé de s'approprier d'énormes pans de l'État-providence presque sans commentaires publics.
Il cite des exemples d'entreprises du monde entier impliquées dans les systèmes de protection sociale : La filiale de Net 1, Cash Paymaster Services, ainsi que MasterCard, ont été initialement impliquées dans le système de distribution de subventions sociales en Afrique du Sud, ce qui a soulevé des préoccupations en matière de confidentialité en raison de la collecte de données biométriques. En Australie, Indue et Visa ont contribué à l'introduction d'essais de cartes de débit sans espèces, et IBM a joué un rôle central dans le système Sams, qui a coûté plusieurs millions de dollars, au Canada, aux États-Unis, en Allemagne et en Nouvelle Zélande.
Le rapport indique que dans de nombreux régimes, le rôle et la responsabilité de ces sociétés sont opaques, ce qui rend impossible la transparence des comptes public. "Une poignée de puissants dirigeants remplacent les gouvernements et les législateurs pour déterminer la direction que prendront les sociétés et les valeurs et hypothèses qui guideront ces évolutions ", écrit Alston.
Pour ce qui est de l'avenir, l'observateur de l'ONU demande que la Silicon Valley soit tenue de rendre des comptes par le biais de la réglementation. L'autorégulation qui a été autorisée dans le secteur des grandes technologies, et ce uniquement dans les grands secteurs de l'économie, doit prendre fin et les entreprises technologiques doivent "être légalement tenues de respecter les normes applicables en matière de droits humains".
Il s'agit notamment de s'attaquer à l'utilisation croissante du couplage de données qui sert à punir et à criminaliser les personnes à faible revenu. Il s'agit aussi de maîtriser les "options de surveillance toujours plus affinées qui permettent un suivi 24 heures sur 24 des allocataires".
Le rapport de l'ONU a été établi à partir des visites d'Alston au Royaume-Uni, aux États-Unis et ailleurs, ainsi que de 60 communications provenant de 34 pays. Il conclut sur une note de mobilisation en disant qu'il n'est pas trop tard pour laisser tomber l'obsession de la fraude et des "pauvres indignes".
Au lieu d'infliger la misère à des millions de personnes, la technologie numérique pourrait être utilisée comme une force du bien. Elle pourrait "assurer un niveau de vie plus élevé aux personnes vulnérables et défavorisées, concevoir de nouvelles façons de prendre soin de ceux qui sont laissés pour compte. Ce serait la véritable révolution numérique de l'Etat providence."
sauce :
https://www.theguardian.com/technology/2019/oct/16/digital-welfare-state-big-tech-allowed-to-target-and-surveil-the-poor-un-warns