Partout dans le monde, de la petite ville de l'Illinois aux États-Unis à Rochdale en Angleterre, de Perth en Australie à Dumka dans le nord de l'Inde, une révolution est en cours dans la manière dont les pouvoirs publics traitent les populations déshéritées.
Vous ne pouvez pas voir ce qui se passe, et vous n'en avez peut-être jamais entendu parler. C'est planifié par des ingénieurs et des codeurs derrière des portes closes, dans des lieux gouvernementaux sûrs, loin de la vue du public.
Seuls les mathématiciens et les informaticiens comprennent parfaitement le changement marin, alimenté par l'intelligence artificielle (IA), les algorithmes prédictifs, la modélisation des risques et la biométrie. Mais si vous faites partie des millions de personnes vulnérables qui sont les bénéficiaires du remaniement radical des prestations sociales, vous savez qu'il est réel et que ses conséquences peuvent être graves, voire mortelles.
Le Guardian a passé les trois derniers mois à enquêter sur la façon dont des milliards de dollars sont injectés dans les innovations de l'IA qui sont en train de refondre de façon explosive la façon dont les personnes à faible revenu interagissent avec l'État. Ensemble, nos journalistes aux États-Unis, en Grande-Bretagne, en Inde et en Australie ont exploré ce qui équivaut à la naissance de l'État providence numérique.
Leurs dépêches révèlent comment les allocations de chômage, la pension alimentaire pour enfants, les subventions au logement et à l'alimentation et bien d'autres choses encore sont brouillées en ligne. Les gouvernements des pays industrialisés et des pays en développement dépensent d'énormes sommes d'argent pour automatiser la pauvreté et, ce faisant, transformer les besoins des citoyens vulnérables en chiffres, remplacer le jugement des travailleurs sociaux par la prise des décisions de machines de sang froid.
Les reporters du Guardian brossent le portrait d'une dystopie de Dickens du 21e siècle qui prend forme à une vitesse vertigineuse. La politologue américaine Virginia Eubanks a une phrase à ce sujet : "L'hospice numérique."
Écoutez les gouvernements et vous entendrez de grandes promesses sur la façon dont les nouvelles technologies transformeront la pauvreté en une entreprise noble et inoffensive. Elles accéléreront le versement des prestations, accroîtront l'efficacité et la transparence, réduiront le gaspillage, permettront aux contribuables d'économiser de l'argent, élimineront la faillibilité et les préjugés humains et feront en sorte que les ressources limitées atteignent ceux qui en ont le plus besoin. Mais si souvent, ces promesses sont tombées à plat.
À une époque où l'austérité domine le paysage politique, des millions de personnes ont vu leurs avantages réduits ou supprimés par des programmes informatiques qui fonctionnent d'une manière que peu de gens semblent capables de contrôler ou même de comprendre. Les erreurs sont devenues endémiques et il n'existe pas de voie de recours évidente pour les victimes de ces erreurs.
Cette semaine, l'automatisation de la pauvreté sera introduite sur la scène mondiale. Philip Alston, un avocat spécialisé dans les droits de l'homme qui joue le rôle de chien de garde de l'ONU sur l'extrême pauvreté, présentera à l'Assemblée générale des Nations Unies à New York un rapport novateur qui sonne l'alarme sur les implications de la course à la numérisation de la protection sociale pour les droits humains.
L'analyse d'Alston se fonde en partie sur ses études officielles des Nations Unies sur la pauvreté au Royaume-Uni et aux États-Unis, et en partie sur les contributions de gouvernements, d'organisations de défense des droits humains et d'experts provenant de plus de 34 pays. Il est susceptible de fournir un instantané définitif de la situation actuelle du monde et de l'orientation qu'il prend, en s'attaquant au harcèlement, au ciblage et à la punition de ceux qui vivent dans la pauvreté numérique en expansion rapide.
Dans l'Illinois, le Guardian a constaté que les gouvernements des États et le gouvernement fédéral ont uni leurs forces pour exiger que les bénéficiaires de l'aide sociale remboursent les " trop-payés " qui remontent dans certains cas à 30 ans. Ce système de "dette zombie", militarisé par la technologie, invoque la peur et la misère parmi les plus vulnérables de la société.
Comme l'a décrit un allocataire : "Tu dois ce que tu as mangé."
Au Royaume-Uni, nous enquêtons sur le site sécurisé du gouvernement à l'extérieur de Newcastle, où des millions de dollars sont dépensés pour développer une nouvelle génération de robots sociaux destinés à remplacer les humains. Des entreprises privées, dont un groupe new-yorkais dirigé par le premier botaniste milliardaire mondial, surchargent un processus qui a donné naissance à un tout nouveau jargon : "main-d'œuvre virtuelle", "prise de décision accrue", "automatisation des processus robotisés".
Le gouvernement va de l'avant avec sa mission numérique malgré la douleur déjà infligée à des millions de Britanniques à faible revenu par l'agenda " numérique par défaut " du pays. Les demandeurs d'asile ont parlé de la faim, de la saleté, de la peur et de la panique qu'ils ressentent.
En Australie, où le Guardian a beaucoup parlé de robodebt, le programme qui a été accusé de récupérer à tort des dettes dans le passé grâce à un algorithme défectueux, nous révélons maintenant que le gouvernement a ouvert un nouveau front numérique : l'automatisation pour suspendre les prestations sociales par millions. Les allocataires voient leur argent coupé sans préavis.
L'histoire la plus troublante vient de Dumka en Inde. Ici, nous apprenons l'horrible impact humain qu'a eu sur les familles Aadhaar, un numéro d'identification unique à 12 chiffres que le gouvernement indien a attribué à tous les résidents de la plus grande expérience biométrique au monde.
Motka Manjhi a payé le prix ultime lorsque l'ordinateur s'est brisé et que son empreinte de pouce - sa clé dans Aadhaar - n'a pas été reconnue. Ses rations de subsistance ont été interrompues, il a été contraint de sauter des repas et il a maigri. Le 22 mai, il s'est évanoui devant chez lui et est mort. Sa famille est convaincue que c'était la famine.
Les enquêtes du Guardian mettent en lumière les caractéristiques communes de ces nouveaux systèmes, que ce soit dans les pays en développement ou développés, à l'est ou à l'ouest. La similitude la plus flagrante est que tout cela se produit à la vitesse de l'éclair, avec des approches de haute technologie balayant les services sociaux, le travail et les pensions, l'invalidité et la santé, souvent avec un débat public ou une responsabilité minimale.
Dans le cadre de cette révolution, l'élément humain de l'État-providence se dilue. Au lieu de parler à un travailleur social qui évalue personnellement vos besoins, vous êtes maintenant dirigé en ligne où l'analyse prédictive vous attribuera un score de risque futur et un algorithme décidera de votre sort.
Dans le nouveau monde, l'inégalité et la discrimination peuvent s'enraciner. Que se passe-t-il si vous êtes l'un des cinq millions d'adultes au Royaume-Uni sans accès régulier à Internet et avec peu ou pas de connaissances en informatique ? Et si l'algorithme ne faisait que créer des distorsions de race et de classe, rendant le fossé entre riches et pauvres, blancs et noirs, universitaires et travailleurs manuels encore plus profond ?
Il y a aussi une qualité kafkaïenne terrifiante qui s'étend dans le monde entier. Comme Manjhi l'a si tragiquement découvert, des erreurs sont commises. Un problème avec les machines. S'il n'y a personne à portée de main qui vous voit comme une personne et non comme un numéro à 12 chiffres à traiter, les résultats peuvent être fatals.
Si l'ordinateur dit "aucun versement". Qu'est-ce que vous faites désormais ?
sauce :
https://www.theguardian.com/technology/2019/oct/14/automating-poverty-algorithms-punish-poor