En Chine, l'évaluation du comportement des citoyens est la politique officielle du gouvernement. Les entreprises américaines font de plus en plus quelque chose de semblable, en dehors de tout cadre législatif.
Avez-vous entendu parler du système de crédit social de la Chine ? Il s'agit d'un programme national axé sur la technologie et la surveillance, conçu pour inciter les citoyens à adopter de meilleurs comportements. L'objectif ultime est de "permettre aux personnes dignes de confiance de se promener partout sous les cieux tout en rendant difficile pour les disqualifiés de faire un seul pas," selon le gouvernement chinois.
En place depuis 2014, le système de crédit social est un projet en cours qui pourrait évoluer d'ici l'année prochaine vers un système de points unique et national pour tous les citoyens chinois, un peu comme un score de crédit financier. Elle vise à punir les infractions qui peuvent inclure l'adhésion ou le soutien au Falun Gong ou au bouddhisme tibétain, le non-paiement de dettes, jouer de façon excessive aux jeux vidéo, la critique du gouvernement, les retards de paiement, ne pas passer le balai devant votre magasin ou votre maison, le fait de fumer ou de diffuser une musique forte dans les trains, les passages en auto et autres mesures considérées illégales et inadmissibles par le gouvernement chinois.
Il peut également attribuer des points pour des dons de charité ou même pour avoir amené ses parents chez le médecin.
Les sanctions peuvent être sévères, notamment l'interdiction de quitter le pays, d'utiliser les transports publics, de se rendre à l'hôtel, d'embaucher pour des emplois à haute visibilité ou d'accepter des enfants dans des écoles privées. Elle peut également entraîner un ralentissement des connexions Internet et une stigmatisation sociale sous la forme d'une inscription sur une liste noire publique.
Le système de crédit social de la Chine a été caractérisé dans un tweet lapidaire comme un "autoritarisme, ludique".
Actuellement, certaines parties du système de crédit social sont en vigueur dans tout le pays et d'autres sont locales et limitées (il existe une quarantaine de projets pilotes gérés par des collectivités locales et au moins six gérés par des géants technologiques comme Alibaba et Tencent).
Pékin tient à jour deux listes nationales, la liste noire et la liste rouge, la première composée de personnes qui ont transgressé et la seconde de personnes qui n'ont pas eu de problèmes (une "liste rouge" est la version communiste d'une liste blanche). Ces listes sont consultables publiquement sur un site Web gouvernemental appelé China Credit.
Le gouvernement chinois partage également des listes avec les plateformes technologiques. Ainsi, par exemple, si quelqu'un critique le gouvernement sur Weibo, ses enfants pourraient ne pas être admis dans une école d'élite.
L'humiliation publique fait également partie du système de crédit social de la Chine. Des photos de personnes inscrites sur la liste noire dans une ville ont été montrées entre les vidéos sur TikTok lors d'un essai, et les adresses des citoyens inscrits sur la liste noire ont été affichées sur une carte sur WeChat.
Certains rapports de la presse occidentale laissent entendre que la population chinoise étouffe dans une boîte de Skinner nationale de modifications comportementales oppressives. Mais certains Chinois ne savent même pas qu'il existe. Et beaucoup d'autres aiment l'idée. Une enquête a révélé que 80 % des citoyens chinois interrogés approuvaient quelque peu ou fortement le système de crédit social.
Cela peut se produire ici
De nombreux Occidentaux sont troublés par ce qu'ils lisent sur le système de crédit social de la Chine. Mais il s'avère que de tels systèmes ne sont pas propres à la Chine. Un système parallèle est en train de se développer aux États-Unis, en partie grâce aux politiques d'utilisation de la Silicon Valley et de l'industrie de la technologie, et en partie grâce à la surveillance de l'activité des médias sociaux par les entreprises privées.
Voici quelques-uns des éléments du système de crédit social américain en pleine expansion.
Les compagnies d'assurance
Le Département des services financiers de l'État de New York a annoncé plus tôt cette année que les compagnies d'assurance vie peuvent baser leurs primes sur ce qu'elles trouvent dans vos messages sur les médias sociaux. Cette photo d'Instagram vous montrant taquiner un grizzli à Yellowstone avec un martini dans une main, un seau de frites au fromage dans l'autre, et une cigarette dans la bouche, pourrait vous coûter cher. D'un autre côté, un message sur Facebook vous montrant en train de faire du yoga pourrait vous faire économiser de l'argent. (Les compagnies d'assurance doivent démontrer que les preuves sur les médias sociaux indiquent un risque, et non une discrimination de quelque nature que ce soit - elles ne peuvent pas utiliser les postes sociaux pour modifier les primes fondées sur la race ou l'invalidité, par exemple).
L'utilisation des médias sociaux est un prolongement des questions sur le mode de vie habituellement posées lors d'une demande d'assurance vie, telles que la question de savoir si vous pratiquez l'escalade ou d'autres sports d'aventure. Dire "non", mais poster ensuite des photos de vous-même en solo à El Capitan (ndrl : une montagne aux usa), pourrait compter comme un "oui".
PatronScan
Une société appelée PatronScan vend trois produits -kiosk, ordinateurs de bureau et systèmes portatifs - conçus pour aider les propriétaires de bars et de restaurants à gérer leurs clients. PatronScan est une filiale de la société canadienne de logiciels Servall Biometrics, et ses produits sont maintenant en vente aux États-Unis, au Canada, en Australie et au Royaume-Uni.
PatronScan aide à repérer les fausses cartes d'identité et les faussaires. Lorsque les clients arrivent à une barre utilisant PatronScan, leur identifiant est scanné. L'entreprise tient à jour une liste de clients répréhensibles conçue pour protéger les lieux contre les personnes qui ont déjà été expulsées pour "bagarre, agression sexuelle, drogue, vol et autres mauvais comportements", selon son site Web. Une liste "publique" est partagée entre tous les clients de PatronScan. Ainsi, une personne qui est bannie par un bar aux États-Unis pourrait l'être par tous les bars aux États-Unis, au Royaume-Uni et au Canada qui utilisent le système PatronScan pendant un an au maximum. (PatronScan Australia dispos d'un système séparé).
C'est aux propriétaires et gérants des bars qu'il appartient de juger quel type de comportement peut être inclus dans une liste PatronScan. Les propriétaires de bars peuvent ignorer l'interdiction, s'ils le souhaitent. Les données sur les clients non fautifs sont supprimées en 90 jours ou moins. Aussi : PatronScan permet aux bars de garder une liste "privée" qui n'est pas partagée avec d'autres bars, mais sur laquelle les mauvais clients peuvent être gardés jusqu'à cinq ans.
PatronScan a une procédure d'appel, mais c'est à l'entreprise d'accorder ou de refuser ces appels.
Uber et AirBnB
Grâce à l'économie de partage, les possibilités de voyage se sont étendues bien au-delà des taxis et des hôtels. Uber et Airbnb sont des leaders dans le transport et l'hébergement des voyageurs. Mais il existe de nombreuses entreprises de covoiturage et d'hébergement d'égal à égal qui offrent des services similaires.
Airbnb, un important fournisseur d'hébergement et d'activités touristiques, a été contraint en mars dernier d'afficher plus de 6 millions d'inscriptions dans son système. C'est pourquoi une interdiction d'Airbnb peut limiter les options de voyage.
Airbnb peut désactiver votre compte à vie pour la raison de son choix et se réserve le droit de ne pas vous en dévoiler la raison. Le message en conserve de l'entreprise comporte l'affirmation que "Cette décision est irréversible et affectera tous les comptes dupliqués ou futurs. Veuillez comprendre que nous ne sommes pas obligés de fournir une explication pour les mesures prises à l'encontre de votre compte." L'interdiction peut être basée sur un élément que l'hôte communique Airbnb en privé de quelque chose qu'il croit que vous avez fait en restant chez lui. Les concurrents d'Airbnb ont des politiques similaires.
Il est maintenant facile de se faire bannir par Uber, aussi. Chaque fois que vous sortez de la voiture après un tour Uber, l'application vous invite à noter le conducteur. Ce que beaucoup de passagers ne savent pas, c'est que le conducteur reçoit maintenant aussi une invitation à vous noter. Dans le cadre d'une nouvelle politique annoncée en mai : Si votre note moyenne est "nettement inférieure à la moyenne", Uber vous bannira du service.
Whatsapp
Vous pouvez aussi être banni des applications de communication. Par exemple, vous pouvez être banni sur WhatsApp si trop d'autres utilisateurs vous bloquent. Vous pouvez également être banni pour envoi de spam, menaces, tentatives de piratage ou d'ingénierie inversée de l'application WhatsApp, ou pour utilisation du service avec une application non autorisée.
WhatsApp est insignifiant aux États-Unis. Mais dans une grande partie du monde, c'est la principale forme de communication électronique. Ne pas être autorisé à utiliser WhatsApp dans certains pays est aussi punissant que de ne pas être autorisé à utiliser le système téléphonique en Amérique.
Qu'est-ce qu'il y a de mal concernant le crédit social, de toute façon ?
Personne n'aime les comportements antisociaux, violents, grossiers, malsains, imprudents, égoïstes ou les mauvais payeurs. Qu'y a-t-il de mal à utiliser les nouvelles technologies pour encourager tout le monde à se comporter ?
L'attribut le plus troublant d'un système de crédit social n'est pas qu'il est envahissant, mais qu'il est extralégal. Les crimes sont punis en dehors du système judiciaire, ce qui signifie aucune présomption d'innocence, aucune représentation légale, aucun juge, aucun jury et souvent aucun appel. En d'autres termes, il s'agit d'un système juridique alternatif où l'accusé a moins de droits.
Les systèmes de crédit social sont un moyen de contourner les complications agaçantes du système juridique. Contrairement à la politique du gouvernement chinois, le système de crédit social qui émerge aux États-Unis est appliqué par des entreprises privées. Si le public s'oppose à la façon dont ces lois sont appliquées, il ne peut pas élire de nouveaux législateurs.
Un nombre croissant de " privilèges " sociétaux liés au transport, à l'hébergement, aux communications et aux tarifs que nous payons pour les services (comme l'assurance) sont soit contrôlés par des entreprises technologiques, soit affectés par la façon dont nous utilisons les services technologiques. Et les règles de la Silicon Valley pour pouvoir utiliser leurs services sont de plus en plus strictes.
Si les tendances actuelles se maintiennent, il est possible qu'à l'avenir une majorité de délits et même certains crimes seront punis non pas par Washington, D.C., mais par la Silicon Valley. C'est une pente glissante qui nous éloigne de la démocratie et nous rapproche de la corporatocratie.
En d'autres termes, à l'avenir, l'application de la loi pourrait être déterminée moins par la Constitution et le code juridique que par les accords de licence d'utilisateur final.
sauce : Mike Elgan
https://www.fastcompany.com/90394048/uh-oh-silicon-valley-is-building-a-chinese-style-social-credit-system