A l'heure du tout connecté, la somme des données relative à un individu est conséquente. Cette somme correspond aux données qu'il produit et à celles qui sont produites par un tiers (entreprises et gouvernement). Les sources de cette production sont multiples : il y a les réseaux sociaux, les achats qui s'effectuent en ligne, les applications des smartphones, le paiement en ligne de ses factures, les données bancaires, des impôts, des employeurs, des assurances ou encore des tribunaux.
Alors imaginez si ces données étaient regroupées et formaient une note afin de déterminer si vous êtes un citoyen obéissant et de confiance. Votre note déterminerait votre capacité à rembourser un prêt, à bénéficier de prestations sociales, à obtenir une location, à savoir si vous pouvez être embauché dans la fonction publique et ou dans telle ou telle entreprise, ect... Imaginez une société dans laquelle ce sont les algorithmes qui déterminent si vous êtes un citoyen modèle et docile, une société dans laquelle ce sont les individus qui se surveillent mutuellement et où toutes les actions visent à s'attirer les bonnes grâces des autres et celles des autorités.
Une dystopie ? Pas vraiment, des applications de notations de réputation font leur apparition comme Credo ou Peeple et en Chine le gouvernement développe un système de crédit social (SCS) visant a évaluer la fiabilité des citoyens et des personnes morales (médecins, enseignants, entreprises). L'objectif est d'améliorer la confiance et la sincérité dans un pays où les scandales politiques et économiques sont nombreux (contrefaçon, contrats non respectés, aliments empoisonnés, faux médicaments, corruption, pollution).
Pour le moment réservé aux volontaires, ce système, développé par plusieurs entreprises (finance, assurance, commerce en ligne et messagerie) deviendra obligatoire en 2020. Mais certains spécialistes s'inquiètent et pensent que sous couvert de bonnes intentions le gouvernement chinois cherche surtout à surveiller ces citoyens.
Alibaba, un géant de la big data qui participe au développement, explique que 5 facteurs rentrent en compte dans l'algorithme :
- L'historique de crédit (payez-vous à temps vos factures ?).
- La capacité d'un individu à remplir ses obligations contractuelles.
- Les caractéristiques personnelles (numéro de téléphone, adresse).
- Le comportement et les préférences d'une personne (les achats).
- Les relations interpersonnelles (choix d'amis et interactions).
Le directeur de Sésame Crédit explique que la note peut baisser si vous êtes inactif : par exemple si vous passez toute la journée à jouer aux jeux vidéos mais qu'elle peut monter si vous postez des messages positifs sur le gouvernement. L'idée est de favoriser certains comportements quitte à piétiner le libre arbitre d'un individu. Et ceux qui briseront cette confiance seront surveillés et sanctionnés. Si vous avez une mauvaise note, vous ne pourrez pas emprunter de l'argent, inscrire ses enfants dans une bonne école, devenir actionnaire, louer une voiture, trouver en emploi, voyager librement, l'accès à certains lieux sera restreint (boites de nuit, restaurants), ect...
Ce système a déjà empêché plus de 6 millions de citoyens Chinois de prendre l'avion suite à des méfaits sociaux.
Sauce