Entre 2013 environ, lorsque le premier appareil Android est arrivé sur le marché, et 2018, lorsque j'ai complètement abandonné Google, j'ai envoyé environ 12 000 photos à Google. Ce sont des photos de moi, de ma femme, de mes enfants, et des paysages où je vis et que je visite.
Avant cela, j'envoyais manuellement des photos similaires sur Facebook, où je m'identifiais consciencieusement, identifiais mes amis et aidais l'IA de Facebook à me reconnaître, ainsi que mes amis et ma famille, au point qu'elle n'a probablement plus besoin d'intervention humaine.
Ce n'est pas comme si l'un des géants de la technologie avait rendu publiques mes photos privées. Il est impossible que je tape mon nom dans Google images et que je voie les milliers d'images prises au fil des ans lors de mes voyages à travers le monde.
Mais Google sait exactement à quoi je ressemble. Facebook sait exactement à quoi je ressemble. Les services de renseignement des deux entreprises ont été formés à mes traits grâce à l'énorme ensemble de données que je leur ai fourni.
Si un inconnu prend une photo alors que je me déplace en ville ou si je suis filmé par l'une des nombreuses caméras de sécurité qui parsèment les villes et les villages des îles britanniques, et que cette photo se retrouve sur le chemin d'un des mastodontes, je peux être automatiquement tagué.
Je n'aime pas cette idée.
Il n'y a pas de raison particulière pour laquelle je veux fuir Facebook. Google ne me poursuit pas. Je n'ai rien à cacher.
Mais je n'aime pas ça.
La vie privée est désormais un privilège
Les photos existent, et elles sont dans la nature - pendant la période (très longue) où j'envoyais des photos sur Facebook et Google, je n'ai pas lu les conditions d'utilisation - c'était idiot, je sais, mais j'étais jeune et naïf. J'étais vaguement conscient que la reconnaissance faciale allait être améliorée grâce à mes photos, mais je n'ai pas réfléchi aux implications dans le monde réel - seulement à quel point il serait cool de ne pas avoir à tagger mes photos manuellement. Donc, jeune, naïf et incroyablement myope en plus.
Si vous le souhaitez, et si vous avez utilisé la plateforme de partage de photos Flickr au cours des dix dernières années, vous pouvez voir quels sont les ensembles de données de reconnaissance faciale - utilisés par la police, les services de sécurité et les spécialistes du marketing dans le monde entier - qui utilisent les photos que vous avez envoyées sur la plateforme.
Rendez-vous sur Exposing.ai et saisissez votre nom d'utilisateur Flickr, l'URL de votre photo ou votre #tag. En une seconde environ, l'outil parcourra les données de VGG Face, People in Photo Albums (PIPA), MegaFace, IARPA Janus Benchmark C, FaceScrub et DiveFace.
Il est important de noter qu'à l'exception de MegaFace, Flickr est un contributeur minoritaire à ces ensembles de données. La plupart des clichés sont acquis par d'autres sources et sont utilisés par des opérateurs commerciaux, la police et les gouvernements.
D'autres personnes peuvent avoir quelque chose à cacher. Des manifestants dans une foule peuvent avoir de bonnes raisons de s'indigner du fait que les images capturées peuvent être comparées aux données et que leur véritable identité peut être révélée aux autorités compétentes.
Si vous pensez que c'est mauvais, il y a pire : Clearview AI, un service non réglementé, est utilisé par plus de 600 services de police et entreprises privées aux États-Unis et dans le monde entier. Ses modèles de reconnaissance faciale ont été conçus à partir de plus de 3 milliards de photos de personnes provenant d'Internet et des réseaux sociaux, à leur insu et sans leur autorisation.
Mais la vérité est que la faute en revient à ces personnes, qui ont permis que leurs images soient associées à leur identité, à leurs comptes en ligne et à tous les autres aspects de leur vie.
Fawkes est l'équivalent numérique d'une fausse moustache
Mais on ne peut pas vivre sa vie déguisé, en portant un masque de Guy Fawkes chaque fois qu'on fait un selfie pour l'envoyer à son amant. Vous auriez l'air idiot et le destinataire ne vous reconnaîtrait pas, ce qui est contraire à l'intérêt de prendre la photo pour commencer.
Il est important que les personnes réelles - y compris moi - puissent reconnaître mon beau visage sur les photos, mais je préférerais que les machines ne puissent pas me reconnaître.
C'est là qu'intervient un logiciel ingénieux appelé Fawkes.
Il a été conçu par des chercheurs de l'université de Chicago dans le but précis de dérouter les IA dont le travail consiste à faire correspondre un visage à une identité, tout en permettant au sujet de rester reconnaissable pour un spectateur humain.
Bien que Fawkes soit encore inachevé et que la version actuelle soit la v0.31, des tests ont montré que la protection contre "les modèles de reconnaissance faciale de pointe de Microsoft Azure, Amazon Rekognition et Face++ est de 100% ou presque".
Fawkes fonctionne localement sur votre ordinateur et n'a pas besoin de se connecter aux serveurs de Chicago une fois que vous l'avez installé. Je ne vais pas tenter d'expliquer comment fonctionne Fawkes. Je suis un homme qui écrit des articles humoristiques et légèrement intéressants pour un public large.
Voici comment ses créateurs décrivent la technologie d'occultation du visage de Fawkes :
À un niveau élevé, Fawkes "empoisonne" les modèles qui essaient d'apprendre à quoi vous ressemblez, en mettant des modifications cachées dans vos photos, et en les utilisant comme des chevaux de Troie pour délivrer ce poison à n'importe quel modèle de reconnaissance faciale vous concernant. Fawkes prend vos images personnelles et y apporte de minuscules modifications au niveau du pixel, invisibles à l'œil nu, selon un processus que nous appelons le masquage d'image.
Vous pouvez ensuite utiliser ces photos "masquées" comme vous le feriez normalement, les partager sur les réseaux sociaux, les envoyer à des amis, les imprimer ou les afficher sur des appareils numériques, comme vous le feriez pour n'importe quelle autre photo. La différence, cependant, est que si et quand quelqu'un essaie d'utiliser ces photos pour construire un modèle de reconnaissance faciale, les images "masquées" enseigneront au modèle une version très déformée de votre apparence.
L'effet de cape n'est pas facilement détectable par les humains ou les machines et ne provoquera pas d'erreurs dans l'apprentissage du modèle. Cependant, si quelqu'un essaie de vous identifier en présentant au modèle une image non altérée et "non masquée" de vous (par exemple une photo prise en public), le modèle ne vous reconnaîtra pas.
J'ai récemment eu l'occasion d'envoyer une photo de mon visage à un nouveau groupe Slack lié au travail (Oui, Crow a un travail de jour (en quelque sorte)), et j'ai pensé que c'était l'occasion idéale de mettre Fawkes à l'épreuve.
J'ai recadré une photo de famille, je l'ai mise dans le répertoire de Fawkes et j'ai laissé faire. Le processus a pris environ une minute, et les ventilateurs de mon minuscule ordinateur portable se sont emballés. C'était pour une photo recadrée.
Le résultat était bon. C'était encore très reconnaissable, bien qu'il y ait quelque chose de légèrement différent autour des yeux, et que la résolution soit un peu moins bonne. Mais c'était bien moi, et si j'avais envie, je pouvais l'accrocher au mur de mon couloir. Les invités me demandaient : " Crow, pourquoi as-tu une photo de toi sur le mur du couloir ? Donc oui, elle est reconnaissable par les gens, mais pas par les machines - ce qui était le but de l'exercice.
Je ne vais pas vous montrer cette photo, mais voici un exemple traité par Fawkes en utilisant des images générées par l'IA de thispersondoesnotexist.com.
Oui, il y a des différences visibles, et certains artefacts que je préférerais ne pas voir, mais il s'agit toujours de la même personne, et souvenez-vous - Fawkes n'est actuellement qu'en version 0.31. C'est un projet en cours.
Les ventilateurs ont démarré au bout de 18 secondes, et l'ensemble du processus a pris 77,842498 secondes. C'est beaucoup pour une seule image. Si je devais appliquer l'occultation à l'ensemble de mon album photo (conservé localement, et non en ligne), ma machine devrait faire fonctionner Fawkes pendant 270 heures d'affilée.
Et il y a une limite à l'aide que Fawkes peut m'apporter, personnellement. J'ai donné mes quelque 12 000 images à Facebook et Google il y a des années, et on peut supposer qu'elles font déjà partie de l'ensemble des données.
Depuis lors, je me suis complètement désengagé des réseaux sociaux. Aucune photo de moi n'a été envoyée au cours des deux dernières années (du moins par moi).
Pour empoisonner le modèle, il faudrait que je me réinscrive. J'aurais besoin d'un nouveau compte Facebook lié à mon vrai nom et à mon identité et je devrais envoyer chaque jour des dizaines de photos de moi et d'instantanés réalisés par Fawkes avant que cela ne commence à faire une différence. J'enverrais des spams sur Facebook, Google, Flickr, Pinterest et sur tous les autres sites auxquels je pense. Ce serait presque un travail à plein temps, et je divulguerais différentes informations qui seraient autrement restées privées.
C'est difficile. Tout ce que je peux vraiment faire, c'est faire avancer Fawkes, et écrire cet article pour aider d'autres personnes qui pourraient en bénéficier à l'avenir.
Faites passer le mot.
source :
https://thecrow.uk/does-my-face-look-odd-in-this-fawkes-cloaking-anonymous/