Seul(e) pour la Saint-Valentin ? L'IA peut vous aider... enfin, c'est ce que vous diront les nombreuses entreprises qui proposent des chatbots "romantiques". Mais attention, alors que votre histoire d'amour robotique se déroule, il y a un compromis que vous ne réalisez peut-être pas. Selon une nouvelle étude du projet Privacy Not Included de Mozilla, les petites amies et petits amis IA virtuels collectent des informations incroyablement personnelles, et presque toutes vendent ou partagent les données qu'elles collectent.
"Pour être parfaitement clair, les petites amies et petits amis IA ne sont pas vos amis", a déclaré Misha Rykov, chercheur à Mozilla, dans un communiqué de presse. "Bien qu'ils soient présentés comme un moyen d'améliorer votre santé mentale et votre bien-être, leur spécialité est plutôt de créer de la dépendance, de la solitude et de la toxicité, tout en récoltant un maximum de données vous concernant."
Mozilla a examiné 11 chatbots romantiques alimentés par l'IA différents, comprenant des applications populaires comme Replika, Chai, Romantic AI, EVA AI Chat Bot & Soulmate, et CrushOn.AI. Chacune d'elles a reçu le label "Privacy Not Included", les plaçant parmi les pires catégories de produits jamais évalués par Mozilla. Les applications mentionnées dans cet article n'ont pas répondu immédiatement aux demandes de commentaires.
Vous avez sûrement déjà entendu parler de problèmes liés aux données, mais selon Mozilla, les petites amies IA violent votre vie privée de manière "inquiétante et inédite". Par exemple, CrushOn.AI recueille des détails comme des informations sur la santé sexuelle, la prise de médicaments et les soins d’affirmation du genre. 90% des applications peuvent vendre ou partager les données des utilisateurs à des fins de publicité ciblée et autres, et plus de la moitié ne vous permettent pas de supprimer les données qu'elles collectent. La sécurité est également un problème. Seule une application, Genesia AI Friend & Partner, répond aux critères de sécurité minimums de Mozilla.
L'un des résultats les plus frappants est lié aux trackers présents dans ces applications. Ces petits morceaux de code collectent et partagent vos données avec d'autres entreprises à des fins publicitaires et autres. Mozilla a découvert que les applications de petite amie IA utilisaient en moyenne 2 663 trackers par minute. Cependant, ce chiffre a été augmenté par Romantic AI, qui a appelé pas moins de 24 354 trackers en une seule minute d'utilisation !
Le problème de confidentialité est d'autant plus préoccupant que les applications vous encouragent activement à partager des informations beaucoup plus personnelles que ce que vous pourriez entrer dans une application classique. EVA AI Chat Bot & Soulmate incite ses utilisateurs à "partager tous leurs secrets et désirs", et demande spécifiquement des photos et des enregistrements vocaux. Il est important de noter qu'EVA est le seul chatbot qui n'a pas été critiqué pour son utilisation de ces données, même si l'application présentait des problèmes de sécurité.
Au-delà des problèmes de données, les applications font également des affirmations douteuses sur leur utilité. Par exemple, EVA AI Chat Bot & Soulmate se présente comme "un fournisseur de logiciels et de contenus développés pour améliorer votre humeur et votre bien-être". Romantic AI affirme être "là pour préserver votre SANTÉ MENTALE". Cependant, lorsque vous lisez les conditions générales de ces sociétés, elles se distancient de leurs propres affirmations. Les politiques de Romantic AI, par exemple, stipulent que la société n'est "ni un fournisseur de soins de santé ou de services médicaux, ni un prestataire de soins médicaux, de services de santé mentale ou d'autres services professionnels".
source :
https://gizmodo.com/openai-video-generator-sora-is-breathtaking-terrifying-1851261593