Selon Meredith Whittaker, experte en protection de la vie privée, la frénésie pour l'IA observée à l'ère de ChatGPT a été provoquée par les géants de la technologie qui collectent les informations personnelles des utilisateurs depuis une dizaine d'années, a-t-elle estimée lors du sommet AI+ d'Axios, mercredi.
Pourquoi c'est important : "Si vous fermez les yeux et que vous imaginez que tous les courriels que vous avez envoyés sont stockés dans une base de données consultable par tout le monde, vous comprendrez pourquoi vous devez vous préoccuper de la protection de vos données", a déclaré Mme. Whittaker, "et pourquoi vous pouvez vous inquiéter de l'ère de l'intelligence artificielle".
Vue d'ensemble : Mme Whittaker, présidente de l'application de messagerie chiffrée Signal et cofondatrice de l'AI Now Institute, a critiqué ouvertement le « modèle commercial de surveillance » favorisé par les grandes plateformes technologiques.
- "Étant donné que la création et le fonctionnement des modèles d'IA coûtent très cher, les entreprises technologiques essaieront inévitablement de les rentabiliser en vendant nos informations personnelles", a déclaré Mme. Whittaker à Ina Fried, d'Axios, lors de l'événement organisé à New York.
- "L'entraînement de ces modèles coûte des centaines de millions de dollars", a déclaré Mme. Whittaker. "Il y a donc une forte pression de la part des entreprises - qui promettent monts et merveilles et n'offrent en réalité que des notifications par email - pour obtenir un certain retour sur investissement dans cette technologie".
A lire entre les lignes : Signal, qui propose un service de messagerie entièrement chiffré, est également une entreprise technologique, mais à but non lucratif.
- "Nous avons examiné le modèle économique impitoyable de la technologie", a déclaré Mme. Whittaker, "et nous avons réalisé que si nous étions une entreprise à but lucratif, il est très probable que nous serions contraints de réduire les garanties de protection de la vie privée dans un secteur où la collecte, la vente et l'utilisation des données personnelles constituent le principal moteur économique".
Mme. Whittaker a qualifié la nouvelle fonction Recall de Microsoft, qui contient une base de données accessible par l'IA sur tout ce que vous faites sur votre ordinateur, de "grave atteinte à la confiance" et de "honeypot pour les pirates informatiques".
- "De nombreuses personnes utilisent l'application Signal sur leur ordinateur de bureau et s'attendent à ce que la confidentialité et le chiffrement soient respectés".
- "Je pense que nous devrions être consternés", a déclaré M. Whittaker. "En particulier pour ceux d'entre nous qui comprennent un peu mieux ce que fait réellement cette technologie, les antécédents de ces entreprises et l'environnement politique dans lequel elles opèrent".
En revanche, Microsoft affirme que Recall permet aux utilisateurs de supprimer des instantanés spécifiques : Microsoft explique que Recall permet aux utilisateurs de supprimer des instantanés spécifiques, de choisir des sites web ou des applications à ne pas inclure dans Recall, et de mettre la fonction en pause pendant un laps de temps donné.
- L'entreprise suggère également que les données de Recall pourraient aider les équipes de sécurité à repérer les infections par des logiciels malveillants.
Oui, mais.. : M. Whittaker estime que l'IA a de la valeur. "Ce n'est pas une technologie inutile", a-t-elle déclaré.
- "Il y a une certaine mentalité de groupe autour de l'IA où les gens ne réfléchissent pas à faire la différence entre l'utilité de nos grands modèles qui reconnaissent des schémas... et les aspects pour lesquels nous ne devons pas les utiliser", a déclaré Mme Whittaker à M. Fried.
source :
https://www.axios.com/2024/06/05/artificial-intelligence-meredith-whittaker-signal-telegram