 |
| Image générée avec Stable Diffusion |
L'intelligence artificielle (IA) a le potentiel de changer la nature même de notre société. Et si les outils d'IA dont nous disposons actuellement sont une indication de ce qui nous attend, nous avons de quoi nous réjouir.
Nous devons également nous méfier de beaucoup de choses. À savoir, la militarisation de l'IA par les cybercriminels et d'autres acteurs malveillants. Il ne s'agit pas d'une préoccupation théorique, et même les générateurs d'images d'IA ne sont pas à l'abri des abus.
Qu'est-ce qu'une IA génératrice d'images ? Comment fonctionnent-elles ?
Si vous avez déjà utilisé un générateur d'images IA, vous avez une assez bonne idée de ce dont il s'agit. Même si vous n'en avez jamais utilisé, vous avez très probablement rencontré des images générées par l'IA sur les réseaux sociaux et ailleurs. Ces logiciels très populaires aujourd'hui fonctionnent sur un principe très simple : l'utilisateur tape le texte et l'IA génère une image à partir de ce texte.
Ce qui se passe sous le capot est beaucoup plus complexe. L'IA s'est beaucoup améliorée ces dernières années et la plupart des générateurs de texte-image sont aujourd'hui des modèles dits de diffusion. Cela signifie qu'ils sont "entraînés" sur une longue période de temps sur un très grand nombre de textes et d'images, ce qui rend leurs créations si impressionnantes et étonnamment réalistes.
Ce qui rend ces outils d'IA encore plus impressionnants, c'est le fait qu'ils ne se contentent pas de modifier des images existantes ou de combiner des milliers d'images en une seule, mais qu'ils créent également de nouvelles images originales à partir de zéro. Plus les gens utilisent ces générateurs texte-image, plus ils reçoivent d'informations et plus leurs créations s'améliorent.
Parmi les générateurs d'images IA les plus connus figurent Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor et Craiyon. De nouveaux générateurs apparaissent à droite et à gauche, et les géants de la technologie - y compris Google - publient les leurs, de sorte que nous ne pouvons que spéculer sur ce que l'avenir nous réserve.
4 façons dont des personnes malveillantes exploitent les IA génératrices d'images
Comme presque toutes les technologies, les IA génératrices d'images peuvent être utilisées à mauvais escient par des personnes malveillantes. En fait, elles sont déjà utilisées à toutes sortes de fins néfastes. Mais quel type d'escroquerie et de cyberattaque un criminel peut-il mener à bien avec l'aide de générateurs d'images IA ?
1. L'ingénierie sociale
Une chose évidente que des personnes mal intentionnées pourraient faire avec des générateurs d'images IA est de se livrer à de l'ingénierie sociale, par exemple en créant de faux profils sur les réseaux sociaux. Certains de ces programmes peuvent créer des images incroyablement réalistes qui ressemblent à des photos authentiques de personnes réelles, et un escroc pourrait utiliser ces faux profils de réseaux sociaux pour faire du catfishing*.
Contrairement aux photos de personnes réelles, celles générées par l'IA ne peuvent pas être découvertes par une recherche d'image inversée, et le cybercriminel n'a pas besoin de travailler avec un nombre limité de photos pour tromper sa cible - grâce à l'IA, il peut en générer autant qu'il le souhaite, construisant ainsi une identité en ligne convaincante à partir de rien.
Mais il existe des exemples réels de personnes malveillantes utilisant des générateurs d'images d'IA pour escroquer les gens. En avril 2022, Ben Dickinson, blogueur de TechTalks, a reçu un courriel d'un cabinet d'avocats lui reprochant d'avoir utilisé une image sans autorisation. Les avocats ont envoyé un avis de violation du droit d'auteur DMCA, indiquant à Dickinson qu'il devait créer un lien vers un de leurs clients ou retirer l'image.
Dickinson a cherché le cabinet d'avocats sur Google et a trouvé le site officiel. Tout semblait parfaitement légitime ; le site contenait même des photos de 18 avocats, avec leurs biographies et leurs références. Mais rien de tout cela n'était vrai. Les photos étaient toutes générées par une IA, et les prétendus avis de violation du droit d'auteur étaient envoyés par quelqu'un qui cherchait à extorquer des liens de renvoi à des blogueurs peu méfiants, dans le cadre d'une stratégie SEO (optimisation des moteurs de recherche) contraire à l'éthique et au code pénal.
* Le catfishing est une technique de fraude en ligne où une personne crée une identité fictive ou usurpe l'identité d'une autre personne afin d'attirer et de tromper des individus en ligne.
2. Les escroqueries à la charité
Lorsque des tremblements de terre dévastateurs ont frappé la Turquie et la Syrie en février 2023, des millions de personnes dans le monde ont exprimé leur solidarité avec les victimes en faisant don de vêtements, de nourriture et d'argent.
Selon un rapport de la BBC, des escrocs en ont profité, utilisant l'IA pour créer des images réalistes et solliciter des dons. Un escroc a montré des images de ruines générées par une IA sur TikTok Live, demandant à ses spectateurs de faire des dons. Un autre a posté une image générée par une lA d'un pompier grec sauvant un enfant blessé dans des ruines, et a demandé à ses fans des dons en bitcoins.
On ne peut qu'imaginer le type d'escroqueries caritatives que les criminels organiseront à l'avenir avec l'aide de l'IA, mais on peut supposer qu'ils ne feront que s'améliorer dans l'utilisation abusive de ces outils.
3. Deepfakes et désinformation
Les gouvernements, les groupes d'activistes et les groupes de réflexion ont depuis longtemps mis en garde contre les dangers des "deepfakes". Les générateurs d'images d'IA ajoutent une autre composante à ce problème, étant donné le réalisme de leurs créations. En fait, au Royaume-Uni, il existe même une émission comique intitulée Deep Fake Neighbour Wars, qui trouve de l'humour dans les couples de célébrités improbables. Qu'est-ce qui empêcherait un spécialiste de la désinformation de créer une fausse image et de la promouvoir sur les réseaux sociaux avec l'aide de bots ?
Cela peut avoir des conséquences dans la vie réelle, comme cela a failli être le cas en mars 2022, lorsqu'une fausse vidéo montrant le président ukrainien Volodymyr Zelensky en train de dire aux Ukrainiens de se rendre a circulé en ligne, selon NPR. Mais ce n'est qu'un exemple, car les possibilités sont presque infinies, et il existe d'innombrables façons pour une personne malveillant de porter atteinte à la réputation de quelqu'un, de promouvoir un faux récit ou de diffuser des fake news avec l'aide d'une IA.
4. Fraude publicitaire
Les chercheurs de TrendMicro ont découvert en 2022 que des escrocs utilisaient du contenu généré par une IA pour créer des publicités trompeuses et promouvoir des produits douteux. Ils créaient des images qui suggéraient que des célébrités populaires utilisaient certains produits, et lançaient des campagnes publicitaires basées sur ces images.
Par exemple, une publicité pour une "opportunité de conseil financier" mettait en scène le milliardaire Elon Musk, fondateur et PDG de Tesla. Bien sûr, Musk n'a jamais approuvé le produit en question, mais les images générées par l'IA le laissaient croire, ce qui a probablement incité des spectateurs peu méfiants à cliquer sur les publicités.
L'IA et la cybersécurité : Une question complexe à laquelle nous devons nous attaquer
À l'avenir, les régulateurs gouvernementaux et les experts en cybersécurité devront probablement travailler ensemble pour faire face à la menace émergente de la cybercriminalité alimentée par l'IA. Mais comment réglementer l'IA et protéger les citoyens ordinaires, sans étouffer l'innovation et restreindre les libertés numériques ? Cette question va se poser dans les années à venir.
En attendant de trouver une réponse, faites ce que vous pouvez pour vous protéger : vérifiez soigneusement toutes les informations que vous voyez en ligne, évitez les sites web douteux, utilisez des logiciels sûrs, maintenez vos appareils à jour et apprenez à utiliser l'intelligence artificielle à votre avantage.
source :
https://www.makeuseof.com/ai-image-generators-cybersecurity/