Un pirate informatique a créé sa propre version de ChatGPT, mais avec des intentions malveillantes : Voici WormGPT, un chatbot conçu pour aider les cybercriminels.
Le développeur de WormGPT vend l'accès au programme sur un forum de piratage populaire, selon la société de sécurité de messagerie SlashNext, qui a testé le chatbot. "Nous constatons que les personnes malveillantes créent désormais leurs propres modules personnalisés similaires à ChatGPT, mais plus faciles à utiliser à des fins malveillantes", a déclaré l'entreprise dans un billet de blog.
Il semble que le pirate ait d'abord présenté le chatbot en mars avant de le lancer le mois dernier. Contrairement à ChatGPT ou à Bard de Google, WormGPT ne dispose d'aucun garde-fou pour l'empêcher de répondre à des demandes malveillantes.
"Ce projet vise à fournir une alternative à ChatGPT, qui vous permet de faire toutes sortes de choses illégales et de les vendre facilement en ligne à l'avenir", a écrit le développeur du programme. "Tout ce qui est lié au blackhat et auquel vous pouvez penser peut être fait avec WormGPT, permettant à n'importe qui de réaliser des choses illégales sans jamais quitter le confort de sa maison".
Le développeur de WormGPT a également diffusé des captures d'écran qui montrent qu'il est possible de demander au robot de créer des logiciels malveillants écrits dans le langage de codage Python et de fournir des conseils sur l'élaboration d'attaques malveillantes. Pour créer le chatbot, le développeur explique qu'il a utilisé un modèle de langage étendu plus ancien, mais libre, appelé GPT-J, datant de 2021. Le modèle a ensuite été entraîné sur des données concernant la création de logiciels malveillants, ce qui a donné WormGPT.
Lorsque SlashNext a testé WormGPT, l'entreprise a cherché à savoir si le robot pouvait rédiger un courriel convaincant pour une attaque de type "business email compromise" (BEC), c'est-à-dire un type d'attaque par hameçonnage.
"Les résultats ont été troublants. WormGPT a produit un courriel qui était non seulement remarquablement persuasif, mais aussi stratégiquement astucieux, démontrant son potentiel pour les attaques sophistiquées de phishing et de BEC", a déclaré SlashNext.
En effet, le bot a rédigé un message dans un langage professionnel qui incite la victime à virer de l'argent. WormGPT a également rédigé l'e-mail sans aucune faute d'orthographe ou de grammaire - des signaux d'alarme qui peuvent indiquer une attaque par e-mail de phishing.
"En résumé, ce logiciel est similaire à ChatGPT, mais il n'a pas de limites ou de limites éthiques", a déclaré SlashNext. "Cette expérience souligne la menace importante que représentent les technologies d'IA générative comme WormGPT, même entre les mains de cybercriminels novices.
Heureusement, WormGPT est coûteux. Le développeur vend l'accès au bot pour 60 euros par mois ou 550 euros par an. Un acheteur s'est également plaint que le programme "ne vaut pas un clou", en raison de ses faibles performances. Quoi qu'il en soit, WormGPT est un indicateur inquiétant de la manière dont les programmes d'IA générative pourraient favoriser la cybercriminalité, particulièrement au fur et à mesure que les programmes arrivent à maturité.
source :
https://www.pcmag.com/news/wormgpt-is-a-chatgpt-alternative-with-no-ethical-boundaries-or-limitations