Quand ChatGPT mène des arnaqueurs en bateau
Netcraft, un spécialiste des technologies d’Internet et des systèmes anti-fraude, a publié, le 13 juin 2024, un rapport sur son utilisation de ChatGPT pour confondre des arnaqueurs. Dès le lancement du LLM, en 2022, les chercheurs ont développé un programme pour dialoguer en ligne avec des escrocs en utilisant les capacités de ChatGPT. Netcraft l’a mis régulièrement à jour pour améliorer son efficacité.
Les chercheurs ont ensuite créé de nombreuses adresses e-mail attachées à ce chatbot, et ont attendu que des réseaux d’arnaque les sollicitent. La plupart proposait des achats de crypto-monnaies ou de cartes cadeaux, ou de récupérer de fortes sommes en échange d’un versement modique. Le chatbot soutenu par ChatGPT discutait alors avec les escrocs, jusqu’à ce que ces derniers lui transmettent un numéro de compte bancaire ou de portefeuille de crypto-monnaies.
Il fallait en moyenne 32 messages des cybercriminels et 15 réponses du programme de Netcraft pour obtenir ces informations. Au total, le chatbot a permis de récupérer des numéros de comptes dans plus de 600 institutions financières réparties dans 73 pays différents, la majorité aux États-Unis ou au Royaume-Uni. Netcraft a transmis ces données aux autorités compétentes.