Des cybercriminels étatiques utilisent ChatGPT

Microsoft et OpenAI ont publié, le 14 février 2024, un rapport révélant que des cybercriminels étatiques chinois, russes, nord-coréens et iraniens ont utilisé ChatGPT à des fins malveillantes. Deux usages dominent : le renseignement et la génération d’outils de phishing.

Ainsi, en Russie, le célèbre groupe Fancy Bear, lié au renseignement russe, aurait demandé à ChatGPT d’effectuer des recherches sur « les protocoles de communication par satellite, les technologies d’imagerie radar et les paramètres techniques spécifiques ». En Chine, le groupe étatique Charcoal Typhoon a utilisé le LLM pour enquêter sur des entreprises et des outils de cybersécurité.

Côté hameçonnage, les Nord-coréens d’Emerald Sleet, les Iraniens de Crimson Sandstorm et les Chinois de Salmon Typhoon se sont servi de ChatGPT pour générer de faux documents et courriers. Crimson Sandstorm, en particulier, a créé des mails de spearfishing « prétendant provenir d’une agence de développement international et d’une autre tentant d’attirer de célèbres féministes vers un faux site web sur le féminisme créé par un attaquant ».

« Les acteurs malveillants essaieront parfois d’abuser de nos outils pour nuire à autrui, y compris dans le cadre d’opérations cyber », admettent Microsoft et OpenAI dans leur rapport. Les deux partenaires ont fermé les comptes concernés, et affirment avoir pris des mesures pour repérer à l’avenir des cybercriminels étatiques.