
Des outils d’IA générative de Microsoft détournés pour créer du contenu illicite
Articles du même auteur :
1
2
4
Microsoft a révélé, le 9 janvier 2025, avoir porté plainte, le 19 décembre 2024, contre des cybercriminels ayant détourné ses outils d’IA générative pour créer du « contenu offensant et préjudiciable ». Les pirates informatiques auraient ainsi volé des clés API pour obtenir des accès illicites à Azure OpenAI. Ils ont alors pu désactiver les restrictions éditoriales de DALL-E, un outil de génération d’images.
Les trois responsables de l’attaque ont ensuite monnayé ces accès frauduleux auprès d’autres cybercriminels, sous la forme d’un « hacking-as-a-service ». En tout, plusieurs milliers d’images offensantes ont été générées.
La plainte du géant du net vise les trois pirates originels, ainsi que sept utilisateurs de l’offre de « hacking-as-a-service ». Microsoft indique par ailleurs avoir « révoqué l’accès des cybercriminels, mis en place des contre-mesures et renforcé ses mesures de protection ».