Des cybercriminels pourraient exploiter les hallucinations de code des IA génératives

Le média Slashdot a mis en évidence, le 21 avril 2025, un article de recherche sur une possible exploitation par des cybercriminels des hallucinations de code informatique des IA génératives. Si l’on demande à un LLM d’écrire un logiciel, il a en effet tendance à créer de toutes pièces des éléments de code renvoyant à des paquets inexistants.

Ces hallucinations ne sont a priori pas dommageables, car ces lignes de code inopérantes sont ignorées et ne perturbent pas le fonctionnement du logiciel. Des pirates informatiques pourraient toutefois en tirer parti, selon une équipe de chercheurs des universités de San Antonio, de l’Oklahoma et de Virginia Tech.

Il suffirait en effet d’injecter un programme malveillant portant le nom du paquet halluciné pour que le logiciel le lance automatiquement. Étant intégré à un code source jugé légitime, ce malware pourrait échapper aux outils de détection des menaces.

L’ampleur du phénomène rend par ailleurs le risque particulièrement prégnant. Sur 576 000 générations de code analysées, les LLM hallucinent 19,7 % des noms de paquets (5,2 % pour les modèles commerciaux et 21,7 % pour les modèles open source). Pire : quand l’équipe a relancé les invites qui avaient généré ces paquets hallucinés, 43 % sont systématiquement réapparus.

« Persistantes, répétitives et crédibles », ces hallucinations sont donc, selon les chercheurs, particulièrement dangereuses.