![[Intelligence artificielle :] quelles sont les 5 grandes cybermenaces pour 2024 ?](https://incyber.org//wp-content/uploads/2024/03/incyber-news-artifical-intelligence-cybersecurite-cybersecurity-2160x735.jpg)
Intelligence artificielle : quelles sont les 5 grandes cybermenaces pour 2024 ?
La récente arnaque au deepfake dont a été victime un employé d’une entreprise chinoise et qui a coûté 26 millions d’euros à la multinationale illustre parfaitement les dérives qu’une utilisation malveillante de l’IA peut engendrer. Après une démocratisation sans précédent, les usages liés aux IA sont en plein essor dans nombre de domaines : santé, industrie, énergie, finance… Une véritable révolution qui s’accompagne aussi de nombreuses craintes et interroge sur les dangers, notamment en matière de cybersécurité. Des cybermenaces, dont certaines sont encore à leurs prémices, mais déjà bien réelles pour d’autres.
Le perfectionnement des deepfakes pour des attaques à grande échelle
Décrite comme l’utilisation la plus dangereuse de l’IA selon de nombreux chercheurs, l’usage des deepfakes a connu une croissance sans précédent en 2023. Selon une étude réalisée par Onfido, les tentatives de fraude par deepfakes auraient ainsi augmenté de 3 000% sur l’année passée, et cette tendance devrait continuer à être observée, dans le cadre d’escroqueries financières notamment. Bien qu’à l’heure actuelle, on ne recense que peu de deepfakes réellement convaincantes, leur création est amenée à devenir de plus en plus simple et de moins en moins coûteuse. La conséquence ? L’arrivée imminente d’attaques à grande échelle.
Les deep scams : entre automatisation et multiplication des escroqueries
N’impliquant pas forcément de manipulation audiovisuelle, le deep scam fait référence à l’ampleur de l’escroquerie, qui, grâce à l’automatisation, permet d’élargir les cibles d’une poignée de victimes… à une infinité. Pour chaque escroquerie manuelle, une version automatisée est possible et applicable à toute sorte d’opérations malveillantes : phishing, escroqueries amoureuses, fraudes immobilières… Ainsi, plutôt que de cibler trois ou quatre victimes en même temps, vous pouvez en cibler 10 000.
Les logiciels malveillants utilisant des LLM
Grâce à nos recherches, nous avons pu identifier trois vers utilisant des LLM (Large Language Model) capables de réécrire leur propre code à chaque réplication. À l’aide d’une API d’OpenAI, des vers peuvent exploiter GPT et générer un code différent pour chaque cible infectée, rendant ainsi leur détection particulièrement complexe. Bien qu’OpenAI dresse une liste noire des comportements malveillants, si le LLM est directement téléchargé sur un serveur personnel, alors le blacklisting devient impossible et les systèmes d’IA générative à source fermée sont alors plus sûrs.
La démocratisation des exploits 0-day
Ce terme, qui fait référence à l’utilisation malveillante d’une faille informatique avant que celle-ci ait pu être identifiée ou corrigée par les développeurs, constitue, lui aussi, une menace de taille pour l’année à venir. Utiliser un assistant IA peut faciliter l’identification des failles dans un code afin de les corriger. Cependant, une personne peut utiliser cette même IA pouridentifier des failles dans ce même code afin de créer un exploit. Bien que peu répandu pour le moment, ce détournement ne devrait pas tarder à se produire.
Les logiciels malveillants automatisés comme ultime menace
Les pirates informatiques pourraient bientôt recourir à des campagnes entièrement automatisées, et les conséquences pourraient se révéler particulièrement désastreuses. Une inquiétude telle, que les logiciels malveillants 100% automatisés sont considérés comme étant la menace la plus importante pour la sécurité en 2024.
Si l’essor de l’IA constitue une opportunité unique pour de nombre de secteurs, l’avènement d’une technologie aussi puissante et révolutionnaire va continuer à attiser la curiosité des pirates. Sur le plus long terme, le développement de l’intelligence artificielle générale (IAG) pourrait être la principale menace pour l’Homme, avec le développement de machines super intelligentes qui constitueraient alors un véritable danger. S’il faut être optimiste sur l’impact positif de l’IA, il faut toutefois garder en tête la possibilité pour l’Homme d’être relégué au rang de deuxième espèce la plus intelligente de la planète.