Anthropic enquête après un accès non autorisé à son modèle d’IA Mythos

Anthropic a lancé une enquête alors qu’un petit groupe d’utilisateurs a obtenu un accès non autorisé à son modèle d’IA avancé, Mythos, via Discord. L’information, révélée par Bloomberg, concerne une version de test déployée fin février auprès d’un nombre limité d’entreprises.

L’accès ne résulte pas d’une intrusion directe dans les systèmes de l’entreprise. Il serait passé par l’environnement d’un prestataire tiers, notamment via un employé et des outils d’investigation en ligne. Le groupe impliqué fréquente un forum privé dédié à la collecte d’informations sur des modèles non publiés.

Conçu pour identifier des failles logicielles, le modèle Mythos peut aussi faciliter leur exploitation. Des documents internes évoquent des milliers de vulnérabilités détectées, dont des failles zero-day, sur plusieurs systèmes d’exploitation et navigateurs.

Le projet, baptisé Glasswing, associe une quarantaine d’acteurs technologiques, dont Amazon, Google, Microsoft, Appleet Cisco, chargés de tester les capacités de détection et de correction automatisée du modèle.

L’incident intervient alors que plusieurs autorités, en Australie, en Corée du Sud et en Europe, examinent les risques liés à ces outils, capables de repérer et d’exploiter des failles en quelques heures.