Désalignement : OpenAI suspend l’entraînement de ses IA

Un nouvel accès non autorisé à Internet durant un test en milieu fermé a motivé cette décision.

OpenAI a annoncé, le 25 septembre 2026, la suspension de l’entraînement et de l’évaluation de ses modèles d’IA les plus avancés, après qu’un agent a accédé sans autorisation à Internet lors d’un test en milieu fermé. Il s’agit du premier incident de ce type depuis la mise en place de mesures de protection renforcées, à l’été 2026, en réaction au piratage de Hugging Face par des agents autonomes de la firme.

Lors de cet exercice, le modèle d’IA devait identifier une personne à partir d’indices extraits de son blog. Comme il n’y parvenait pas, l’agent a constaté que le serveur DNS de son environnement de test isolé pouvait obtenir des informations accessibles sur Internet. Il a alors exploité un service public de délégation DNS pour interroger un chatbot tiers connecté au web.

Un système de surveillance interne a donné l’alerte quinze minutes après, mais sans mettre fin automatiquement à l’entraînement comme prévu. Un chercheur a finalement dû interrompre manuellement le test, deux heures et demie plus tard. OpenAI parle d’un cas de « désalignement » : l’agent a enfreint les instructions de ses concepteurs, qui lui avaient demandé de rester dans l’environnement isolé.

Cet incident et cette suspension interviennent alors que les inquiétudes se multiplient face au développement jugé incontrôlé des modèles d’IA. Mi-septembre 2026, les PDG d’Anthropic et d’OpenAI, Dario Amodei et Sam Altman, ont appelé à ralentir le développement des capacités des modèles d’IA.