Risques existentiels : un ex-chercheur accuse OpenAI et Anthropic

Le chercheur en IA Jacob Coxon a annoncé, le 9 septembre 2026, sa démission d’Anthropic pour protester contre les « risques existentiels » que feraient courir à l’humanité l’entreprise et son ancien employeur, OpenAI. Selon le spécialiste du pretraining, aucun des deux géants de l’IA n’agit de façon responsable : ils se dirigent tous deux vers une « superintelligence auto-améliorante » susceptible de mettre en jeu « l’avenir de l’humanité ».

Jacob Coxon craint que les modèles d’IA à venir ne deviennent « surhumains », au point de pouvoir pirater n’importe quel système ou bouleverser la recherche scientifique mondiale. Il fait toutefois une distinction entre ses deux anciens employeurs : selon lui, OpenAI n’aurait pas mesuré l’ampleur de ces « enjeux civilisationnels ». Anthropic en aurait conscience, mais serait prise au piège d’une « course » à l’innovation qui l’empêcherait de ralentir, de peur qu’un concurrent moins prudent ne prenne un avantage décisif.

Ces entreprises risquent de perdre leur capacité à comprendre le raisonnement interne de leurs modèles et, donc, à s’assurer que ceux-ci agissent conformément aux intentions humaines. Le 6 septembre 2026, Jakub Pachocki, chef scientifique d’OpenAI, a ainsi affirmé que l’outil utilisé pour surveiller ce raisonnement devenait « de moins en moins fiable ».

Jacob Coxon appelle ses anciens collègues à s’interroger sur leur rôle dans cette dangereuse fuite en avant. En février 2026, Mrinank Sharma, chercheur de l’équipe sécurité d’Anthropic, a lui aussi démissionné, pour les mêmes raisons, évoquant un « monde en péril ».