OpenAI : l’essai « An Alien Mind » appelle à la prudence face à l’auto-amélioration récursive
OpenAI a publié « An Alien Mind » le 6 septembre 2026, un essai Sécurité/Recherche de son directeur scientifique Jakub Pachocki, qui soutient que, d’après les résultats internes, le rythme actuel des progrès de capacités pourrait se poursuivre jusqu’à l’auto-amélioration récursive (RSI), les futurs systèmes pilotant de plus en plus leur propre développement. Pachocki écrit que cela exige une extrême prudence, qu’OpenAI continuera à poursuivre l’alignement, la surveillance et les systèmes défensifs, et pourra suspendre unilatéralement de nouveaux passages à l’échelle si nécessaire, et que des interventions plus larges restent indispensables ; il avance aussi, selon OpenAI, que GPT-6 Astra est nettement mieux aligné que GPT-5.6 Sol, tout en soulignant qu’il faut bien davantage de progrès en alignement à mesure que les modèles gagnent en capacités. Il dit croire qu’aucun laboratoire n’a assez résolu l’alignement et la surveillance pour continuer à passer à l’échelle à vitesse maximale bien longtemps, et appelle à des ralentissements volontaires jusqu’à l’adoption de seuils de sécurité communs et d’une coordination internationale.
Traduit avec l'aide de l'IA.