OpenAI、エッセイ「An Alien Mind」で再帰的自己改善への警戒を訴える

OpenAIは2026年9月6日、チーフサイエンティストのヤクブ・パホツキ氏による安全性・研究エッセイ「An Alien Mind」を公開した。社内の結果に基づき、現在の能力向上のペースが再帰的自己改善（RSI）まで続きうるとし、将来のシステムが自らの開発をますます主導するようになると論じている。パホツキ氏は、これには極度の慎重さが必要であり、OpenAIはアライメントと監視、防御システムの追求を続け、必要なら単独でさらなるスケーリングを見送る可能性があり、より広範な介入もなお必要だと書く。また、GPT-6 AstraはGPT-5.6 Solより大幅にアライメントが良いというOpenAIの主張を示し、モデルが高性能になるほどアライメントの大幅な進歩が必要だと強調している。同氏は、最大速度でスケーリングを続けられるほどアライメントと監視を解決した研究所はなく、それは長くは続かないと考えており、共通の安全基準と国際的な調整ができるまでの自主的な減速を呼びかけている。

出典: OpenAI

AIの支援により翻訳しました。