OpenAI发表《An Alien Mind》，呼吁警惕递归自我改进

OpenAI于2026年9月6日发表《An Alien Mind》，这是首席科学家Jakub Pachocki撰写的安全/研究文章。文章依据内部结果认为，当前能力提升的速度可能延续到递归自我改进（RSI），未来的系统将越来越多地主导自身的开发。Pachocki写道，这需要极度谨慎，OpenAI将继续推进对齐、监测和防御系统，并可能在必要时单方面暂缓进一步扩展规模，同时仍需要更广泛的干预措施；他还转述了OpenAI的说法，即GPT-6 Astra的对齐程度明显优于GPT-5.6 Sol，并强调随着模型能力增强，还需要更多的对齐进展。他认为没有任何实验室已把对齐和监测解决到足以继续以最高速度扩展很久的程度，并呼吁在形成共同的安全标准和国际协调之前自愿放缓。

来源: OpenAI

由 AI 辅助翻译。