OpenAI: эссе «An Alien Mind» призывает к осторожности перед рекурсивным самоулучшением
OpenAI 6 сентября 2026 года опубликовала «An Alien Mind» — эссе по безопасности и исследованиям главного учёного Якуба Пахоцкого. Он утверждает, что, судя по внутренним результатам, нынешние темпы роста возможностей могут сохраниться вплоть до рекурсивного самоулучшения (RSI), когда будущие системы всё больше будут сами двигать собственную разработку. Пахоцкий пишет, что это требует предельной осторожности, что OpenAI продолжит работать над выравниванием, мониторингом и защитными системами и при необходимости может в одностороннем порядке отказаться от дальнейшего масштабирования, а также что нужны более широкие меры; он также заявляет от лица OpenAI, что GPT-6 Astra заметно лучше согласован, чем GPT-5.6 Sol, подчёркивая, что по мере роста возможностей моделей требуется гораздо больше прогресса в выравнивании. По его мнению, ни одна лаборатория не решила выравнивание и мониторинг настолько, чтобы ещё долго масштабироваться на максимальной скорости, и он призывает к добровольному замедлению до появления общих стандартов безопасности и международной координации.
Переведено с помощью ИИ.