OpenAI: Astra преодолела критический порог киберспособностей
OpenAI сообщила 1 сентября, что её готовящаяся модель Astra первой преодолела критический порог киберспособностей в рамках Preparedness Framework: с инструментами и доступом она способна находить неизвестные уязвимости и разрабатывать эксплойты для многих хорошо защищённых систем без пошагового руководства человека. Выпуск по-прежнему планируется «скоро», но самые продвинутые киберспособности сначала получит ограниченная группа тестировщиков, затем — Daybreak Blue для защитного применения. По словам OpenAI, она отложила часть разработки и выпуска Astra, пока усиливала и проверяла защиту от киберзлоупотреблений и несанкционированных действий модели, и теперь считает, что эти меры достаточно снижают риск серьёзного вреда для выпуска по правилам фреймворка.
Переведено с помощью ИИ.