モデル
OpenAI、Astraがサイバー能力の「Critical」しきい値を超えたと発表
OpenAIは9月1日、近く公開予定のモデルAstraが、同社のPreparedness Frameworkにおけるサイバーセキュリティ能力の「Critical」しきい値を初めて超えたと発表した。ツールとアクセスがあれば、人間の段階的な指示なしに、多くの堅牢なシステムで未知の脆弱性を見つけ、エクスプロイトを開発できる。リリースは引き続き「近く」の予定だが、最先端のサイバー能力はまず限られたテスター群に提供され、その後、防御用途のDaybreak Blueに展開される。OpenAIは、サイバー悪用やモデルの無許可の行動に対する保護を強化・検証するためにAstraの開発とリリースの一部を遅らせたとしており、現在はこれらの保護策が、フレームワークに基づくリリースにおいて深刻な被害のリスクを十分に抑えると考えている。
AIの支援により翻訳しました。