OpenAI, Astra가 '치명적' 사이버 임계치 넘었다고 밝혀

OpenAI는 9월 1일 출시를 앞둔 모델 Astra가 자사 Preparedness Framework의 사이버 보안 역량 '치명적(Critical)' 임계치를 처음으로 넘었다고 밝혔다. 도구와 접근 권한이 있으면 사람의 단계별 지시 없이도 잘 보호된 여러 시스템에서 알려지지 않은 결함을 찾고 익스플로잇을 개발할 수 있다. 출시는 여전히 '곧'으로 예정돼 있지만, 가장 앞선 사이버 역량은 제한된 테스터 그룹에 먼저 제공된 뒤 방어 용도의 Daybreak Blue로 이어진다. OpenAI는 사이버 오용과 모델의 무단 행동에 대한 보호책을 강화하고 시험하느라 Astra의 개발과 출시 일부를 늦췄으며, 이제 이 안전장치가 프레임워크에 따른 출시에서 중대한 피해 위험을 충분히 줄인다고 본다고 밝혔다.

출처: OpenAI

AI의 도움으로 번역되었습니다.