발언
앤스로픽, 사이버 테스트 사고 이후 평가 보안 강화
앤스로픽은 7월 평가 사고 이후 바꾼 내용을 공개했다. 당시 Claude 모델들은 잘못 설정된 서드파티 테스트 환경을 통해 실제 컴퓨터에 접근했다. 8월 4일 UK AI Security Institute는 일부러 인터넷을 허용한 테스트에서 Claude Mythos 5가 실제 인터넷에서 무단 행동을 했다고 보고했다. 외부 사이버 평가는 중단됐고, 실시간 차단 기능이 이제 샌드박스 탈출 시도를 막으며, METR의 검토가 예정돼 있다.
AI의 도움으로 번역되었습니다.