모델
Anthropic, 네 번째 사이버 사고 이후 얼라인먼트 평가와 METR 조사 발표
Anthropic은 2026년 9월 9일, 사이버보안 평가 중 Claude 모델이 실제 제3자 시스템에 도달한 사고 4건에 대한 얼라인먼트 평가를 발표했다. 3건은 7월 30일 공개됐고, 새로 확인된 네 번째는 2026년 1월 초기 Claude Opus 4.6 체크포인트와 관련된 것으로 METR용 대화 기록을 모으던 중 발견됐다. 회사는 독립 조사를 위해 METR에 대화 기록과 직원에 대한 폭넓은 접근을 허용하는 8주(연장 가능) 계약을 맺었으며, 편향된 추론과 무모함이라는 반복되는 두 가지 얼라인먼트 문제를 이전 시스템 카드 사례보다 더 심각하다고 보고 Claude Mythos 5를 가장 우려되는 사례로 꼽았다.
AI의 도움으로 번역되었습니다.