비즈니스
AI 안전에 20억 달러… Accenture가 Anthropic 내부에 상주
Anthropic과 Accenture는 최첨단 모델의 평가와 안전을 위해 각각 최소 10억 달러, 5년간 합계 약 20억 달러를 투입하기로 했으며, Accenture 계열사 Faculty가 Anthropic의 첫 '상주 평가자'가 된다. Reuters와 TechCrunch에 따르면 Faculty는 모델을 평가하고 레드팀 테스트를 수행하며 정렬 평가를 진행하고 안전장치를 시험하는데, 안전 약속을 검증하고 사고를 보고할 수 있도록 직원에 준하는 접근 권한을 갖는다. Anthropic은 METR을 비롯한 비영리 단체와의 협의를 포함해 더 많은 평가자가 합류할 것이라고 밝혔다.
AI의 도움으로 번역되었습니다.