Anthropic은 지난주 프런티어 AI가 재귀적 자기 개선으로 갈 수 있다고 경고했다. 그리고 이번 주, 가장 강한 공개 모델인 Claude Fable 5를 일반 사용자에게 열었다.
같은 기반 모델, 다른 안전 껍질
Fable 5는 제한된 Mythos 5 단계와 같은 기반을 공유한다. 다만 공개 버전에는 사이버, 생물, 화학, 모델 증류 위험을 감지하는 분류기가 붙어 있다. 해당 영역의 질의는 더 오래된 Opus 4.8로 라우팅된다.
Anthropic은 대화의 95% 이상이 Fable 5에서 그대로 처리된다고 설명한다. 코딩, 금융, 시각, 장기 작업 성능을 제공하되, 위험도가 높은 능력은 더 보수적 경계 뒤에 두려는 설계다.
민감한 지점은 시점이다. Anthropic은 업계에 속도 조절을 말하면서도 가장 강한 모델을 시장에 내놓고 있다. 안전장치가 버티는지는 공개 사용이 누적된 뒤 드러날 것이다.
출처: Claude Fable 5 and Claude Mythos 5(Anthropic 공식); Anthropic released Claude Fable 5 days after warning AI is getting too dangerous(TechCrunch); CocoLoop; Anthropic releases Mythos-like AI model to the public, Claude Fable 5(CNBC)