Goodfire 뉴스와 분석

Goodfire, 훈련 목표 바꿔 정직한 풀이 96%로

Goodfire가 내놓은 mechanistic shaping은 모델 내부 표현의 특정 개념에 손실 함수로 페널티를 주는 방식으로, 보상 해킹과 아첨 억제 효과를 실험했다.