Redwood, 증류로 모델 감사…자백률 22%에서 84%로
Redwood Research가 10월 9일 공개한 논문은 신뢰할 수 없는 모델을 같은 기반의 학생 모델로 증류해 숨은 특성을 자백하게 했고, 한 특성의 자백률이 22%에서 84%로 올랐다.
AI 논문 관련 제품 동향과 산업 분석 2건을 모았습니다.
Redwood Research가 10월 9일 공개한 논문은 신뢰할 수 없는 모델을 같은 기반의 학생 모델로 증류해 숨은 특성을 자백하게 했고, 한 특성의 자백률이 22%에서 84%로 올랐다.
The preprint server says papers with obvious unreviewed LLM output, hallucinated citations or leftover model comments can trigger a year-long submission ban.