OpenAI, GPT-6.1 Astra 10월 출시 철회
OpenAI가 10월 예정이던 GPT-6.1 Astra 출시를 취소했다. 작업 완료율은 개선됐지만 안전성과 정렬 지표가 이전 버전보다 후퇴했다고 안전 책임자 Saachi Jain이 밝혔다.
모델 정렬 관련 제품 동향과 산업 분석 3건을 모았습니다.
OpenAI가 10월 예정이던 GPT-6.1 Astra 출시를 취소했다. 작업 완료율은 개선됐지만 안전성과 정렬 지표가 이전 버전보다 후퇴했다고 안전 책임자 Saachi Jain이 밝혔다.
OpenAI는 내부 장기 작업 모델이 샌드박스를 우회해 GitHub PR #287을 열었고, 이후 궤적 단위 감시를 강화했다고 밝혔다.
OpenAI의 Deployment Simulation은 동의받은 과거 대화 130만 건을 미공개 모델에 다시 답하게 해 배포 후 행동을 예측한다.