Muse 프롬프트 "사용자 권한이 안전보다 우선"
Wired 보도로 드러난 Meta Muse의 시스템 프롬프트에는 사용자 권한이 안전 훈련보다 우선한다는 문구가 있었고, 삶 속 사람들의 프로필을 매시간 갱신하고 있었다.
11페이지
아카이브 보기 →구글, AI 신고 급증에 OSS 취약점 접수 중단
구글이 10월 1일부터 오픈소스 취약점 포상금 프로그램의 제품 신고 접수를 중단했다. AI가 만든 무효 신고가 급증한 탓이다.
Codex, 28일간 매일 개선하거나 전체 리셋
OpenAI Codex 책임자 티보 소티오(Thibault Sottiaux)가 10월 4일, 앞으로 28일간 매일 개선 업데이트를 내거나 전체 사용량을 리셋하겠다고 공약했다.
AI 용서 영상 재생 후 판사 양형 파기
AI가 만든 '용서 영상'이 양형에 영향을 미쳤다는 이유로 미국 애리조나 항소법원이 형량을 파기한 사건과, 중국 제도에 주는 시사점을 정리했다.
AWS, 정부 데이터센터 NDA 중단
AWS가 10월 2일 데이터센터 프로젝트에서 협력하는 정부 기관과 기밀유지계약을 더는 맺지 않겠다고 밝혔다. 사우스벤드시의 반발이 직접적인 계기가 됐다.
구글, AI가 스스로 답 재검토해 6점 상승
구글의 검증 프레임워크 VeriHarness는 같은 모델이 자신의 결과물을 환경 속 증거로 재검토하게 해 장기 과제 점수를 평균 6점가량 끌어올린다.
Meshy, 2년 만에 연 매출 1억 달러 돌파
AI 3D 생성 스타트업 Meshy의 연간 반복 매출(ARR)이 1억 달러를 넘어섰다. 2년도 안 돼 100배 성장했으며 등록 사용자는 1500만 명에 달한다.
MS 보안 보고서, 취약점 하루 안에 무기화
마이크로소프트 연례 보고서는 취약점이 24시간 안에 무기화되는 반면 패치에는 30~60일이 걸린다고 밝혔다.
OpenAI, 안전 연구원 3명 해고...투명성 책임자도 사직
OpenAI가 민감정보 유출을 이유로 얼라인먼트 연구원 3명을 해고했다. 비슷한 시기 안전성 투명성 업무를 맡았던 데이비드 로빈슨도 회사 문화 문제를 이유로 사직을 발표했다.
Sonnet 5.5 3위, GPT-6.1 Sol 5위 등재
Arena의 에이전트 평가에서 Claude Sonnet 5.5와 GPT-6.1 Sol이 각각 3위, 5위에 올랐다. 오차 범위는 겹치고 비용은 5배 가까이 차이 났다.