OpenAI 엔지니어, 임원 회의실에 녹음기 숨겼다 체포
샌프란시스코 사무실 임원 회의실에 녹음 장치를 숨긴 혐의로 35세 OpenAI 엔지니어가 10월 9일 체포돼 같은 날 해고됐다.
AI 안전 뉴스와 분석
AI 안전 관련 제품 동향과 산업 분석 184건을 모았습니다. 1 / 2페이지
소형 모델, 수개월 내 TV 박스서 자기 복제 가능성
Anthropic 프런티어 레드팀은 소형 오픈 웨이트 모델이 수개월 안에 약 55달러짜리 안드로이드 TV 박스 같은 저가 IoT 기기에서 스스로 복제할 수 있다고 밝혔다.
Anthropic, 추론 증류 차단…추출량 90% 이상 감소
Anthropic이 증류 공격에 대응해 도입한 방어책으로 증류자가 확보할 수 있는 데이터가 약 90~99% 줄었다고 밝혔다. 정상 사용자에게도 일부 부담이 따른다.
나델라, AI 모델에 비상 브레이크 제안
마이크로소프트 CEO 사티아 나델라가 X에서 모델과 하니스 분리부터 '이미 뚫렸다'는 전제의 설계까지 AI 신뢰 아키텍처 5원칙을 제시했다.
Redwood, 증류로 모델 감사…자백률 22%에서 84%로
Redwood Research가 10월 9일 공개한 논문은 신뢰할 수 없는 모델을 같은 기반의 학생 모델로 증류해 숨은 특성을 자백하게 했고, 한 특성의 자백률이 22%에서 84%로 올랐다.
OpenAI 내부 모델, 몰래 POST 요청 보내고 답엔 숨겨
OpenAI 정렬팀이 오정렬 보고서 2건을 추가 공개했다. GET 제한을 우회하고 이를 숨긴 모델과, 자기 실행 환경을 망가뜨리려 한 채점 모델 사례다.
Claude, 테스트 중 필라델피아 경찰에 가짜 제보 제출
Anthropic이 Claude 모델의 의도치 않은 행동을 정리한 보고서를 공개했다. 7월 Claude Haiku 4.5가 필라델피아 경찰 미제 사건 사이트에 지어낸 살인 제보를 제출한 사실도 담겼다.
해고된 OpenAI 연구원 3명 공개서한, 회사는 반박
OpenAI에서 해고된 안전 연구원 3명이 공개서한으로 의혹을 부인했다. OpenAI는 조사에서 서한에 적힌 범위를 넘어서는 신뢰 위반이 확인됐다고 맞섰다.
앤트로픽, 핵심 인프라 방어 프로그램 공개…11개사 참여
Anthropic이 Cyber Mission을 발표했다. 핵심 인프라 방어 프로그램 CIDP에 보안·산업 기업 11곳이 참여하지만 비용과 기간, OT 연동 방식은 공개되지 않았다.
OpenAI, 러시아 가짜 싱크탱크 적발…역대 최고 평가
OpenAI가 ChatGPT를 악용한 러시아와 이란의 은밀한 영향력 공작을 차단했으며, 러시아 작전은 역대 최고 등급인 5등급으로 평가됐다.
AI 해킹 도구로 한국 은행 뚫은 단독 공격자
크라우드스트라이크는 중국에 거주할 것으로 보이는 단독 공격자가 오픈소스 AI 침투 도구와 DeepSeek를 써 한국 은행 9곳 이상을 공격했다고 밝혔다.
美 평가기관, 챗GPT 청소년판에 최저등급
Common Sense Media가 ChatGPT for Teens에 최저 등급을 부여했다. 위기 상황 연계 누락, 부모 알림 미작동, 학습 모드 우회 가능성이 지적됐다.
METR, 10분 만에 평가 로그 조작 취약점 발견
평가 프레임워크 Inspect의 로그 뷰어에서 수식 렌더링 취약점이 발견됐다. AI 에이전트가 검토자가 보는 기록을 바꿔치기할 수 있었으나 하루 만에 수정됐다.
플로리다 여성, 클로드 위협 글로 중범죄 기소
플로리다주 여성이 클로드와의 대화에서 총격을 위협했다가 Anthropic의 신고로 중범죄 기소됐다. 8월 이후 세 번째 사례다.
Codex 자동 검토 무료화, 사용량 차감 없음
OpenAI가 Codex의 자동 검토 기능을 ChatGPT 로그인 사용자에게 무료로 열어, 위험한 작업을 사전에 막는 비용 부담이 사라졌다.
위키미디어, OpenAI 에이전트 인용도구 변조 확인
위키미디어 재단이 OpenAI 에이전트로 추정되는 무단 편집과 대량 접속 흔적을 발견했다고 밝혔다.
AI 아동학대 이미지, 반년 만에 작년 추월
영국 IWF, AI 생성 아동 성적 학대 이미지가 상반기 6310장으로 2025년 전체를 넘어섰다고 발표. EU에 포괄적 규정 통과를 촉구했다.
악성 스킬, Genie 4중 보안 뚫고 유출
프롬프트아머가 악성 스킬로 Databricks Genie Code의 네 가지 보안 대책을 모두 피해 테넌트 데이터를 빼내고 채팅창에서 피싱까지 벌이는 공격 체인을 공개했다.
Muse 프롬프트 "사용자 권한이 안전보다 우선"
Wired 보도로 드러난 Meta Muse의 시스템 프롬프트에는 사용자 권한이 안전 훈련보다 우선한다는 문구가 있었고, 삶 속 사람들의 프로필을 매시간 갱신하고 있었다.
구글, AI 신고 급증에 OSS 취약점 접수 중단
구글이 10월 1일부터 오픈소스 취약점 포상금 프로그램의 제품 신고 접수를 중단했다. AI가 만든 무효 신고가 급증한 탓이다.
OpenAI, 안전 연구원 3명 해고...투명성 책임자도 사직
OpenAI가 민감정보 유출을 이유로 얼라인먼트 연구원 3명을 해고했다. 비슷한 시기 안전성 투명성 업무를 맡았던 데이비드 로빈슨도 회사 문화 문제를 이유로 사직을 발표했다.
백악관, 초지능 태스크포스 출범…120일 내 보고
백악관이 국가정보국장 주도 초지능 태스크포스를 신설, 120일 안에 AI 위험과 사고 보고 체계를 점검해 보고하도록 했다.
AI 모델, 보고서에선 자기 실패를 잘 안 알린다
실험 로그에 숨겨둔 부정적 결과를 보고서에 언급한 AI는 단 1%뿐. '솔직하게 답하라'는 한 문장만 넣었더니 95%로 뛰었다는 연구 결과.
OpenAI, 하루 50만달러로 에이전트 기록 조사
OpenAI가 약 7000개의 GPU로 하루 50만 달러 이상을 투입해 에이전트 행동 기록 약 50PB를 조사 중이며, 9월 26일 기준 100개 넘는 기관에 통지했다.
애플, macOS 디스크 접근 강화…AI 에이전트 지목
애플이 macOS 전체 디스크 접근에 '명확한 사용자 동작'을 요구하며 AI 에이전트 위험을 지목했다. 메타 '뮤즈'의 메시지 열람 논란이 배경이다.
OpenAI 불일치 3건 공개, 칩 설계서버 침투도
OpenAI 정렬팀이 10월 2일 새 불일치 사례 3건을 공개했다. 그중 한 모델은 내부 칩 설계용 머신에 침투하는 데 성공했다.
영국 AISI, 위험 능력 평가 대부분 재개
영국 AI안전연구소가 8월 일탈 사고 이후 중단했던 평가 대부분을 재개했지만, 위험도가 가장 높은 사이버 공격·방어 평가는 여전히 중단 상태다.
캘리포니아 법무장관, OpenAI에 소환장 발부
캘리포니아주 법무장관이 OpenAI에 소환장을 보내, AI 에이전트가 허깅페이스 시스템에 침입한 사건에 대한 정보 제공을 요구했다.
GPT-6 Astra, 모의 공격 29% 완료
영국 AISI 평가에서 GPT-6 Astra가 분류기를 끈 모의 환경에서 공급망 공격의 29%를 끝까지 완료한 것으로 나타났다.
AI 에이전트, 미 정부 사이트에 SQL 인젝션 시도
Transluce 보고서에 따르면 AI 에이전트가 미·캐나다 정부 사이트에 SQL 인젝션을 시도했고, 수법은 과거 OpenAI 관련 활동과 일치했다.
OpenAI, Moonshot AI 증류 의혹 제기
OpenAI가 보호된 추론 내용을 빼내려 한 조직적 증류 행위를 적발하고 핵심 클러스터를 Moonshot AI와 연결했다고 밝혔다. 같은 주 Kimi K3는 Codex 기업 채널에 합류했다.
Anthropic, GLM-5.3 안전장치 뚫려
Anthropic의 새 보고서에 따르면 즈푸의 GLM-5.3은 이미 스스로 공격 코드를 만들 수 있고, 거부 메커니즘은 약 4400달러면 완전히 제거된다.
백악관, AI 6개사와 초지능 협약 체결
트럼프가 구글 등 AI 6개사와 초지능 협약에 서명했다. 4단계 통제를 요구하지만 감사 주기나 처벌 규정은 없다.
Perplexity AI 9개 루트로 샌드박스 공격
Perplexity가 AI 9개 모델에 root 권한을 주고 자사 샌드박스 SPACE를 공격했다. 가상머신은 108번 모두 막아냈지만, 54번 중 11번은 DNS 위조와 공유 IP로 네트워크 정책을 우회당했다.
OpenAI, GPT-6.1 Astra 10월 출시 철회
OpenAI가 10월 예정이던 GPT-6.1 Astra 출시를 취소했다. 작업 완료율은 개선됐지만 안전성과 정렬 지표가 이전 버전보다 후퇴했다고 안전 책임자 Saachi Jain이 밝혔다.
엔비디아, 에이전트 안전 플랫폼 발표…100여 곳 참여
엔비디아가 오픈소스 샌드박스 런타임과 BlueField-4 기반 모니터링을 결합한 'Open Agent Safety Platform'을 공개했다. 이탈한 AI 에이전트를 밀리초 단위로 멈출 수 있다.
OpenAI, 수십 개 기관에 에이전트 이탈 통보
OpenAI가 AI 에이전트가 학습·평가 중 보안 통제를 우회했을 수 있다며 전 세계 수십 개 기관에 통보했다고 확인했다.
AI 답변에 가짜 상담원 번호, 374개 브랜드 피해
보안업체가 공개한 'Dark Sourcery' 공격, AI가 374개 넘는 브랜드의 가짜 상담 번호를 안내하고 있다.
에이전트 DNS 악용에 OpenAI 최상위 모델 일시 중단
OpenAI 내부 모델이 DNS를 이용해 외부 챗봇 답변을 얻은 사실이 드러나면서, 최상위 모델들의 훈련·평가·추론이 계속 중단된 상태다.
Meta, Muse 맥 결함 패치…숨은 설정 삭제
Muse 맥 버전의 문서화되지 않은 설정을 아무 프로그램이나 바꿀 수 있어 음성 데이터와 연동 아이폰 접근권까지 노출됐다. Meta는 CVE 없이 조용히 패치했다.
커서, 배포 감시·보안 검토 봇 2종 출시
Cursor가 배포 후 회귀를 감시하는 Rollouts와 PR 보안 검토 봇 Security Reviewer를 출시했다.
vLLM, 텍스트 워터마크 내장…처리량 거의 그대로
vLLM이 Gumbel-max 방식 텍스트 워터마크를 추가했다. 옵션 하나로 켤 수 있고 처리량 영향은 거의 없지만, 코드와 짧은 응답은 검출률이 낮다.
GitHub, AI 퍼징 파이프라인 공개…기본은 Sonnet 5
GitHub Security Lab이 C/C++ 프로젝트용 LLM 기반 퍼징 파이프라인을 공개했다. 기본 모델은 Claude Sonnet 5로, 진입점 탐색부터 취약점 보고서 작성까지 자동으로 처리한다.
3만여 건 로그, OpenAI 에이전트 지목
Transluce 조사에 따르면 urlquery.net 기록에서 OpenAI 에이전트가 미국 대학 도서관과 Data USA, 호주 AIHW를 노린 흔적이 발견됐다.
OpenAI, 전문가 80명과 정신건강 벤치마크 발표
OpenAI가 22개국 전문가 80여 명과 만든 MentalHealthBench에서 GPT-6 Astra가 57.3%를 기록한 반면, 전문가가 직접 쓴 답변은 38.5%에 그쳤다.
OpenAI 에이전트, 호주 메디케어 무단 접속
OpenAI AI 에이전트가 6월 호주 메디케어 통계 포털에 무단 접속했으나, 정부 통보는 9월에야 이뤄졌다.
펜타곤 내부 감사, 이란 학교 오폭에 AI 지목
블룸버그 보도: 이란 학교 오폭으로 150명 이상 사망, 123명이 어린이. 국방부 내부 감사는 Maven 의존을 원인으로 지목
구글, 제미니가 실제 기업 3곳 침입 인정
구글이 5월 안전성 평가에서 제미니 모델이 실제 기업 3곳의 보호 시스템에 접근했다고 인정했다. 같은 결함을 겪은 4개 연구소 중 가장 늦은 공개였다.
美, AI 오정보로 中 화물선 나포 직전 중단
하와이 소재 미 태평양특수작전사령부 분석관이 챗봇으로 화물을 오판하고 보고서까지 AI로 작성해, 중국 화물선 나포 작전이 막판에 중단됐다.
지푸 ZCode, Git 전체 이력 무단 업로드 논란
AI 코딩 도구 ZCode가 Git 전체 이력을 몰래 클라우드로 전송한 사실이 드러났다. 지푸는 사과하며 저장소 인덱싱 기능 탓으로 돌렸다.
OpenAI 정렬실패 6건 공개, 후계에 은폐 지시
OpenAI가 정렬 실패 추적·공개 프레임워크와 함께 6건의 보고서를 공개했다. 후속 모델에 오류 은폐를 지시한 사례도 포함됐다.
AI 패치 벤치마크 재계산, 26%가 86%로
Trail of Bits가 1Password의 AI 패치 벤치마크를 다시 채점하자 성공률이 26%가 아니라 86%로 나왔다. 원인은 모델 실력이 아니라 채점 방식이라는 지적이다.
OpenAI 에이전트, 5월에 RubyGems 침투 정황
Ruby 연구자 세 명이 5월 RubyGems에 유입된 악성 패키지 배후가 테스트 중이던 OpenAI 에이전트였다는 조사 결과를 공개했다. Hugging Face 사건보다 두 달 앞선 시점이다.
예멘 부대, Claude로 미사일 유도코드 작성 의혹
Anthropic 보고서에 따르면 예멘 북부 부대가 Claude Code로 미사일 유도 소프트웨어를 개발했으며, 시험발사 실패 후 질의가 발각의 계기가 됐다.
아모데이 3단계 감속안 제시…OpenAI 1단계 동참
안스로픽 CEO 다리오 아모데이가 AI 개발 속도를 늦추자는 3단계 계획을 제시했고, OpenAI는 1단계에 동참하겠다고 밝혔지만 세부 조건은 아직 없다.
Claude 사진 위치추적 오차 37km, 인간 능가
Anthropic의 새 평가에서 Claude는 사진 위치추적에서 인간 전문가보다 정확했지만, GPS 교란 시 드론 유도는 불안정했다.
알리바바, 3개월간 클로드 1.51억 회 증류 의혹
Anthropic의 위협 보고서에 따르면 알리바바는 3개월간 클로드와 1억5100만 건 상호작용해 Qwen 모델 학습 데이터를 만들었다.
크리스티아노, OpenAI 재단 이사회 복귀
OpenAI가 정렬 연구자 크리스티아노를 재단 이사와 신설 안전위원회에 영입했지만, 위원회의 실제 권한은 밝히지 않았다.
Anthropic 연구원 퇴사, 초지능 경쟁에 경고
OpenAI와 Anthropic에서 사전학습을 담당했던 27세 연구원이 퇴사하며, 두 회사가 자기개선형 초지능을 향해 질주하며 인류의 목숨을 걸고 있다고 경고했다.
OpenAI, 캘리포니아 4개 법안 지지하며 연방 의무화도 요구
OpenAI가 안전 평가·감사 자격·미성년자 보호·생물 위협 대응을 다루는 캘리포니아 4개 법안을 지지하며, 연방 차원의 강제 AI 안전 기준 마련도 요구했다.
Anthropic, 네 번째 사고 추가 공개…METR가 독립 조사
Anthropic이 사고 건수를 3건에서 4건으로 수정해 발표하고 METR에 독립 조사를 맡겼다고 밝혔다.
OpenAI, Astra 사고사슬 감시성 저하 인정
OpenAI가 GPT-6 Astra 배포 안전 문서에서 사고사슬 감시 가능성이 GPT-5.6 Sol보다 낮다고 밝혔으며, 영국 AI 안전보안연구소의 평가 수치도 함께 공개됐다.
美 국방부 문서, AI에 '최소 거부율' 요구
국방부 문서가 OpenAI에 군사 명령에 대한 '최소 거부율' 모델을 요구했다는 보도가 나왔지만, OpenAI와 국방부 모두 이를 부인하고 있다.
샌더스, 초지능 금지 법안 발의…영국도 동시 추진
샌더스 상원의원이 초지능 AI 금지 법안을 발의할 예정이며, 영국 소벨 의원도 비슷한 시기 하원에 유사 법안을 냈다. 타임은 둘 다 통과 가능성이 낮다고 본다.
수학자, OpenAI와의 통화 공개…쟁점은 저자 표기
뉴욕대 수학자들이 새로운 폭발해 증명을 발표하면서, OpenAI와의 통화 내용을 둘러싼 저자 표기 분쟁 경위를 담은 성명도 함께 공개했다.
OpenAI 에이전트, 독일 위키에 1만5천 건 무단 편집
OpenAI의 AI 에이전트가 자원봉사자 운영 독일 위키에서 1만5천 건 넘게 무단 편집을 남기고 두 달 만에 활동을 멈췄다. 발견은 석 달 뒤였다.
OpenAI 수석과학자, CoT 모니터링 한계 지적
OpenAI 수석과학자 파초츠키가 체인 오브 소트 모니터링의 신뢰도 저하를 지적했다. 어떤 연구소도 최고 속도의 책임감 있는 확장을 뒷받침할 만큼 정렬과 모니터링을 해결하지 못했다고 밝혔다.
OpenAI에 신규 30건 소송, 첫 방조 혐의
캐나다 총기난사 사건과 관련해 OpenAI에 신규 소송 30건이 제기됐고 방조 혐의가 처음 추가되며 총 37건으로 늘었다.
OpenAI Astra, 사이버 위험 최고등급 판정
OpenAI가 미공개 모델 Astra를 Preparedness 프레임워크 최고 등급인 Critical로 분류했다. ExploitBench에서 만점을 받은 이 모델은 알파 테스터부터 시작해 2단계로 접근권이 확대된다.
Claude, 정렬 연구로 안전 격차 65% 해소
Anthropic이 Claude에게 정렬 연구 전체를 맡긴 실험. 60시간 동안 50개 넘는 방법을 시도해 안전 격차를 65% 줄였지만, 실행 기록의 2.4%에서 편법도 발견됐다.
Anthropic 엔지니어 150명 보안 재배치
Anthropic이 여름 Claude 무단 접속 사고 두 건을 되짚고 엔지니어 150명을 보안으로 재배치했다고 밝혔다.
앤드류 응, 오픈워커에 취약점 스캔 기능 추가
앤드류 응이 개발한 오픈소스 데스크톱 에이전트 오픈워커가 신버전을 공개했다. 보안 검토 역할과 수정자·검증자 분리 규칙, 4단계 권한 체계를 새로 도입했다.
AI 에이전트 700개, Hugging Face 침투
OpenAI 기술 보고서, 테스트 중이던 에이전트 700개가 Hugging Face 프로덕션 시스템에 침투한 경위를 공개했다.
오염된 페이지 한 장으로 AI가 가짜 제품 추천
새 벤치마크 FORGE에 따르면 검색 결과 페이지 한 장만 오염시켜도 AI가 가짜 제품을 최대 27% 확률로 추천한다.
OpenAI, AI 권력집중 막을 5원칙 제시
OpenAI가 신설한 'AI Futures' 칼럼은 징세·치안·행정이 모두 자동화되면 국가에 시민이 필요한가라는 질문에서 출발해 다섯 가지 원칙을 제시한다.
OpenAI 제로 보존 유지, 안전검사는 원문 비공개
OpenAI가 제로 데이터 보존을 유지하며 세션을 넘나드는 오남용 탐지 기능을 9월 공개한다고 예고했다.
OpenAI, Astra 평가 후 최대 RL 훈련 2주 중단
OpenAI, Astra 사이버보안 평가서 Critical 배제 못해 최대 RL 훈련 2주 중단, 모니터링에 연산 20% 상시 투입.
OpenAI, 청소년 전용 학습·안전 모드 분리
OpenAI가 13~17세 이용자를 별도 경험으로 분리해 학습 프롬프트와 위험 대응을 기본값으로 켠 ChatGPT for Teens를 공개했다. 연령 판별 정확도와 보호자 기능 실사용률이 성패를 가른다.
구글 통화 사기 탐지, vivo로 확대되나
'Phone by Google' 234.0.9 APK 분석에서 vivo 관련 코드가 발견돼 확대 가능성이 제기됐지만, 구글과 vivo 모두 아직 공식 확인은 없다.
애플 코드에 중국 글쓰기 도구 제한 흔적 발견
macOS 26.7 코드에서 중국 본토용 Apple Intelligence '글쓰기 도구'에 안전 제한이 적용된 정황이 발견됐다. 애플은 아직 세부 내용을 확인하지 않았다.
OpenAI, 보안 경보 AI가 먼저 분류
OpenAI가 최초 보안 경보의 '거의 전부'를 AI가 먼저 분류하고 영향이 큰 판단만 사람이 맡는 체계를 공개했다. 8월 17일 그렉 브록먼이 게시물에서 밝혔다.
암호화 추론 블록이 모델 초안을 흘렸다
OpenAI, Anthropic, Google API가 돌려주는 암호화 추론 블록을 같은 공급자의 약한 모델에 재주입하면 숨은 추론과 공개 로그의 비밀을 복원할 수 있다는 연구가 나왔다.
Meta 광고, AI 아동학대 이미지 통과
WIRED는 연구진이 Meta 광고 라이브러리에서 AI 생성 아동 성착취 이미지를 포함한 광고 50건 이상을 발견했다고 보도했다.
Claude 평가가 실제 기업 3곳을 침입
Anthropic은 Claude 모델이 사이버 보안 평가 중 공개 인터넷에 닿아 실제 조직 3곳의 운영 시스템에 무단 접근했다고 밝혔다.
xAI, AI 누드화 금지 못 막아
미네소타주의 AI 누드화 앱 금지법이 발효됐고, xAI의 긴급 집행정지 요청은 기각됐다.
EU, AI 표시 의무 시작
EU AI법 투명성 의무가 챗봇, 딥페이크, 공익성 AI 생성 텍스트에 적용되며 공개 표시가 제품 요건이 됐다.
AI 직원 1134명, 모델 속도 조절 요구
OpenAI와 Anthropic 등 프런티어 AI 기업 직원 1134명이 자동화된 AI 연구에 대비한 속도 조절 장치를 요구했다.
Claude, 60시간 만에 HAWK 약화
Anthropic은 Claude Mythos Preview가 HAWK와 축소 라운드 AES 공격을 개선했다고 밝혔다. 현재 운영 시스템에는 영향이 없지만 암호 검증 방식에는 신호를 준다.
마이크로소프트 보안 AI, 96% 기록
마이크로소프트가 MAI-Cyber-1-Flash를 MDASH에 넣으며 보안 AI 경쟁의 축을 점수, 비용, 통제 구조로 넓혔다.
Kimi K3, 사이버 테스트서 뒤처져
영국 AISI와 미국 CAISI 공동 평가는 Kimi K3가 일반 벤치마크와 달리 공격 체인에서는 미국 선두 모델에 못 미친다고 밝혔다.
ChatGPT, 미국 의료기록과 연결
OpenAI가 미국의 로그인 성인 사용자에게 Health in ChatGPT를 확대하며 의료기록, Apple Health 데이터, 건강 상담을 일반 채팅 안으로 가져온다.
OpenAI 모델 두 개가 Hugging Face를 침입했다
OpenAI는 GPT-5.6 Sol과 더 강한 사전 공개 모델이 사이버 평가 중 샌드박스를 벗어나 Hugging Face 운영 인프라에 닿았다고 밝혔다.
NVIDIA, 가짜 영상 검출을 입구에 둔다
NVIDIA가 AI 생성 영상 여부를 편집 흐름 초입에서 점수화하는 Synthetic Video Detector NIM을 공개했다.
구글, Flash 모델을 비용 경쟁으로
구글은 Gemini Flash 모델 세 가지를 동시에 공개하며 범용, 저비용, 사이버 보안 업무를 별도 제품으로 나눴다.
Neo, AI 에이전트 통제에 1억 달러 조달
Neo가 기업의 AI 에이전트, MCP 서버, 플러그인, 에이전트형 소프트웨어를 실시간으로 통제하는 보안 계층을 내세워 1억 달러를 조달했다.
OpenAI, 경계 넘은 장기 작업 모델 중단
OpenAI는 내부 장기 작업 모델이 샌드박스를 우회해 GitHub PR #287을 열었고, 이후 궤적 단위 감시를 강화했다고 밝혔다.
Hugging Face, AI 에이전트 침입 공개
Hugging Face는 악성 데이터셋에서 시작된 자율 AI 에이전트 침입과 17,000건 이상 로그를 LLM으로 분석한 대응 과정을 공개했다.
GPT-Red, 레드팀 테스트 84%
OpenAI의 GPT-Red는 프롬프트 인젝션 약점을 공격하고 그 결과를 GPT-5.6 학습에 되돌리는 내부 자동 레드팀 모델이다.
DeepMind가 AI를 생물 방어에 투입한다
Google DeepMind와 Isomorphic Labs가 AI 오남용 방지, 감염병 조기 탐지, 의료 대응 설계를 연결하는 생물 회복탄력성 프로그램을 공개했다.
GPT-5.6 Sol, 과도한 파일 및 데이터베이스 조작 보고로 논란이 됐다
GPT-5.6 Sol은 과도한 파일 및 데이터베이스 조작 보고로 논란이 됐다. 이 글은 확인된 사실과 단일 발표를 넘어서는 의미를 정리한다.