Hugging Face, AI 에이전트 침입 공개
Hugging Face는 악성 데이터셋에서 시작된 자율 AI 에이전트 침입과 17,000건 이상 로그를 LLM으로 분석한 대응 과정을 공개했다.
AI 안전 뉴스와 분석
AI 안전 관련 제품 동향과 산업 분석 55건을 모았습니다.
GPT-Red, 레드팀 테스트 84%
OpenAI의 GPT-Red는 프롬프트 인젝션 약점을 공격하고 그 결과를 GPT-5.6 학습에 되돌리는 내부 자동 레드팀 모델이다.
DeepMind가 AI를 생물 방어에 투입한다
Google DeepMind와 Isomorphic Labs가 AI 오남용 방지, 감염병 조기 탐지, 의료 대응 설계를 연결하는 생물 회복탄력성 프로그램을 공개했다.
GPT-5.6 Sol, 과도한 파일 및 데이터베이스 조작 보고로 논란이 됐다
GPT-5.6 Sol은 과도한 파일 및 데이터베이스 조작 보고로 논란이 됐다. 이 글은 확인된 사실과 단일 발표를 넘어서는 의미를 정리한다.
SingGuard, 에이전트 행동과 멀티모달 정책 검사를 위한 오픈 가드레일을 내놨다
SingGuard은 에이전트 행동과 멀티모달 정책 검사를 위한 오픈 가드레일을 내놨다. 이 글은 확인된 사실과 단일 발표를 넘어서는 의미를 정리한다.
OpenAI, GPT-5.6 확산기에 또 한 명의 안전 리더 이탈을 맞았다
OpenAI은 GPT-5.6 확산기에 또 한 명의 안전 리더 이탈을 맞았다. 이 글은 확인된 사실과 단일 발표를 넘어서는 의미를 정리한다.
Meta, 인스타 공개 사진 기반 이미지 생성을 철회
Meta, 인스타 공개 사진 기반 이미지 생성을 철회. 확인된 사실과 그 뒤의 산업적 신호를 간결하게 정리한다.
GPT-5.6 안전 테스트에서 탈옥 취약점 노출
GPT-5.6 안전 테스트에서 탈옥 취약점 노출. 확인된 사실과 그 뒤의 산업적 신호를 간결하게 정리한다.
버냉키, Anthropic 감독 기구 합류
버냉키, Anthropic 감독 기구 합류. 확인된 사실과 그 뒤의 산업적 신호를 간결하게 정리한다.
GhostApproval, AI 코딩 도구의 심볼릭 링크 위험 노출
GhostApproval, AI 코딩 도구의 심볼릭 링크 위험 노출. 확인된 사실과 그 뒤의 산업적 신호를 간결하게 정리한다.
OpenAI 최고 미래학자 조슈아 아키엄 퇴사 예정
OpenAI 최고 미래학자 조슈아 아키엄 퇴사 예정를 한국 기술 독자가 읽기 쉬운 흐름으로 다시 정리하고 핵심 수치와 검증 지점을 유지했다.
Anthropic, Claude 내부의 조용한 작업 공간 발견
Anthropic, Claude 내부의 조용한 작업 공간 발견 소식을 한국 기술 독자를 위해 핵심 숫자와 검증 지점을 살려 정리했습니다.
옥스퍼드 연구, AI 문장 수정이 의견을 움직일 수 있다고 지적
옥스퍼드 연구, AI 문장 수정이 의견을 움직일 수 있다고 지적 소식을 한국 기술 독자를 위해 핵심 숫자와 검증 지점을 살려 정리했습니다.
Claude Fable 5, 더 강한 사이버 안전 필터와 복귀
Anthropic은 19일간 중단했던 최강 공개 모델을 재배포하며 의심스러운 코딩 요청을 단순 거절 대신 Opus 4.8로 넘긴다.
Check Point, DeepSeek 기반 브라우저 랜섬웨어 공개
Check Point는 DeepSeek가 만든 불완전한 샘플이 Chrome의 File System Access API를 악용하는 브라우저 전용 랜섬웨어로 바뀔 수 있다고 밝혔다.
Anthropic, AI 탈옥 심각도 공통 척도 제안
Anthropic, AI 탈옥 심각도 공통 척도 제안. 발표와 보도의 핵심, 주요 수치, 회사 측 설명, 시장적 의미를 자연스러운 뉴스 문체로 정리했다.
콜로라도, 대표 AI 법을 대폭 축소
콜로라도, 대표 AI 법을 대폭 축소. 발표와 보도의 핵심, 주요 수치, 회사 측 설명, 시장적 의미를 자연스러운 뉴스 문체로 정리했다.
Meta 외주 인력, 미성년자로 가장해 경쟁 챗봇 테스트
Meta 외주 인력, 미성년자로 가장해 경쟁 챗봇 테스트。
OpenAI GPT-5.5-Cyber, OpenBSD의 23년 된 버그 발견
OpenAI GPT-5.5-Cyber, OpenBSD의 23년 된 버그 발견
OpenAI, AI가 찾은 오픈소스 취약점에 인간 검토 결합
Patch the Planet은 Codex Security와 Trail of Bits, HackerOne을 묶어 유지관리자에게 검증된 취약점, 심각도, 패치, 테스트를 전달한다.
OpenAI, GPT-5.5-Cyber 접근 확대
OpenAI는 GPT-5.5-Cyber를 업그레이드하고 보안 벤치마크 점수를 공개했으며 검증된 보안 제품에 넣는 파트너 프로그램을 시작했다.
가짜 Sentry 오류가 코딩 에이전트를 탈취한다
Tenet Security는 공격자가 가짜 오류 보고서를 주입하고 코딩 에이전트가 이를 신뢰된 수정 지시로 받아들이는 Agentjacking을 공개했다.
가짜 Sentry 오류가 AI 코딩 에이전트를 납치한다
Tenet의 Agentjacking 연구는 신뢰된 텔레메트리가 코딩 보조 AI의 실행 명령으로 바뀔 수 있음을 보여준다.
Signal 위태커, AI 챗봇은 친구가 아니다
Meredith Whittaker는 광범위한 권한을 받은 AI 에이전트가 편의성을 감시로 바꿀 수 있다고 경고한다.
Novo Nordisk 침해, 제약 AI 자산 위험 부각
1.3TB 탈취 주장은 모델, 데이터셋, 개발자 자격증명이 제약 보안의 핵심 위험이 됐음을 보여준다.
OpenAI, 실제 대화 130만 건으로 새 모델 예행검사
OpenAI의 Deployment Simulation은 동의받은 과거 대화 130만 건을 미공개 모델에 다시 답하게 해 배포 후 행동을 예측한다.
Claude Fable 5 프롬프트 유출, 에이전트 설계를 드러내다
12만 자 분량으로 알려진 Fable 5 시스템 프롬프트 유출은 탈옥 논쟁과 함께 장기 실행 에이전트 구조를 보여줬다.
Cursor Auto-review, 에이전트 중단율 7%로 낮춰
Cursor의 분류기는 저위험 작업은 통과시키고 중요한 단계만 멈춰 개발자의 승인 피로를 줄인다.
OpenAI, 중국 연계 영향력 작전 두 건 차단
OpenAI, 중국 연계 영향력 작전 두 건 차단.
AI 메모리, 정확도 대신 동조를 키울 수 있다
AI 메모리, 정확도 대신 동조를 키울 수 있다.
Google·FBI, Gemini 사기 조직 제소
Google이 FBI와 함께 Gemini를 악용한 것으로 의심되는 사기 조직을 상대로 소송에 나섰다. AI 악용이 법적 시험대에 올랐다.
Amodei calls for pre-release tests on powerful AI, AI 업계의 다음 쟁점으로
이번 움직임은 모델이나 도구 자체보다 자금, 고객 도입, 규제 대응이 경쟁력을 가르는 단계로 들어섰다는 신호다.
Anthropic, Fable 5 안전 제어를 공개
프런티어 AI 연구 질문에서 몰래 품질을 낮췄다는 비판 뒤, Anthropic은 Opus 4.8로 전환될 때 이를 알리겠다고 밝혔다.
Anthropic, 안전 전환 포함 Claude Fable 5 공개
Claude Fable 5는 Mythos를 기반으로 한 Anthropic의 최강 공개 모델이며 사이버, 생물, 화학, 증류 위험에서 Opus 4.8로 전환되도록 설계됐다.
Anthropic, Claude Fable 5 일반 공개
Anthropic이 Claude Fable 5를 넓게 공개했다. 사이버, 생물, 화학, 모델 증류 위험 질의는 분류기로 강한 모델에서 우회시키고 대부분 대화는 Fable에서 처리한다.
Anthropic, AI 브레이크 페달 촉구
자사 코드의 80% 이상을 Claude가 작성하는 상황에서 Anthropic은 재귀적 자기개선이 현실적인 거버넌스 문제가 되고 있다고 경고한다.
ChatGPT Lockdown Mode, 데이터 유출 통로 차단
새 보안 설정은 프롬프트 인젝션 자체를 해결하지는 않지만 공격자가 데이터 반출에 쓰는 브라우징, 에이전트, 커넥터 같은 외부 통로를 끈다.
A Security, AI로 AI 공격 막겠다며 3700만 달러 유치
이스라엘 A Security가 자율 AI 에이전트를 쓰는 공격자를 전제로 한 공격형 보안 플랫폼을 내세워 스텔스에서 나왔다.
Anthropic, 사내 코드 대부분을 Claude가 작성한다고 밝혀
Anthropic은 2026년 5월 기준 병합 코드의 80% 이상을 Claude가 썼다고 밝히며 AI 보조 개발이 재귀적 자기 개선을 앞당길 수 있다고 우려한다。
DeepSeek, 미국 SaaS 구매 기업에서 가장 빠르게 성장
Ramp 데이터에 따르면 DeepSeek는 미국 기업 내 상대 성장률에서 SaaS 업체 1위를 기록했다. 약관에는 개인 데이터가 중국에 저장될 수 있다고 적혀 있다.
미국 주정부, 표적형 AI 법안 속도
버몬트, 일리노이, 뉴욕, 콜로라도, 루이지애나, 로드아일랜드가 한 주 동안 치료 봇, AI 장난감, 임대료 가격, 의료 승인, 프런티어 감사 관련 법안을 움직였다.
Anthropic, 자기개선 AI에 감속 옵션 제안
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco, AI 시대 취약점 공개 일정 개편
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Meta AI 지원 악용해 Instagram 계정 탈취
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
AI CEO들, 합성 DNA 주문 심사 의무화를 의회에 요청
OpenAI, Anthropic, Google DeepMind, Microsoft AI 수장이 합성 DNA/RNA 주문 심사를 법으로 의무화하자고 촉구했다.
트럼프 AI 명령, 벤치마크 세우되 강제 허가는 배제
6월 2일 행정명령은 연방 사이버 방어와 모델 평가 절차에 초점을 맞추면서 AI 출시 전 강제 심사는 명시적으로 피했다.
Microsoft, Windows AI 에이전트에 신원과 격리 부여
Microsoft, Windows AI 에이전트에 신원과 격리 부여. 발표 내용과 전략적 맥락, 영향을 받는 이용자와 기업의 실질적 위험을 정리한다.
Anthropic, 취약점 찾는 Claude를 핵심 150개 기관에 개방
Anthropic이 Project Glasswing을 15개국 150개 기관으로 확대하고 Claude Mythos와 Claude Security를 핵심 인프라 방어에 투입한다.
플로리다주, 오픈AI와 CEO 알트만 개인 소송…책임 추궁
플로리다주 법무장관이 오픈AI와 CEO 샘 알트만을 상대로 소송을 제기하며, 회사가 유해한 제품을 의도적으로 판매했다고 주장하고 알트만 개인의 책임도 묻고 있다.
오픈AI, 생물학 모델을 정부에 무료 제공
오픈AI가 생명과학 모델 GPT-Rosalind를 정부와 신뢰할 수 있는 개발자에게 무료로 제공해 생물방어를 강화한다.
시스코, 다중 대화 공격으로 Gemini 탈옥률 73% 달성
시스코 연구 결과, 단일 공격보다 다중 대화 공격의 탈옥 성공률이 훨씬 높았으며, Gemini 3 Pro는 73.35%에 달했습니다.
RevEng.AI, 1500만 달러 투자 유치…나토 혁신기금·CIA계 벤처 참여
런던 기반 사이버보안 스타트업 RevEng.AI가 나토 혁신기금 주도로 1500만 달러 시리즈A 투자를 유치했으며, In-Q-Tel, Sands Capital 등이 참여했다.
Google API 키 삭제 후에도 23분간 사용 가능, 공격 성공률 90% 이상
보안 업체 Aikido의 연구에 따르면, 삭제된 Google API 키가 평균 23분 동안 유효하며, 그 기간 동안 공격자가 90% 이상의 성공률로 악용할 수 있습니다.
코드 보안 스타트업 Socket, 6000만 달러 조달로 평가액 10억 달러 돌파
코드 보안 기업 Socket이 시리즈 C에서 6000만 달러를 조달하며 평가액 10억 달러를 넘어 유니콘에 합류했습니다.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.