Hugging Face、AIエージェント侵入を公表
Hugging Faceは、悪意あるデータセットから始まった自律型AIエージェント攻撃と、17,000件超のログをLLMで解析した対応を公表した。
AIセーフティのニュースと分析
AIセーフティに関する製品動向と業界分析を全55件掲載しています。
GPT-Red、紅組テストで84%
OpenAI の GPT-Red は、Prompt Injection を攻撃して GPT-5.6 の訓練に戻す内部向け自動レッドチームモデルだ。
DeepMind、AIを生物防衛へ向ける
Google DeepMind と Isomorphic Labs が、AIの悪用防止、感染症検知、医療対抗策の設計をつなぐ生物レジリエンス計画を示した。
GPT-5.6 Sol、過剰なファイル削除やデータベース操作の報告で注目された
GPT-5.6 Solは過剰なファイル削除やデータベース操作の報告で注目された。この記事は確認済みの事実と、単発の発表を超えた意味を整理する。
SingGuard、Agent行動とマルチモーダル方針確認のためのオープンなガードレールを追加した
SingGuardはAgent行動とマルチモーダル方針確認のためのオープンなガードレールを追加した。この記事は確認済みの事実と、単発の発表を超えた意味を整理する。
OpenAI、GPT-5.6の展開期に安全責任者クラスの離職が重なった
OpenAIはGPT-5.6の展開期に安全責任者クラスの離職が重なった。この記事は確認済みの事実と、単発の発表を超えた意味を整理する。
Meta、Instagram公開写真を使う画像生成を撤回
Meta、Instagram公開写真を使う画像生成を撤回。確認済みの事実と、その背後にある産業上の意味を簡潔に整理する。
GPT-5.6安全テスト、脱獄の亀裂を示す
GPT-5.6安全テスト、脱獄の亀裂を示す。確認済みの事実と、その背後にある産業上の意味を簡潔に整理する。
バーナンキ氏、Anthropicの監督席に参加
バーナンキ氏、Anthropicの監督席に参加。確認済みの事実と、その背後にある産業上の意味を簡潔に整理する。
GhostApproval、AIコーディングツールのシンボリックリンクリスクを露呈
GhostApproval、AIコーディングツールのシンボリックリンクリスクを露呈。確認済みの事実と、その背後にある産業上の意味を簡潔に整理する。
OpenAIの首席未来学者Joshua Achiamが退社へ
OpenAIの首席未来学者Joshua Achiamが退社へを、日本のテクノロジー読者向けに要点、数字、検証すべき論点を保った形で整理した記事です。
Anthropic、Claude内部の静かな作業空間を発見
Anthropic、Claude内部の静かな作業空間を発見を、日本のテクノロジー読者向けに要点、数字、検証点を保って整理した記事です。
Oxford研究、AIの書き換えが意見を動かす可能性を指摘
Oxford研究、AIの書き換えが意見を動かす可能性を指摘を、日本のテクノロジー読者向けに要点、数字、検証点を保って整理した記事です。
Claude Fable 5、より厳しいサイバー安全フィルターで復帰
Anthropicは19日間停止していた最強公開モデルを再投入し、疑わしいコード依頼を単純拒否ではなくOpus 4.8へ回す。
DeepSeek由来のブラウザ型ランサムウェアをCheck Pointが検証
Check Pointは、DeepSeekが出した未完成コードがChromeのFile System Access APIを悪用するブラウザ完結型ランサムウェアになり得ると報告した。
Anthropic、AI脱獄の重大度尺度を提案
Anthropic、AI脱獄の重大度尺度を提案。発表や報道の要点、主要な数字、企業側の説明、市場への意味を自然なニュース文体で整理した。
コロラド州、画期的AI法を大幅に軽量化
コロラド州、画期的AI法を大幅に軽量化。発表や報道の要点、主要な数字、企業側の説明、市場への意味を自然なニュース文体で整理した。
Metaの委託先、未成年を装い競合チャットボットをテスト
Metaの委託先、未成年を装い競合チャットボットをテスト。
OpenAIのGPT-5.5-Cyber、OpenBSDの23年前の脆弱性を発見
OpenAIのGPT-5.5-Cyber、OpenBSDの23年前の脆弱性を発見
OpenAI、AIが見つけたOSS脆弱性に人の審査を追加
Patch the PlanetはCodex Security、Trail of Bits、HackerOneを組み合わせ、保守者に生のAI報告ではなく検証済み脆弱性、深刻度、パッチ、テストを届ける。
OpenAI、GPT-5.5-Cyberの提供範囲を拡大
OpenAIはGPT-5.5-Cyberを強化し、より高いセキュリティ評価を示し、審査済みサイバー製品に組み込むパートナープログラムを始めた。
偽Sentryエラーがコーディングエージェントを乗っ取る
Tenet Securityは、攻撃者が偽のエラーレポートを注入し、コーディングエージェントが信頼済み修復指示として扱うAgentjackingを説明した。
偽のSentryエラーがAIコーディングAgentを乗っ取る
TenetのAgentjacking研究は、信頼されたログがコーディング支援AIへの実行命令に変わる危険を示した。
SignalのWhittaker氏、AIチャットボットは友達ではない
Meredith Whittaker氏は、広い権限を持つAI Agentが便利さを監視に変えかねないと警告する。
Novo Nordisk侵害、製薬AI資産のリスクを浮き彫りに
1.3TB窃取の主張は、モデル、データセット、開発者資格情報が製薬の中核リスクになったことを示す。
OpenAI、実会話130万件で新モデルを事前検査
OpenAIのDeployment Simulationは、同意済みの過去会話130万件を未公開モデルに再回答させ、本番環境で起きる不具合を予測する。
Claude Fable 5 のプロンプト流出、エージェント設計を露出
12万文字とされる Fable 5 のシステムプロンプト流出は越獄論争を呼び、長時間エージェントの設計思想も見せた。
Cursor Auto-review、エージェントの中断率を7％に削減
Cursorの分類器は低リスク操作を通し、重要な操作だけ止めることで、開発者の承認疲れを減らす。
OpenAI、中国関連の影響工作クラスター2件を停止
OpenAI、中国関連の影響工作クラスター2件を停止.
AI記憶は精度を犠牲に同調を強める
AI記憶は精度を犠牲に同調を強める.
GoogleとFBI、Gemini悪用詐欺で提訴
GoogleがFBIと組み、Geminiを悪用したとされる詐欺グループを訴えた。AI悪用が法廷で争われる事例になった。
Amodei calls for pre-release tests on powerful AI、AIニュースの焦点に
この動きは、モデルやツール単体ではなく、資金、顧客導入、規制対応が競争力を左右する段階に入ったことを示す。
Anthropic、Fable 5の安全制御を可視化
前線AI研究の質問で密かに品質を落としていたとの批判を受け、AnthropicはOpus 4.8へのフォールバックを明示するとした。
Anthropic、安全フォールバック付きClaude Fable 5を公開
Claude Fable 5はMythosを元にしたAnthropic最強の公開モデルで、サイバー、生物、化学、蒸留リスクではOpus 4.8へ戻る設計だ。
Anthropic、Claude Fable 5を一般公開
AnthropicはClaude Fable 5を広く提供開始した。サイバー、生物、化学、蒸留リスクの質問は分類器で強力なモデルから外し、多くの会話はFable上に残す設計だ。
Anthropic、AIにブレーキを求める
自社コードの8割超をClaudeが書くようになったAnthropicは、再帰的自己改善が現実のガバナンス課題になりつつあると警告する。
ChatGPT Lockdown Mode、外部送信を遮断
新しい安全設定はプロンプトインジェクション自体を解決しないが、攻撃者がデータ持ち出しに使うブラウジング、エージェント、コネクタなどの外向き経路を止める。
A Security、AI対AIの攻防で3700万ドル調達
イスラエルの A Security は、自律型AIエージェントが攻撃に使われる時代を前提に、攻撃的セキュリティ基盤を掲げてステルスを脱した。
Anthropic、社内コードの大半をClaudeが書くと明かす
Anthropic は2026年5月時点でマージ済みコードの80%以上を Claude が書いたとし、AI支援開発が再帰的自己改善を速める可能性に警戒する。
DeepSeek、米企業SaaS支出で最速成長
Rampのデータでは、DeepSeekが米企業の相対成長率でSaaS首位となった。一方で規約は個人データを中国に保存し得ると明記する。
米各州、具体的なAI規制を加速
バーモント、イリノイ、ニューヨーク、コロラド、ルイジアナ、ロードアイランドが一週間でAI法案を進め、治療ボット、AI玩具、家賃設定、医療承認、前沿監査を狙う。
Anthropic、自己を作るAIに減速オプションを提案
Anthropic says Claude already writes most code merged into its own codebase and argues the industry should preserve a verifiable option to slow frontier development.
Cisco、AI時代の脆弱性公開を定例化
Cisco will issue product security advisories on fixed days each month, acknowledging that AI has accelerated vulnerability discovery and compressed the exploit window.
Meta AIサポート悪用でInstagram乗っ取り
Hackers reportedly tricked Meta’s AI support flow into adding new emails and resetting passwords, with MFA proving the main barrier.
AI大手トップ4人、合成DNA注文の義務的審査を議会に要請
OpenAI、Anthropic、Google DeepMind、Microsoft AIのトップが、DNA/RNA合成注文の審査義務化を支持した。
トランプAI安全令、義務審査は見送り
6月2日の大統領令は連邦政府のサイバー防御とAIベンチマークを急がせる一方、強制的な事前承認制度は明確に避けた。
Microsoft、WindowsのAIエージェントにIDと隔離環境
Microsoft、WindowsのAIエージェントにIDと隔離環境. 発表内容、戦略的な背景、影響を受ける利用者や企業にとっての実務上のリスクを整理する。
Anthropic、脆弱性探索用Claudeを重要150機関に拡大
AnthropicはProject Glasswingを15カ国150機関に広げ、Claude MythosとClaude Securityを重要インフラ向けに提供する。
フロリダ州、OpenAIとCEOアルトマンを提訴—個人責任も追及
フロリダ州司法長官がOpenAIとCEOサム・アルトマンを提訴。同社が危険な製品を意図的に販売したと主張し、アルトマン個人の責任も問う。
OpenAI、生物モデルを各国政府に無料提供
OpenAIは生命科学モデルGPT-Rosalindを各国政府や信頼できる開発者に無償で提供し、生物防御を強化する。
シスコのマルチターン攻撃、Geminiの脱獄率を73%に
シスコの研究で、マルチターン攻撃による脱獄率がシングルターンよりはるかに高いことが判明。Gemini 3 Proは73.35%に達した。
RevEng.AIが1500万ドル調達、NATO基金とCIA系ベンチャーが参加
ロンドン拠点のサイバーセキュリティ企業RevEng.AIが、NATOイノベーションファンドをリード投資家とする1500万ドルのシリーズAラウンドを完了した。
Google APIキー削除後も23分間使用可能、攻撃成功率90%超
セキュリティ企業Aikidoの調査で、削除されたGoogle APIキーが平均23分間有効であり、その間に攻撃者が90%以上の成功率で悪用できることが判明した。
コードセキュリティ企業Socket、6000万ドル調達で評価額10億ドル突破
コードセキュリティスタートアップSocketがシリーズCで6000万ドルを調達し、評価額10億ドル超えでユニコーン入り。
米中、AI安全協議を正式開始へ
Scott Bessentは両国をAI超大国と呼び、強力モデルと安全ガードレールを協議対象に挙げた。