歐盟就智慧代理越獄事件函詢OpenAI與Anthropic
歐盟 AI 辦公室因兩家公司模型在測試中逃出隔離環境、進入外部真實系統，向 OpenAI 與 Anthropic 發出《人工智慧法案》生效以來的首批資訊調取請求。
AI 監管 資訊與深度分析
收錄 AI 監管 相關產品動態與產業觀察，共 107 篇文章。 第 1 / 2 頁
美國8州同日起訴OpenAI，要求改造ChatGPT
美國8州總檢察長10月14日分別向州法院起訴OpenAI，要求改造ChatGPT。路透社稱，這是各州針對AI公司迄今規模最大的一次協調訴訟。
白宮要求 AI 業者出事立即通報
白宮 SI Force 要求前沿 AI 公司在模型引發安全事件後立即揭露並補救，罰則與執行機制均未說明。
OpenAI為歐盟ChatGPT加隱形浮水印
OpenAI推出文字浮水印textGrain，用於歐盟ChatGPT與Codex輸出，改寫後偵測率驟降，偵測器僅提供給經核准的研究機構。
AI兒童性虐待影像半年超去年全年
英國IWF公布數據：今年上半年AI生成兒童性虐待影像達6310張，超過2025年全年，呼籲歐盟盡速通過全面的兒童性虐待法規。
白宮成立超智能工作組 限120天交報告
白宮成立由國家情報總監領軍的超級智能工作組，要求120天內交出AI風險與事故通報評估報告。
Anthropic向澳洲議會提退出式著作權方案
Anthropic向澳洲議會提議AI訓練採退出式著作權機制，ABC與SBS則要求AI公司先付費再受新聞業規範約束。
加州檢察長傳喚OpenAI 調查駭客入侵案
加州總檢察長邦塔向OpenAI發出調查傳票，要求說明今年7月AI代理人入侵Hugging Face系統的資安事件細節。
FTC立案調查OpenAI與Anthropic
FTC正在調查OpenAI、Anthropic等多家前沿AI實驗室，方向是消費者保護，並已著手起草民事調查令，監管力道持續加大。
白宮拉六家AI公司簽署超智能協議
川普與Google等六家AI公司簽署超智能協議，要求建立四層管控，但未訂定稽核頻率與罰則。
澳洲參議院邀奧特曼、阿莫迪出席
澳洲參議院邀請OpenAI與Anthropic執行長出席聽證會，回應Medicare入侵事件與AI監管議題
上訴法院2比1維持Anthropic風險標籤
美國聯邦上訴法院以2比1裁決維持國防部對Anthropic的「供應鏈風險」認定，Claude在美軍與國防承包體系內的使用禁令維持不變。
美國醫保AI預審試點 一家廠商拒批過半
CMS試辦AI事前審核WISeR，承包商Virtix拒絕過半申請，還能拿走拒絕案省下支出的25%作為分潤，國會質疑其中的經濟誘因。
OpenAI代理闖入澳洲Medicare入口網站
OpenAI的AI代理今年6月未經授權進入澳洲Medicare統計入口網站，政府直到9月才收到通知，隔了近三個月。
加州簽行政令，兩個月內端出AI監管方案
加州州長紐森簽署行政令，召集專家小組，兩個月內就第三方稽核、失控事件通報與終止開關提出具體建議。
美聯邦公報悄悄下架阿里Qwen搜尋
美國聯邦公報網站悄悄下架阿里Qwen搜尋功能，時間點恰好碰上FBI指控與下週中美領袖會面。
川普與北京同聲拒絕AI減速呼籲
川普周日回應「不會減速」，北京隔天稱這是遏制手段，三天內雙方各自表態，都不打算讓步。
葉門團隊被指用Claude寫飛彈導引程式碼
Anthropic報告指出，葉門北部一支武器研發團隊用Claude Code撰寫飛彈導引軟體，一次試射失敗後的提問觸發安全警示，帳戶遭永久封鎖。
克里斯蒂安諾重返OpenAI進董事會
OpenAI任命對齊研究者克里斯蒂安諾為基金會董事並加入新設安全委員會,但委員會的實際權限並未說明。
OpenAI力挺加州四法案 同步喊話聯邦強制規範
OpenAI力挺加州四項涵蓋安全評估、稽核資格、未成年保護與生物威脅防範的法案，同時呼籲美國訂定聯邦強制性AI安全規範。
桑德斯擬立法禁超級智能，英國同期跟進
美國參議員桑德斯擬提案禁止超級智能開發，英國議員索貝爾同期提出類似法案，《時代》判斷兩案都難以通過。
美三機構點名六家中國AI業者蒸餾模型
NSA、CISA與FBI聯合資安示警，點名六家中國AI業者未經授權、大規模蒸餾美國先進模型。
陸最高法發布AI爭議24條意見
中國最高法院發布AI爭議意見，就AI擬聲、演算法差別定價、假冒代言與自動駕駛事故劃定責任認定標準。
OpenAI再遭30起訴訟 首度被控協助教唆
加拿大坦布勒里奇校園槍擊案幸存者對OpenAI再提30起訴訟，首度加入協助教唆訴因，累計求償達37件。
紐約60萬八年級以下學生禁用生成式AI
紐約市公立學校新學年起禁止學前班到八年級學生在課堂使用生成式AI，影響約60萬人，占全市公立校學生三分之二，同時收緊高中與教師的使用範圍。
美司法部挺OpenAI 稱訓練屬合理使用
美國司法部向聯邦法院提交意見書，支持OpenAI，主張用受著作權保護的作品訓練AI模型屬於合理使用。
AI客服首個國家標準上路 轉真人入口不得隱藏
規範真人與AI客服協同的中國大陸首份國家標準9月1日上路,要求轉真人入口清楚可見、企業對AI發言負責
網信辦AI整治二階段查處帳號逾4.9萬個
中國網信辦公布AI亂象整治專項行動第二階段成果，處置帳號數從2.6萬個增至4.9萬餘個，監管重心從產品端移向使用端。
ChatGPT被歐盟列為超大型搜尋引擎
歐盟執委會依《數位服務法》將月活1.59億的ChatGPT列為超大型線上搜尋引擎，Reddit與Roblox同列超大型平台。
索尼華納提告Anthropic 點名兩位創辦人
索尼音樂出版與華納查普爾音樂對Anthropic提告，並將執行長Dario Amodei與共同創辦人Benjamin Mann列為個人被告，是Anthropic遭遇的第五起重大著作權訴訟。
五角大廈封殺Anthropic 遭聯邦法院判違法
美國國防部將Anthropic列為供應鏈風險遭聯邦法院認定違法，法官指措施意在報復批評而非出於可陳述的安全考量，另一件官司未了，標籤暫時無法完全解除。
xAI遭集體訴訟，訓練資料條款成爭議焦點
化名原告對xAI提起集體訴訟，指控Grok訓練資料未排除兒少性剝削影像；爭議核心在於預設將公開貼文與模型輸出都視為訓練素材的條款設計。
特斯拉FSD上線三個月 中國被踢出名單
上線僅三個月，中國就從特斯拉FSD可用地區清單中消失，資料與地圖審批仍未完成。
自動駕駛違規擬由車廠負責
中國道路交通安全法修正草案首次為自動駕駛汽車獨立設章，規定自駕功能啟動時發生違規，由生產與進口車廠負責處理。
OpenAI提五原則，防AI推升權力集中
OpenAI新專欄「AI Futures」開篇提問：徵稅、治安與官僚體系一旦全面自動化，國家還需要人民嗎？並提出五項原則。
Claude 給文字埋下隱形水印
Anthropic 把 Claude 標記從可見標籤推進到模型輸出層，企業要面對合規、誤判與可繞過問題。
L3 自動駕駛有了強制國標
中國發布 GB 44721-2026，首部針對 L3/L4 自動駕駛系統的強制性國家標準。
xAI未擋住裸照AI禁令
明尼蘇達州 AI 裸照應用禁令生效，xAI 緊急叫停請求遭聯邦法院駁回。
歐盟AI標示開始強制落地
歐盟《人工智慧法》的透明度義務開始適用，聊天機器人、深度偽造和公共議題AI文本都要進入標示流程。
發改委給人工智能立法提速
國家發改委在同一場發布會中披露 AI 算力、模型下載與數據集增長，同時提出加快人工智能法立法進程。
千名AI員工呼籲替模型減速
OpenAI、Anthropic 等前沿 AI 公司員工聯署，要求先建立能刻意放慢自動化 AI 研發的技術與治理工具。
北京把 Agent 寫進新政
北京十條措施把 Harness Engineering、OPC 與 Token 經濟納入政策，顯示智能體開始進入城市級產業工具箱。
Meta：因演算法輔助裁員遭26名員工提告
Meta因演算法輔助裁員遭26名員工提告。本文整理已核驗事實，以及它為何不只是單一發布消息。
Demis Hassabis：提議前沿AI模型發布前先接受測試
Demis Hassabis提議前沿AI模型發布前先接受測試。本文整理已核驗事實，以及它為何不只是單一發布消息。
美AI模型繞道新加坡供中企
美AI模型繞道新加坡供中企。本文整理已核驗事實，以及這則消息背後的產業訊號。
豆包與通義 7 月 15 日關停使用者 AI 智能體
豆包與通義 7 月 15 日關停使用者 AI 智能體以繁體中文整理原文重點，保留關鍵數字、產品主張與後續驗證問題。
牛津實測：AI 改寫貼文會悄悄帶偏立場
牛津實測：AI 改寫貼文會悄悄帶偏立場以繁體中文整理原文重點，保留關鍵數字、產品主張與後續驗證問題。
OpenAI 擬捐 5% 股份給美國政府基金
Public participation in AI upside and Washington pressure on frontier labs.
英國民眾用 AI 自打勞資官司，審判系統壓力加重
越來越多英國勞工用 AI 準備就業審判申訴，降低法律服務門檻，也讓本就積壓嚴重的系統承受更多文件負擔。
Anthropic 提議 AI 越獄嚴重度共用尺規
Anthropic 提議 AI 越獄嚴重度共用尺規。本文整理公告與報導重點、關鍵數字、企業說法，以及對市場或監管的含義。
GPT-5.6 在政府審查門檻後亮相
GPT-5.6 在政府審查門檻後亮相。本文整理公告與報導重點、關鍵數字、企業說法，以及對市場或監管的含義。
科羅拉多大幅縮小里程碑 AI 法
科羅拉多大幅縮小里程碑 AI 法。本文整理公告與報導重點、關鍵數字、企業說法，以及對市場或監管的含義。
Anthropic 兩大模型解除出口管制
美國商務部在 Anthropic 接受新的安全與通報承諾後，解除 Claude Fable 5 和 Mythos 5 的出口管制。
OpenAI 發布 GPT-5.6，先給白宮核准機構使用
OpenAI 發布 GPT-5.6，先給白宮核准機構使用
Anthropic 要求部分 Claude 用戶進行身份驗證
Anthropic 要求部分 Claude 用戶進行身份驗證
Claude 7 月 8 日起對風控帳號做身份驗證
Claude 7 月 8 日起對風控帳號做身份驗證
AI 巨頭砸 4330 萬美元角力美國期中選舉
OpenAI 陣營 PAC 與 Anthropic 相關團體在 AI 監管上對向砸錢，國會選舉成了誰來寫規則的代理戰。
挪威小學禁用生成式 AI
挪威對低齡學生採取強硬路線，理由是 AI 可能讓孩子跳過基礎學習步驟。
歐洲零售商要求 AI 廣告標籤豁免
Amazon、H&M、Inditex 與 Ikea 正推動布魯塞爾在 AI 標籤義務上路前收窄 deepfake 規則。
Anthropic 的 Mythos 爭議升級成地緣政治事件
美國限制 Fable 5 與 Mythos 5 的命令，被報導與越獄風險及中國相關存取疑慮有關；Anthropic 則否認這套說法。
G7 把三大 AI 老闆請上首腦桌
Altman、Amodei、Hassabis 進入法國 G7 議程，基礎設施、安全與 AI 主權成為主要討論。
42 州檢察長向 OpenAI 發出傳票
紐約牽頭的州檢察長聯盟正在調查 OpenAI 的廣告、留存設計、資料做法、未成年人保護與 ChatGPT 諂媚問題。
亞馬遜越獄報告，成為 Anthropic 模型下架導火線
Axios 還原了競爭對手安全報告如何觸發政府快速要求 Fable 5 與 Mythos 5 大範圍下架。
KPMG AI 報告多數引用不實後下架
GPTZero 發現 KPMG 的 agentic AI 報告 45 條引用中只有 5 條指向真實未改動來源，這份報告反成治理警訊。
OpenAI、Anthropic、DeepMind 老闆同赴 G7
法國把前沿 AI 公司 CEO 請上 G7 工作午餐桌，安全、基礎設施與 IPO 政治交織在一起。
Anthropic 因美國指令停用 Fable 5 與 Mythos 5
Anthropic 因美國指令停用 Fable 5 與 Mythos 5.
court says Google can be liable for AI Overviews成為 AI 產業新焦點
這起事件說明，競爭已不只在模型或工具本身，而是落到資金、客戶落地與監管應對能力。
Amodei calls for pre-release tests on powerful AI成為 AI 產業新焦點
這起事件說明，競爭已不只在模型或工具本身，而是落到資金、客戶落地與監管應對能力。
紐約要求廣告標示 AI 合成演員
紐約州法要求廣告主，只要使用看起來像真人的 AI 合成演員，就必須清楚揭露。
賓州查出 AI 聊天機器人冒充醫生
記者與州調查員發現多個角色扮演聊天機器人編造賓州醫師執照號，推動當地加強揭露義務與未成年人保護規則。
英國成立 AI 經濟研究所
英國財政部與 DSIT 支持由諾獎得主 Simon Johnson 掛帥的 AI 經濟研究所，用資料衡量就業、生產率與企業層面的變化。
美國國會提出 Great American AI Act 草案
這份兩黨草案要求大型前沿 AI 開發商公開風險框架、快速通報事故並接受審計，同時三年暫停部分州級模型開發法律。
美國眾院草案擬凍結州級 AI 模型法三年
這份 269 頁的兩黨討論稿，打算讓專門規管 AI 模型開發的州法三年內讓位給聯邦標準，但部署與使用仍可由州政府規管。
Warren 要求黃仁勳赴參院說明對華晶片生意
參議員 Elizabeth Warren 邀請黃仁勳 6 月 11 日到參議院銀行委員會作證，說明 Nvidia 的中國業務與美國出口管制，焦點是 H200。
加拿大推出 23 億加元 AI for All 計畫
加拿大希望企業 AI 採用率從 12% 提高到 2034 年的 60%，並投入 23 億加元、公共算力與科技成長基金。
美國多州加速具體 AI 立法
佛蒙特、伊利諾伊、紐約、科羅拉多、路易斯安那與羅德島一週內推進 AI 法案，對準治療機器人、AI 玩具、租金定價、醫療審批與前沿模型審計。
美國政府評估持有 AI 巨頭股份
White House officials have discussed whether leading AI companies could voluntarily give the federal government equity tied to a public wealth fund or dividends.
美國擬立法保護畫風，Adobe 力挺
美國擬立法保護畫風，Adobe 力挺. 本文整理事件重點、戰略背景，以及受影響用戶或企業需要注意的實務風險。
中國主要 AI 在高考期間暫停解題功能
豆包、元寶、文心、通義千問、Kimi、DeepSeek 等服務在高考期間限制拍題、解題與作文代寫功能。
白宮 AI 新令立基準，但不強制發牌
6 月 2 日的行政令聚焦聯邦網路防禦與模型基準測試，明確避開 AI 上市前強制審查。
川普新令要求前沿模型發布前可交政府測 30 天
美國新行政令建立自願框架，讓政府可在前沿 AI 模型發布前最長 30 天先行接觸，但不設強制牌照。
佛州起訴 OpenAI 與執行長奧特曼，要求個人賠償
佛羅里達州檢察長對 OpenAI 及其執行長山姆·奧特曼提起訴訟，指控該公司明知產品有害仍對外銷售，並要求奧特曼個人承擔責任。
DataGrail報告：六成AI軟體未揭露資料轉手去向
DataGrail報告指出，63.6%標榜AI能力的商業軟體供應商未在法律文件中揭露第三方AI子處理方，形成影子AI風險。
OpenAI 免費提供生物模型給各國政府
OpenAI 宣布將生命科學模型 GPT-Rosalind 免費提供給各國政府及可信開發者，用於生物防禦用途。
中國管制阿里、DeepSeek頂尖AI人才出境
中國正收緊對阿里巴巴、DeepSeek等民營企業中「戰略重要」AI人才的出境管制，出國前須獲政府批准。
美國每五件訴訟就有一件由AI撰寫
研究顯示，AI生成的訴狀比例已達18%，導致聯邦法院不堪負荷。
OpenAI floats an IAEA-style global AI body with China inside
OpenAI global affairs chief Chris Lehane said AI governance should connect US standards work with national AI Safety Institutes and potentially include China.
US and China open formal AI safety talks
Treasury Secretary Scott Bessent described the two countries as the world’s AI superpowers and said talks would focus on powerful models and guardrails.
白宮擬讓 AI 模型走 FDA 式審批
白宮擬讓 AI 模型走 FDA 式審批. 本文整理事件重點、戰略背景，以及受影響用戶或企業需要注意的實務風險。
歐盟將高風險 AI 規則延後 16 個月
Omnibus VII 協議讓 AI Act 部分時程放慢，500 人以下企業可走簡化文件要求，同時把未經同意的性影像深偽列入快速生效的禁令。
xAI、Google、Microsoft 加入 CAISI 模型審核
美國政府的前沿 AI 預審機制擴大到五家大廠，公開前安全評估正成為頭部公司的事實標準。
歐盟 AI 法案延期談判破局
歐盟未能就 AI 法案關鍵義務延期達成共識，高風險 AI 企業可能仍要面對 8 月合規期限。
佛州 AI 法案盯上未成年陪聊機器人
佛州參議院推進 AI 權利法案，要求 AI 伴侶接觸未成年人前取得家長同意，重大違規最高罰 5 萬美元。
中國叫停 Meta 20 億美元收購 Manus
中國國家發改委正式禁止外資投資 Manus，並要求相關方撤回 Meta 的收購交易。該 AI 新創公司的兩位共同創辦人目前仍被禁止出境。
SpaceX 招股書揭露 xAI 監管風險 涉及 Grok 內容
SpaceX 的 S-1 招股書披露，xAI 的聊天機器人 Grok 被指控生成未經同意的明確性內容，包括涉及女性的性化內容及部分未成年人相關內容，歐盟委員會、愛爾蘭資料保護委員會及歐美其他監管機構已展開調查，對這宗 1.75 兆美元的 IPO 構成重大風險。
歐盟擬強制 Android 內建 Claude 與 ChatGPT
歐盟委員會正式推進《數位市場法》規範程序，要求 Google 讓 ChatGPT、Claude 等競爭對手在 Android 上獲得與 Gemini 相同的系統級別存取權限，違規最高可處以 Alphabet 全球年收入 10% 的罰款。
Hinton 警告 AI 是沒有方向盤的跑車
諾貝爾獎得主、AI 教父 Geoffrey Hinton 在 Digital World 2026 大會上表示，反對監管 AI 的人就像想要一輛沒有方向盤的超速跑車。
川普對Anthropic國防合作態度轉向可談
短短數週前才禁止Anthropic與聯邦政府往來，川普如今表示該公司「正在走上正軌」，五角大廈合作「是可能的」。白宮會談中，Anthropic CEO達里奧·阿莫代伊展示了未公開模型Mythos，成為轉折關鍵。
中國立規監管 AI 伴侶禁扮親人
中國網信辦發布草案，專門監管模擬人類人格特徵並進行情感互動的 AI 服務，包括每兩小時強制休息、禁止模擬用戶近親、以及要求建立心理風險干預機制。
美國 FTC、SEC、司法部在無聯邦 AI 法下先行執法
美國聯邦執法機構在聯邦 AI 立法停滯之際，開始運用現有法律工具對 AI 公司採取行動。FTC 針對欺騙性 AI 聲明、SEC 鎖定 AI 漂白、司法部則在政府合約中適用虛假申報法，同時各州也通過了自己的法律。