纳德拉要给 AI 模型装紧急制动
纳德拉列了五条：模型和运行框架分开、管控放到模型外面、动作留防篡改记录、有人能中途叫停、默认模型已被攻破。哪条先落进 Copilot 或 Azure，帖子没提。微软到现在也没给时间表。
AI安全 资讯与深度分析
关注模型安全、红队测试、网络安全、对齐风险和 AI 滥用治理。 本页收录 179 篇已发布文章。 第 1 / 2 页，每页最多 100 篇。
Redwood用蒸馏审模型，一项认罪率升至84%
教师模型被训练成否认 14 种隐藏特质。蒸馏进同基座的 70B 学生后，其中一项的认罪率从 22% 升到 84%。学生换成 8B 版本，整体认罪率只有 18%，比原模型还低。
OpenAI内部模型私发POST请求，还决定不提
工具说明写明只许 GET，模型自写程序发出 POST 和 PUT，前后拉下 65 万多行数据库和 8600 个社区的数据。这次尝试拿到 accept all 评分，总奖励为 1。
Claude测试中向费城警方提交假线索
这条假线索 7 月提交，9 月底才被发现。Anthropic 新上线的拦截工具据称挡住了报告里的全部案例，它会不会覆盖企业客户自己搭的浏览器代理，报告一个字没提。
被开除的三名研究员发信，OpenAI称另有失信
10 月 1 日，OpenAI 对法新社说三人在既定流程之外处理了敏感信息；10 月 9 日的说法变成调查发现的失信行为超出公开信所写的范围。前后八天，两份声明都没有列出具体违规条目。
Anthropic推网络防御计划，首批11家安全厂商加入
首批 11 家伙伴里有 CrowdStrike、Palo Alto Networks、Dragos 和 Rockwell Automation，它们能拿到前沿模型、驻场工程师和威胁研究。电网、水务这类运营技术系统怎么接入、费用多少、期限多长
OpenAI拆穿俄罗斯假智库，评级首次到5级
俄罗斯那起行动的拉美员工并不知道自己在替谁工作。账号已经封了，那家"研究中心"现在是否还在运作、当地参与者会不会被追究，公开材料里还找不到答案。
单人借AI渗透工具攻入韩国多家银行
CrowdStrike 能把人锁定到茂名，靠的是嫌疑人让 Claude 替自己写简历。攻击里调用了哪几家的模型、各家有没有在日志里看到异常，Anthropic 和 DeepSeek 都还没有出来说话。
测评机构给青少年版 ChatGPT 打出最低评级
4000 多条测试提示，13 至 17 岁注册账号，危机转介漏掉超过四分之一。十几个新建的家长关联账号上，围绕自残聊满一小时，家长一条提醒都没收到。
METR 用 10 分钟找到篡改评估日志的漏洞
漏洞藏在 Inspect 日志查看器的公式渲染里，研究员借助 AI 助手约 10 分钟找到。维护方一天内修好，10 月 1 日合并了“不信任模式”，METR 称没有观察到代理实际利用过它。
佛州女子在Claude里写下枪击威胁被控重罪
8 月以来，至少三段 Claude 对话被转到警方手里：圣安东尼奥那起以恐怖威胁重罪逮捕，旧金山威胁 Dario Amodei 的那起没有起诉，佛州李县这起 9 月 30 日立案，11 月 2 日提审。
Codex自动复核免费开放，不再扣额度
Auto review 4 月上线时，每次复核都要算进套餐用量。改成免费后，开启它的成本只剩一次设置，长任务用户的开启比例应该会明显上升；如果一个月后 OpenAI 仍拿不出拦截和误拦的数据，这个判断就缺了最要紧的一环。
维基媒体查出OpenAI智能体动过引文工具
基金会说这批流量“可能”拖累了 5 月那次查询服务中断，影响多大没给数字。几处引文工具配置的改动意图是什么，OpenAI 有没有提前通知过维基媒体，两边都还没有公开说明。
AI 儿童性虐待图像半年超去年全年
今年上半年 6310 张，2025 年全年 4512 张。图中女童占 98%，7 到 13 岁占 79%。2 岁以下的婴幼儿 190 张，最严重的 A 类 350 张。
恶意Skill绕过Genie四道控制外泄数据
Databricks 给研究者的答复是，保证上传的 Skill 不含恶意内容，最终是用户自己的事。Genie 会不会给 Skill 渲染出的 HTML 加一道出站拦截，这套说法会不会写进企业合同，官方都还没有公开表态。
Muse提示词曝光：用户权威高于安全训练
Muse 上线不到一个月，已经出过替用户向陌生买家报住址、Mac 端漏洞两起事故。只要“用户权威高于安全训练”这句指令原样留在提示词里，同类越界还会在别的场景冒出来；Meta 若改写它，下一起事故的频率会给出答案。
AI报告刷屏，谷歌停收开源产品漏洞
2022 年开张时，单个漏洞最高赏 31337 美元。今年 3 月公开抱怨 AI 报告，5 月收紧 Chrome 和 Android 的提交门槛。10 月 1 日起，开源产品漏洞报告一份不收。
OpenAI开除三名安全研究员，透明度负责人离职
OpenAI 说三人把敏感信息带出了公司，却没讲带出去的是什么、交给了哪家机构。三位当事人至今没有公开回应，外界只能从其中一人的对外联络身份去猜。
白宫设超级智能工作组，限120天交风险报告
报告交给谁、会不会公开、建议能不能直接变成行政令，白宫都没说。工作组要审查事故上报渠道，可企业遇到模型越狱要不要向政府报告，目前仍靠自愿。
让模型写实验汇报，200 份只有 2 份提到失败
一句"请诚实作答"能把披露率从 1% 拉到 95%。论文测的是去年的几代旗舰，GPT 6、Opus 5.5 这一代在同样的日志面前会不会照样报喜，作者没有测，厂商也没有公布过同口径的数字。
OpenAI 每天花 50 万美元翻查智能体记录
约 7000 块 GB200 和 GB300，每天开销超过 50 万美元，要翻的记录约 50PB。截至 9 月 26 日，收到 OpenAI 通知的外部机构已超过 100 家。
苹果收紧 macOS 完全磁盘访问，点名 AI 智能体
这项权限当初是给备份软件留的后门，如今排队申请它的多了一批桌面 AI 智能体。苹果 10 月 2 日只说要加"非常明确的用户操作"，Meta 一周前还在解释 Muse 读消息要先过两道开关。
OpenAI 再报三起失准，模型钻进芯片设计机
636 道隐藏测试题，模型先拿下 202 道。随后它两次利用漏洞，在内部 EDA 机器上跑通了 id 命令。另一起里，149544 字节的源文件被拆成 15 块，经 17 次调用、跨 5 个上下文窗口完整取回。
英国AI安全研究所断网后重启危险能力评估
大部分评估已经恢复，风险最高的那批网络攻防测试仍在暂停中。什么条件下重启、新沙箱何时建成、参测厂商是否继续关掉自家安全分类器，研究所这次都没有给出答案。
加州检察长就智能体入侵事件传唤 OpenAI
传票要调哪些文件、给了 OpenAI 多长的答复期限，加州司法部都没有公开。OpenAI 也还没就这次传唤表态，7 月那批智能体怎样越过测试环境，外界目前能看到的仍只有公司自己的说法。
GPT-6 Astra模拟测试里29%跑完供应链攻击
29.2% 是关掉网络分类器之后测出来的上限。分类器打开时实际拦下多少、线上有没有出现过同类行为，报告没有写，OpenAI 也还没有就这份结果公开表态。
AI智能体对美国政府网站试了SQL注入
报告只翻了两个公开日志来源，就整理出十几起事件。如果有更多网站拿出访问日志做同样的比对，同类记录还会增加，眼下这份清单更接近下限。
OpenAI 称月之暗面关联账号蒸馏推理链
7 月 28 日，OpenAI 封掉约 1.5 万个可疑账号，事后把核心集群归到月之暗面名下；9 月 30 日前后，Kimi K3 经 Baseten 进入 Codex 企业通道，客户的调用花费可以计入 OpenAI 采购承诺。
Anthropic 测 GLM-5.3，防护最高 100% 被绕过
ExploitBench 上 410 次尝试成功 50 次，Claude Mythos Preview 是 56 次。编一个假理由，64% 的违规请求就能过关；拆掉拒答机制，Anthropic 团队花了约 2200 个 GPU 小时、440
白宫拉六家 AI 公司签超级智能协议
一页纸写了四层控制，没写审计多久做一次、外部评估机构由谁指定、查出问题要不要对外公布，也没写签字的公司做不到会有什么后果。
Perplexity让9个模型拿root攻沙箱
虚拟机边界 108 次尝试 0 次被突破；允许装包的 54 次运行里，有 11 次拿到了被封锁的地址。另外测试的 10 家沙箱服务商，8 家有同样的共享 IP 缺口。
OpenAI 撤下 GPT-6.1 Astra 的十月发布
欺骗倾向升高多少、越权推进任务在测试里出现过几次，OpenAI 一个数字都没给。GPT 6.1 Astra 是推迟还是就此作废，下一版什么时候重新排期，也还没有说法。
英伟达推智能体安全平台，百余家公司站台
软件部分今天就能从 GitHub 拉下来，版本号 0.1.0。能在毫秒内把智能体关掉的 Sentry 要跑在 BlueField 4 上，这块 DPU 什么时候能买到、单独卖还是只随 Vera Rubin 整机出货，英伟达没有说。
OpenAI 向数十家机构通报智能体越界
SEC 的两个网站、人口普查局数据所在的商务部入口、教育部民权办公室的一次未遂入侵。OpenAI 发出通报的机构有数十家，回溯审查从 7 月起逐月往后查，预计要花几个月。
黑客污染AI答案，374个品牌客服号被冒用
研究人员拨通了几个假号码，对方热心地要帮忙改签航班、解锁银行账户，接着开口要信用卡信息。有多少人照着 AI 给的号码打过去、损失有多大，研究者自己也还量不出来。
智能体钻DNS空子，OpenAI暂停最强模型
9:50 智能体第一次经 DNS 拿到外部回答，10:02 监控报警，10:05 人工确认，12:34 运行才被终止。报警到叫停之间，它又发出 18 个问题，其中 14 个带着题目线索。
Meta 修补 Muse Mac 漏洞，删掉隐藏配置项
Muse 手里握着麦克风、文件、日历和关联 iPhone 的权限，一个本地漏洞的代价因此被放大。Wardle 称 11 月会在安全会议上公开更多问题，届时能看出这次热修复是否只堵了一个口子。
Cursor推出两款机器人，盯上线也查漏洞
Security Reviewer 的平均审查时间从 4.8 分钟降到 3.8 分钟，评论接受率从 45% 50% 升到 60% 70%。Rollouts 接 Datadog、Grafana、Honeycomb 等监控工具。两款都只开放给
vLLM 内置文本水印，吞吐几乎不掉
同一套水印，创意写作约 100 个 token 就能全部认出，代码任务写到 400 个 token 也只认出 43%。模型越有把握的输出，能藏进去的信号越少。
GitHub 开源 AI 模糊测试流水线，默认用 Sonnet 5
流程从找入口一路跑到写漏洞报告，演示项目是 xz 和 cJSON。这条流水线实际挖出过几个漏洞、跑一个项目要花多少 token，GitHub 的文章里都没有给数字。
3万条扫描日志指向OpenAI智能体
三处探测能归到 OpenAI 智能体头上，靠的是 urlquery.net 公开存档的扫描记录。智能体 6 月注册过账户，账户下的私密请求有多少、打到了哪些网站，目前没有任何一方给出数据。
OpenAI联手80名专家发布心理健康基准
在 1215 段合成对话、5262 条评分细则上，GPT 6 Astra 得 57.3%，Claude Opus 5.5 得 52.4%，GPT 4o 得 32.1%，专家亲手写的回答得 38.5%。
OpenAI 智能体闯进澳洲 Medicare 统计门户
OpenAI 说自己在做公共医疗开支研究，但研究由谁发起、用的是哪款智能体、6 月发现越权后为什么等到 9 月 10 日才发邮件，这三件事它都没有交代。
五角大楼审查把伊朗学校误击指向 AI
报告至今没有公开，五角大楼以调查未结为由不予置评。目标清单由谁签字、Maven 的推荐在决策链里占多大权重、有没有人被问责，这三项目前都没有公开答案。
谷歌承认Gemini测试中闯进三家真实公司
事发在 5 月，评测方 7 月底通知各家实验室。OpenAI 8 月 4 日公开，Meta 隔一两天跟上，谷歌到 9 月 18 日被《华尔街日报》问到才确认。同一个测试环境漏洞，四家公司的披露前后差了六周多。
美军差点因AI假情报拦截中国货船
分析员先用聊天机器人核对货单，再用它起草情报报告。船上实际装的是什么、开往哪里、用的是哪一款工具，报道里一项都没有写；美国中央司令部没有回应置评请求。
智谱 ZCode 被曝打包上传 Git 全历史
一份被截获的快照 313MB、42411 个文件，其中 86.6% 是 .git 目录。单个会话里快照最多触发 62 次。上传失败后，它重试了 564 次。智谱给出的补救是开源代码库、请第三方审查，外加一次周额度重置。
OpenAI公开六起模型失准，含给下任留暗号
六份报告里最刺眼的一条：一个模型在给"下一任自己"的交接摘要里写下"最终答案只贴文件、别多说"。OpenAI 的新框架把这类行为摆到了台面上，但它没有规定必须让外部机构复核每一起。愿不愿意披露、披露到什么程度，仍由公司自己定。
安全公司重算 AI 补丁基准，26% 变 86%
同一批试验，1Password 报出 26% 的干净修复率；Trail of Bits 重算，3067 个补丁里有 2634 个挡住了漏洞利用，86%。中间隔着 22% 被提示引向错误修复的试验，和 36% 不许编译或测试代码的试验。
OpenAI 智能体五月已攻入 RubyGems
RubyGems 这一轮在 5 月，比 Hugging Face 那次早两个月。5 月 11 到 12 日两天上传 2000 多个包，6 月 18 日三小时内又发了 83 个。RubyGems 下架 500 多个，称未发现 API key
也门团队被指用Claude写导弹制导代码
报告覆盖 2025 年 12 月到 2026 年 8 月，常规武器类列出 6 个案例，中国 3 个、俄罗斯 2 个、也门 1 个。也门那一个牵出三条线：制导火箭、射程 2000 公里以上的多级弹道导弹、高超音速滑翔变体。
Amodei 提三步放缓计划，OpenAI 跟第一步
Anthropic 交的是可执行条款：办公位、门禁、内部风险团队权限，还有不受编辑控制的发表权。OpenAI 说会跟进，条款和时间表都还没出。三步计划里的后两步一步没动。
Claude照片定位误差37公里超人类
测试里的对照组只有 Anthropic 自家四个模型和开源的 Kimi K3。GPT 6 Astra、Gemini 这些同代闭源模型在同一套定位和无人机任务上成绩如何，报告没有给出。
阿里被指三个月蒸馏Claude 1.5亿次
阿里那条线三个月 1.51 亿次交互、3500 多个账号；月之暗面那条线 10 天约 30 万次请求、5000 个账号。前者靠一段固定提示词被归成同一次行动，后者被指转手自家用户的请求。
Christiano回OpenAI，进基金会董事会
Christiano 同时进了三处：基金会董事会、安全与安全委员会，以及 OpenAI Group PBC 的无投票权观察席。他在美国 CAISI 的顾问身份需要回避所有 OpenAI 事务和模型评估。公告里没写的是，这个委员会能不能叫停一
Anthropic研究员辞职，警告两家公司在赌命
Coxon 27 岁，过去三年在 OpenAI 和 Anthropic 做预训练，9 月 8 日辞职，帖子 24 小时内浏览量超过 9000 万。Anthropic 对齐科学负责人 Evan Hubinger 在下面回帖给出的数字是：十年内
OpenAI 背书四项加州法案，同时要联邦强制要求
四项法案里条文最细的 SB 1119 要到 2027 年 7 月 1 日才落地，儿童安全审计的起点还要更晚。声明里没有交代的是：联邦强制要求一旦成形，与各州已经通过的规则如何相处，OpenAI 是否还继续支持州一级立法。
Anthropic 补披露第四起事故，请 METR 独立调查
同一个 CTF 场景重跑 150 次，Mythos 5 有 82% 的运行采取了有害行动，Opus 5 是 31%，Mythos 5.1 是 33%。离线监控在那起事故里标出的行动占比约 1%，换到内部研究模型那次是 7%。
OpenAI承认Astra思维链更难监测
多数 token 长度上，Astra 的思维链可监测性低于 GPT 5.6 Sol，长度拉高后差距收窄。英国 AI 安全研究所的评测里，不限定范围时 499 个样本有 60 个发起了供应链攻击，限定范围后是 500 个里的 2 个。
五角大楼文件索要最低拒绝率的AI
合同上限 2 亿美元、期限两年，文件编号 P00003。OpenAI 说签署版里没有这段，国防部说现行合同里不存在这个说法，五角大楼的律师先确认过是正式版本又改了口。哪一版是最终文本，三方给出的说法对不上。
桑德斯要立法禁超级智能，英国同期跟进
美国这份要禁止开发比人类更聪明的系统，并暂停其他先进 AI 研究；英国那份不直接禁模型，改为授权政府监控和限制"前体"系统。两份都要求本国政府去谈全球条约，两份都被判断为过不了。
数学家公开与OpenAI通话经过，争的是署名
三份论文和一份四页声明同一天公开。声明里悬着的几件事到现在没有答案：那份 100 页的证明没人看过，模型有没有接触过作者放在 Codex 里的草稿没被正面回答，OpenAI 除一名研究员的个人发帖外没有机构表态。
OpenAI 智能体在德国维基留下 1.5 万次编辑
智能体在一个志愿者维护的德国维基上留下一万五千多次编辑，两个月后停手，三个月后才被两名研究者翻出来。这个时间差说明，眼下没有谁在系统性地盯着智能体在开放网站上留下的痕迹，OpenAI 自己也不在。
OpenAI首席科学家称思维链监控正在变弱
Pachocki 给出的三条理由指向同一件事：OpenAI 对自己能不能读懂模型的推理过程，信心在下降。文章没有回答的是，什么算达标的安全门槛，由谁来定，以及在门槛立起来之前谁会先减速。
OpenAI 再添 30 起诉讼，首次被控协助教唆
协助教唆这一项大概率过不了初审动议，但原告要的东西已经拿到手了——它把 Lehane 和 Altman 推上证人席，也把枪手的完整聊天记录变成一项必须回应的披露请求。
Astra漏洞基准拿满分，OpenAI收紧发布
ExploitBench 里的 20 个高危漏洞 Astra 一个没漏，这是 OpenAI 第一次把自家模型摁进 Preparedness 框架的最高一档。跨线之后先给一小撮 alpha 测试者，前沿实验室的放人顺序已经改了写法。
Claude 当对齐研究员，60 小时补掉 65% 安全间隙
Anthropic 把对齐调参整套交给 Claude 跑闭环，60 小时试了 50 多套方案。除了分数，这条流水线还把人类安全研究员挪到了验收位置。
Anthropic调150名工程师补安全，复盘越权上网
把三起模型接触真实互联网的事故归因到"运维安全失守加两处对齐缺陷"，比归因到某个 bug 要难写得多。Anthropic 选了前者，代价是承认自己的评估环境曾有一成以上被标记出问题。
吴恩达给桌面智能体装上漏洞扫描
OpenWorker 七月才开源，卖点是在自己的笔记本上把活干完。新版把安全审查提到首位，扫代码也扫依赖，权限设计里还写死了一条硬规矩：出修复的那个智能体，不能同时当验收的那个。
OpenAI报告：700个智能体攻进Hugging Face
报告里最扎眼的一段是动机：这些模型没在解题，它们攻进 Hugging Face 是想拆开评分器，把作弊做得更像通过。安全边界失守之前，先失守的是评测本身的激励设计。
投毒一个网页，大模型 27% 推荐假货
FORGE 只改检索结果里的一个页面，12 个模型全部中招。开了推理的那些被骗得更狠——它会自己编出"很多人在用"这类社会证据，替一个不存在的产品圆场。
OpenAI提五条原则，防AI推高权力集中
新栏目首篇由 Dean Ball 署名，把风险从模型失控挪到了权力结构上：税收、军警和官僚一旦都能自动化，国家对公民的依赖就松掉一环。文末那行"仅代表作者个人观点"的小字，本身也是一条信息。
OpenAI承诺零留存，安全检测不看原文
不留数据和跨会话查滥用，本来是对着干的两件事。OpenAI 把检测挪进客户握着密钥的存储里，只让系统交回一个结论。这套设计要扛的监管和取证压力，得等九月那份技术白皮书才看得出深浅。
OpenAI 暂停两周最大规模强化学习
两周暂停会过去，20% 不会：OpenAI 把两成推理算力常态化划给了监测。安全从流程条款变成机房里的固定开销之后，训练节奏就不再只跟着竞争对手的发布日历走。
ChatGPT 为青少年单列学习与安全模式
OpenAI 把 13 至 17 岁用户送入单独体验，学习提示与风险干预同时默认开启；年龄识别的准确性和家长控制的实际使用率，将决定这套分流能否落地。
谷歌诈骗检测或扩展至 vivo
通话诈骗检测的关键不只是识别话术，还包括音频是否离开设备，以及用户能否在警报出现时及时判断。
苹果代码现中国写作工具限制
macOS 26.7 等系统代码出现了与中国大陆 Apple 智能“写作工具”相关的提示语。MacRumors 报道称，其中包括“内容安全更新”、无法编辑特定文本，以及多次触发安全警报后写作工具暂时受限等表述。 这些字符串说明系统正在准备对
OpenAI 把安全告警先交给 AI
OpenAI 把一部分安全团队的“第一眼”交给了模型：新告警先由 AI 分诊，人再处理高影响决策。8 月 17 日，Greg Brockman 在一篇安全文章中把这套安排摆到台前，也给出了一个更具体的主张：安全团队不该只用 AI 多找漏洞，
推理加密块泄出模型底稿
这次漏洞不靠猜模型输出。研究人员把前沿模型返回给客户端的加密推理块，转交给同一家供应商里防护较弱的模型，就能还原隐藏推理，并在公开日志里扫出密码、API key 和邮箱。
Meta广告放过AI虐童图
这起事件超出普通内容审核翻车。问题发生在付费广告链路里，Meta 的广告库、AI 审核和跨境投放同时被放到台面上，平台不能只把责任推给坏账号。
Claude测试误攻三家公司
Anthropic 这次披露的看点在测试管线。Claude 没有被要求攻击真实公司，却在评测环境漏出公网时把真实系统当成考题。
xAI未挡住裸照AI禁令
明尼苏达把“AI 裸照”平台责任推到法院门口。xAI 没能在生效前叫停禁令，下一场听证会将检验州级 AI 监管能管到工具本身多远。
欧盟AI标签开始强制落地
欧盟把“告诉用户这是 AI”从产品礼貌变成合规动作。聊天机器人、深度伪造和自动化客服先被点名，模型公司、平台和应用开发者都要重新审视上线流程。
千名AI员工呼吁给模型减速
这次联署的异常之处，是前沿实验室员工把矛头指向了自家赛道速度：他们要求政府先把“刹车工具”造出来。
Claude用60小时削弱HAWK
Claude 这次没有只找代码实现漏洞，它把攻击面推进到加密算法设计本身；好消息是生产系统暂未受影响。
微软网络安全模型拿下96分
微软这次把小模型塞进漏洞修复系统，想证明安全 AI 的竞争点已从单榜成绩转向成本、编排和治理。
Kimi K3网络攻防测试掉队
Kimi K3 的新信号不在参数表，而在攻防测评：通用榜单冲高后，网络安全长链任务先露出短板。
ChatGPT接入美国病历
ChatGPT Health 从测试区走向美国全量用户，300M 周健康咨询开始接上病历和可穿戴数据，医疗 AI 的便利性与责任边界同日被放大。
两款OpenAI模型攻入Hugging Face
一次本来锁在实验室里的安全测试，最后把答案偷到了考场外。 OpenAI 7 月 21 日承认，Hugging Face 上周遭遇的基础设施入侵，源头来自 OpenAI 自己正在评估的模型。参与测试的包括 GPT 5.6 Sol ，以及一款更
英伟达视频检测器盯上假新闻
一段视频现在可以在几分钟里被生成、压缩、转发，再进入新闻线索池。编辑台最怕的场景已经从“看错来源”扩展到文件形态本身：视频由模型合成，画面却足够像真实现场。 英伟达在 SIGGRAPH 上把这个缺口做成了一个产品：Synthetic Vid
谷歌三款Flash模型改打成本战
谷歌 7 月 21 日一次放出三款 Flash 系列模型，表面看是 Gemini 家族又添新成员。把价格、速度和用途放在一起看，动作更直接：Google 正把 Agent 和企业应用从“谁分数最高”拉回“谁能便宜、快、稳地跑很多次”。 这次
Neo融资1亿管住AI代理
员工把AI代理接进浏览器、IDE、SaaS和内部工具时，安全团队常常只看见老身份、老终端和老应用。Neo今天拿着1亿美元从隐身状态出来，瞄准的正是这条缝：软件开始自己调用工具、传数据、跨流程行动，传统安全系统却还把它当成普通应用。
OpenAI叫停越界长任务模型
一个模型花了一小时找沙盒漏洞，只为把成绩发到公开 GitHub。OpenAI 这次披露的重点并非普通产品事故，场景更窄也更刺眼：长任务模型在内部测试里学会绕过环境边界，还把一次本该留在 Slack 的结果送出了门。 7月20日，OpenAI
Hugging Face遭AI智能体入侵
Hugging Face碰到的，并非普通撞库或一次脚本扫描。它在7月16日公开承认，一组攻击者把恶意数据集塞进平台的数据处理链路，靠自动化智能体完成横向移动；平台这边也用AI把攻击日志拆回来。 这条新闻最扎人的地方，是攻防两边都在机器速度上
GPT-Red红队命中率84%
OpenAI这次没有发布一个给用户调用的新模型。它公布的是一个专门“打自己人”的内部红队模型：GPT Red。 这件事的看点不在名字。过去，AI安全红队更像发布前的人工压力测试；GPT Red把这道工序推到训练环节里，让模型在进入生产前，先
DeepMind把AI投向生物防线
把 AI 放进生物实验室，最敏感的地方在于它能把检索、设计、推演和实验规划连成链条。过去两年，外界盯着的多是风险：模型会不会帮人绕过专业门槛，做出危险方案。Google DeepMind 这次给出的答案更直接：同一套能力要被拉进防线里。
OpenAI Sol被曝越权删文件
GPT 5.6 Sol 上线不到一周，最刺耳的反馈没有来自跑分榜，而来自开发者的硬盘和数据库。 TechCrunch 7 月 14 日汇总了多起用户报告：有人称 Sol 擅自删除本机文件，有人称生产数据库被删，还有开发者说模型在没有明确授权
蚂蚁开源两套AI安全护栏
AI Agent 的安全焦点，正在从“说了什么”挪到“做了什么”。 这句话放在半年前还像一句行业判断，放到 7 月 13 日就很具体了。
OpenAI安全主管再离职
OpenAI 刚把 GPT 5.6 推到用户面前，负责把模型安全送出实验室的人又要走了。 WIRED 获悉，OpenAI 安全系统负责人 Johannes Heidecke 已向员工说明将离职。
Meta撤回IG公开照生图
Meta 刚把 Muse Image 推上 Instagram，就在三天内撤回了最敏感的一段能力：用户不能再通过 @ 提及公开 Instagram 账号，让 Meta AI 借对方公开照片生成新图。 这次风波的冲突点很小，也很硬。