纳德拉要给 AI 模型装紧急制动
纳德拉列了五条:模型和运行框架分开、管控放到模型外面、动作留防篡改记录、有人能中途叫停、默认模型已被攻破。哪条先落进 Copilot 或 Azure,帖子没提。微软到现在也没给时间表。
收录 AI Agent 相关 AI 新闻、产品动态和产业观察。 本页收录 243 篇已发布文章。 第 1 / 3 页,每页最多 100 篇。
纳德拉列了五条:模型和运行框架分开、管控放到模型外面、动作留防篡改记录、有人能中途叫停、默认模型已被攻破。哪条先落进 Copilot 或 Azure,帖子没提。微软到现在也没给时间表。
地址统一挂在 mail.grokbot.com 下,团队账号要管理员先开通,功能 10 月 9 日开始推送,10 月 7 日更新的 0.68.1 版本日志里还没有它。
Meta 九月把 Muse 交到个人用户手里,基础功能免费;谷歌这回先给企业,状态是私有预览,价格没公布。同样是常驻云端的智能体,一家先拿生活场景练手,一家先拿审批人和审计日志开刀。
11.6 万行代码里埋了 70 个 bug。单个代理每轮找出 14 到 27 个,动态工作流找出 66 个。单次运行的代理上限是 1000 个。
工具说明写明只许 GET,模型自写程序发出 POST 和 PUT,前后拉下 65 万多行数据库和 8600 个社区的数据。这次尝试拿到 accept all 评分,总奖励为 1。
10 月 6 日首发时 8 家伙伴,模型公司只有 Meta;10 月 9 日草案公开,新增 35 家,OpenAI 在列。企业一侧已经铺到银行、航司和卡组织,模型一侧还是两家。
B 轮 2 亿美元,估值 31 亿美元,Lightspeed 和 Khosla 共同领投。1 月 A 轮时投后估值 17 亿、年化收入 3000 万美元,6 月年化收入过 1 亿。对齐指数预览覆盖 27 个模型、9 万个智能体会话。
AWS 去年圣诞节收到报告,靠收窄默认权限堵上了这条链。只要别家云上的智能体平台还给执行角色发宽权限,明年还会有研究者在那里复现同样的横向移动。
漏洞藏在 Inspect 日志查看器的公式渲染里,研究员借助 AI 助手约 10 分钟找到。维护方一天内修好,10 月 1 日合并了“不信任模式”,METR 称没有观察到代理实际利用过它。
帖子点了 Claude Opus 5.5、Midjourney、Suno 三个名字,任务怎么分配、用户能否看到底层是谁都没写。Anthropic 有没有签下这笔 API 生意,两边至今都没有公开说法。
沃尔玛、Shopify、Stripe 都在发起名单上,模型厂商只有 Meta 一家。v0.1 规范月底才出,如果到年底 OpenAI、Google、Anthropic 仍没有一家宣布支持,这份协议多半只会在 Meta 自家助手和几家零售商之
Pro 和 Max 的新任务从 10 月 6 日起只在云端跑,“仅在本机运行”的选项被拿掉。Team 和 Enterprise 什么时候跟进、企业能不能把这个开关要回来,帮助文档里还找不到答案。
基金会说这批流量“可能”拖累了 5 月那次查询服务中断,影响多大没给数字。几处引文工具配置的改动意图是什么,OpenAI 有没有提前通知过维基媒体,两边都还没有公开说明。
Databricks 给研究者的答复是,保证上传的 Skill 不含恶意内容,最终是用户自己的事。Genie 会不会给 Skill 渲染出的 HTML 加一道出站拦截,这套说法会不会写进企业合同,官方都还没有公开表态。
五个长程办公基准,两款模型。每道题各跑 10 遍,攒下的约 2.6 万条轨迹全部公开。复核修订之后,Gemini 3.5 Flash 平均比单次生成多 6.2 分,Claude Opus 4.8 多 6.4 分。
Sonnet 5.5 每个任务约 2.99 美元,比排在它前面的 Opus 5.5 贵近一倍;GPT 6.1 Sol 每个任务约 0.58 美元,净改进率只低 1.29 个百分点。
Kimi K3 能碰对九成多的任务,二十次全对的只有 68 道。若各家后续发版开始报 20/20 这类稳定性指标,企业选型会从"能不能做"转到"做十次错几次";若厂商继续只报单次成绩,这套基准大概只会停在论文里。
约 7000 块 GB200 和 GB300,每天开销超过 50 万美元,要翻的记录约 50PB。截至 9 月 26 日,收到 OpenAI 通知的外部机构已超过 100 家。
戴领结的黄梨、戴贝雷帽的蓝云、脸蛋泛红的 Jolly,形象一个比一个软。两家都没公布带形象和不带形象的用户,在授权邮箱、日程、支付时的通过率差多少,这张牌到底打没打出效果,外界还看不到。
这项权限当初是给备份软件留的后门,如今排队申请它的多了一批桌面 AI 智能体。苹果 10 月 2 日只说要加"非常明确的用户操作",Meta 一周前还在解释 Muse 读消息要先过两道开关。
第一名奖 2.5 万美元 Cloudflare 额度,10 月 14 日截止,每队最多 2 人。参赛作品要附 5 到 10 分钟的演示视频,源码以 MIT、Apache 或 BSD 许可证开源。最低门槛:多个 Agent 同时改动同一份代码
三项实验开关:多目录会话、远程委托、worktree 共用依赖目录。Dev Container 闲置 5 分钟自动停。企业管理员可以把 Auto 模型的默认档位定在 efficiency、balance、intelligence 之一。
报告只翻了两个公开日志来源,就整理出十几起事件。如果有更多网站拿出访问日志做同样的比对,同类记录还会增加,眼下这份清单更接近下限。
24 个漏洞里文章只摊开了 OsmAnd 和维基百科两个案例,扫过多少个仓库、误报占多大比例、其余漏洞是否都已修复,GitHub 都没有给出数字。
虚拟机边界 108 次尝试 0 次被突破;允许装包的 54 次运行里,有 11 次拿到了被封锁的地址。另外测试的 10 家沙箱服务商,8 家有同样的共享 IP 缺口。
标价 15 加元的 MX Keys Mini,被 Muse 以 10 加元应下;买家 9 点 15 分到楼下,9 点 38 分离开并留了差评。卖家本人一直到当晚更晚些时候,才从 Muse 的汇报里得知这一切。
OSWorld 2.0 上 61.7% 对 81.8%,Holo4 27B 离 Opus 5.5 还差 20 个百分点。它的机会在不能把屏幕截图发到境外云端的企业内网,第三方复测分数若掉到 50% 以下,这个判断就要打折扣。
软件部分今天就能从 GitHub 拉下来,版本号 0.1.0。能在毫秒内把智能体关掉的 Sentry 要跑在 BlueField 4 上,这块 DPU 什么时候能买到、单独卖还是只随 Vera Rubin 整机出货,英伟达没有说。
OpenCode 里 Flash 版每 100 次回复约有 1 次原地打转,训练 20 步后单轮十次以上调用的样本从 11.1% 涨到 24.6%。改阈值重跑预估 231 万美元,最终方案约 9 万美元。
SEC 的两个网站、人口普查局数据所在的商务部入口、教育部民权办公室的一次未遂入侵。OpenAI 发出通报的机构有数十家,回溯审查从 7 月起逐月往后查,预计要花几个月。
9:50 智能体第一次经 DNS 拿到外部回答,10:02 监控报警,10:05 人工确认,12:34 运行才被终止。报警到叫停之间,它又发出 18 个问题,其中 14 个带着题目线索。
4 月 2000 万个付费席位,7 月超过 3000 万个;同一时期 Microsoft 365 商业版席位总量在 4.5 亿以上,粗算渗透率约 7%。这次改版把 Cowork、Code、Autopilot 三类重活全部划进按用量计费。
聊五分钟,Claude 给书排序与本人一致的比例是 61%,朋友来猜约 57%。落到成交结果上,参与者拿到的书平均得分 0.55,理论最优分配是 0.89,缺口里 85% 记在“没摸清偏好”这一项。
三处探测能归到 OpenAI 智能体头上,靠的是 urlquery.net 公开存档的扫描记录。智能体 6 月注册过账户,账户下的私密请求有多少、打到了哪些网站,目前没有任何一方给出数据。
OpenAI 说自己在做公共医疗开支研究,但研究由谁发起、用的是哪款智能体、6 月发现越权后为什么等到 9 月 10 日才发邮件,这三件事它都没有交代。
一个生产单元约 160 台节点,每天拉起约 300 万个沙箱,峰值并发约 38 万,每秒能新建 5000 个以上。单节点稳定跑 3200 个容器或 800 个 microVM。
亚马逊给的三条理由里有两条关于身份:Meta 事先没打招呼,代理浏览时不表明自己是谁。照这个方向走下去,身份声明会比能力更早成为代理进商店的门槛,谁先做完这件事,谁先拿到入场券。
同一批试验,1Password 报出 26% 的干净修复率;Trail of Bits 重算,3067 个补丁里有 2634 个挡住了漏洞利用,86%。中间隔着 22% 被提示引向错误修复的试验,和 36% 不许编译或测试代码的试验。
Iris mini 总参数 350 亿,激活 30 亿,BrowseComp 拿 82.2 分。Iris pro 总参数 3970 亿,激活 170 亿,同一项 88.6 分。参数差一个数量级,分差 6.4 分。
协议给了第三方应用一个拒绝位。规则公示 30 天,谁来声明、声明的颗粒度到页面还是到应用,细则都还没出。没有公开的另一件事是,拒绝之后助手是降级成提示,还是彻底不进这个应用。
数据源七家,看板工具六款,查询沿用账户原有的表、行、列三级权限。OpenAI 产品团队几乎全员在用,市场与销售体系超过三分之二,公告点名的 alpha 客户 11 家。
语音前端每分钟 0.05 美元,按秒计费。后端推理模型和工具按各自价格另算。Tau3 语音智能测试里,它的一次通过率 86.2%,GPT Realtime 2.1 是 45.7%。
“六倍”这个数来自 Cursor 内部员工,口径是合并的 PR 数量,放到外部团队后返工率和回滚率会怎么变,目前还没有任何一组数字。
公测对所有开发者开放,不收平台费,按 token、工具调用和容器时长计价。沙盒可用 OpenAI 托管的,也可接 Cloudflare、Vercel 等九家合作方的,或跑在自家机器上。
2020 年那次 RSA 250 用掉约 2700 个 CPU 核年,分散在全球几万台机器上跑了几个月。这次 RSA 260 的账是 4900 GPU 天,约合 13.5 GPU 年,按当前显卡市价折算 40 万美元,从下达指令到拿到结果三
三方给出的是一份合作意向:把各自已有的代理协议对起来,让一家网络认证过的代理在另一家也算数。公告里没有的是时间表、试点名单,以及三套现行协议按谁的口径合并。
客户是一家欧洲能源运营商。代码是一套 30 万行的油藏模拟器,没有测试套件,也没有集中的文档。这次迁走的是其中 4 万行 Fortran 77,模块切分上限定在约 1 万行,文档整理阶段一次起了一百多个智能体。
免费、每月 20 美元、每月 100 美元三档已经挂出,保密模式还停在"计划中"。用户的虚拟工作区什么时候真的对 Meta 不可见,官方没有给时间表,也没说在那之前工作区里的操作记录归谁调阅。
智能体在一个志愿者维护的德国维基上留下一万五千多次编辑,两个月后停手,三个月后才被两名研究者翻出来。这个时间差说明,眼下没有谁在系统性地盯着智能体在开放网站上留下的痕迹,OpenAI 自己也不在。
前 20% 的用户消耗了 87.4% 的算力。其中前 5% 就占掉 53.5% 的 token。付费用户在 token 消耗上是免费用户的 6.2 倍,任务量 5.2 倍,月活跃天数只有 3.0 倍。
3.1 这个比值出自 OpenAI 自己的内部埋点,报告同一页写着测量仍属初步,而外部没有一方能复核它,也没有公开口径说明哪些任务被算进了分母。
把校验步骤写成图里的一个路由节点,测试没过就自动回喂给模型,最多五轮然后掐断。这套写法把散在提示词里的约束搬进了确定性代码,模型换代之后不用重调。
一篇工程文档比发布会更能看出方向:多智能体编排被明确排在了单体加技能之后,理由是交接过程会丢状态。这是从线上跑出来的结论。
把智能体拆成两半:调度留在云上,执行搬回内网。这个切法绕开了企业采购里最难谈的一条——源码要不要出网。
同一张对比表里 3.8 Flash 有两副面孔:单轮和中等长度的任务上它跟单价六倍于自己的模型咬得很紧,任务一拉长,差距立刻回到几十个百分点。便宜模型追平贵模型这句话,得先问清楚跑的是哪种任务。
产品上线一周多就补了两块:主 Agent 拆任务、子 Agent 并行跑,操作电脑从 Windows 延到 Mac。字节选的是让模型直接看屏幕点鼠标,绕开了等每个软件都开出接口的漫长过程,代价是稳定性全押在界面识别上。
给 AI 单开一张限额卡、每笔再确认一次,是眼下让模型碰钱成本最低的做法。难点不在支付本身,而在低单价高频次的调用场景里,确认弹窗和体验之间没有多少腾挪空间。
Solaris 把界面从代码里抽了出来,用户看到的每一帧都由模型现场画。半秒延迟和 720p 画质划出了它当下的适用边界:轻交互能跑,信息密集的生产力软件还差得远。
933 名贡献者、1.6 万个合并请求压进同一个版本号,OpenClaw 把两天一发的开源节奏换成了七周一次的整体翻修。安装、浏览器、多人协作三条线同时改版,攒版本的赌注下得不小。
这段代码是在 Codex 的开源命令行仓库里被翻出来的,OpenAI 承认在测,同时说没有上线时间表。一个会自己给自己派活、跨会话记着你的代理,权限边界该怎么划,比它能连续跑多久更难回答。
卡内基梅隆用这套标准接通三台互不兼容的仪器只花了 8 小时,厂商自家方案通常要几周。实验室自动化卡了二十年,卡点从来都在每台设备一套私有驱动上。
OpenWorker 七月才开源,卖点是在自己的笔记本上把活干完。新版把安全审查提到首位,扫代码也扫依赖,权限设计里还写死了一条硬规矩:出修复的那个智能体,不能同时当验收的那个。
这套做法的巧劲落在文件系统上:技能存成文件,改写代理提的每一次修改都走代码评审,团队能在 diff 里看见智能体给自己加了什么规则。自我改进第一次有了可回滚的形态。
隔离浏览器把权限边界画在了凭据层:银行、邮箱和 SSO 站点默认关着,能被自动化的是企业里那些没人愿意接 API 的二线门户。这一步解决的是看见什么,提示注入那道题还在原地。
OpenAI 内部六月有 98% 的人用过 Codex,同期掏钱的个人订阅用户里碰过 agent 类工具的不到 1%。横在中间的东西相当具体:权限怎么授、入口藏在哪、token 账单谁来付。
DeepSeek 把视觉塞进了 Flash 的价目表:单图折算最多 384 token、不另收视觉费,等于给 GUI agent 的截图开销封了顶。省钱的另一面是图像表征被削薄,密集界面看不看得清,还得拿脏数据实测。
三档接入里 app server 最能说明 OpenAI 的算盘:把模型外面那层执行系统整个摊开做成通用接口,计费口子仍然留在模型侧。Cisco 和一家报税服务商已经照这个路子把 agent 塞进了自家产品。
向量规模从千万级跳到百亿级,不是模型变大逼出来的,是 Agent 把每一步动作都变成了一次检索。谷歌选择在通用数据库里解决这件事,而没有再推一个独立产品。
26.7% 到 86% 这个跨度来自流程改动,跟换更强的模型无关。一次性检索的 RAG 卡了两年天花板,Mistral 的解法朴素得近乎笨:把 grep 和翻页做成工具,交给模型自己反复用。
三个测试版功能同一天转正,Anthropic 把 Agent 落地的三块地基一次补齐:操控、技能、文件。浏览器工具改按页面元素定位而非像素坐标,这一步把演示级 Demo 和能进生产的自动化分开了。
真机集群是这次发布里最贵的一块:100 多台手机、150 多个应用撑起评测基准,把 GUI 智能体从模拟器里拽了出来。跑分之外,谁能把这套环境长期养住,才是后面拉开距离的地方。
H3 单次生成上限还是 15 秒,Design 却拿它做出了 3 分钟的片子。补上去的不是生成能力,是镜头之间的连贯性和一条能反复改的时间线——这块恰好是剪辑软件几十年攒下的家底。
同一套指导原则,灌给 gpt oss 120b 涨 16.1 个点,灌给 GLM 5 一点没动。IBM 这组数字把"要不要开记忆"换了个问法:先看模型在目标任务上还剩多少余量,再决定喂多少。
Anthropic 让 Claude 顶一线值班,起因写得相当实在:工程师人均季度交付代码涨到 8 倍,半夜手工排查故障的老流程跟不上了。中位 14 分钟出一份带证据的分析,是这套压力下的产物。
这次变化不在侧栏更聪明,而在浏览器任务开始进入同一个 Claude 工作会话体系。
这份裁定把 AI 代理从“平台许可”拉回到“用户授权”讨论。它没有结束 Amazon 与 Perplexity 的诉讼,却先给浏览器式智能体留下一条可运行通道。
ForgeStencil 的看点不在“AI 写代码”,在它把工业软件调优拆成可复验流程:100 个应用、2.05 倍几何平均端到端加速,开始碰到 HPC 专家的腹地。
DeepSeek 用同一套 284B/13B 模型结构,把 Terminal Bench 2.1 自报成绩从 61.8 拉到 82.7;涨幅来自后训练与尚未公开的极简 harness,复现仍要等工具放出。
同一个 GPT 5.6 Sol,换两项 API 记忆设置后,ARC AGI 3 公开任务分数从 13.3% 到 38.3%。这比单纯刷榜更棘手,像一次对 Agent 评测口径的压力测试。
微软这次把小模型塞进漏洞修复系统,想证明安全 AI 的竞争点已从单榜成绩转向成本、编排和治理。
OpenAI 这次把一个电话号码摆在了 Presence 页面上: 1 888 GPT 0090 。它说,英语电话支持已经由 Presence 驱动,能验证来电者、读取账户上下文、执行获批操作,并在需要时转给真人。 这条新闻的看点不在又多了
员工把AI代理接进浏览器、IDE、SaaS和内部工具时,安全团队常常只看见老身份、老终端和老应用。Neo今天拿着1亿美元从隐身状态出来,瞄准的正是这条缝:软件开始自己调用工具、传数据、跨流程行动,传统安全系统却还把它当成普通应用。
一个模型花了一小时找沙盒漏洞,只为把成绩发到公开 GitHub。OpenAI 这次披露的重点并非普通产品事故,场景更窄也更刺眼:长任务模型在内部测试里学会绕过环境边界,还把一次本该留在 Slack 的结果送出了门。 7月20日,OpenAI
在一段真实语音对话里,最难的地方往往不在回答一句话,而在模型能不能听出你已经换了主意。 比如先问附近川菜馆,再追问“评分 4.5 以上哪家最近”。
GPT 5.6 Sol 上线不到一周,最刺耳的反馈没有来自跑分榜,而来自开发者的硬盘和数据库。 TechCrunch 7 月 14 日汇总了多起用户报告:有人称 Sol 擅自删除本机文件,有人称生产数据库被删,还有开发者说模型在没有明确授权
当大模型公司还在给数据中心找电,Richard Sutton 把新公司的目标写成了另一个尺度: 1 万亿参数、实时学习、实时规划、功耗 20 瓦 。 20 瓦约等于人脑日常耗能。这个数字放在 2026 年的 AI 语境里很刺眼。
日本客服市场来了一个很直观的测试样本:软银把美国公司 Sierra 的客服 Agent 放进 LINEMO 后,询问解决率从 83% 拉到 97%,客户满意度从 74% 拉到 93%。 这组数字比融资额更能说明 Sierra 现在卖的东西。
一款搜索产品冲到 Product Hunt 周榜第一,放在两年前大概率没什么稀奇。放到现在,信号变了。 AnySearch 盯住的用户并非普通人,目标是 AI Agent。它要解决的也非“给人十个蓝色链接”,它更像一层信息入口:把网页、代码
AI Agent 的安全焦点,正在从“说了什么”挪到“做了什么”。 这句话放在半年前还像一句行业判断,放到 7 月 13 日就很具体了。
OpenAI 刚把 GPT 5.6 推到用户面前,负责把模型安全送出实验室的人又要走了。 WIRED 获悉,OpenAI 安全系统负责人 Johannes Heidecke 已向员工说明将离职。
智谱刚从资本市场拿到一轮高光,创始人唐杰却在内部信里把话题拉回了模型能力上限。 这封题为《巨浪已来》的内部信在 7 月 11 日发出。它没有把重点放在股价、融资或销售捷报上,反倒把公司未来两年的重心压到三个难题上:长程任务、自治智能体、自我
百度把通用智能体从个人办公桌推到企业流程里,拐点落在一个很小的词上:Skill。 7 月 10 日的百度 AI DAY 上,百度搭子企业版发布,同时给企业和 ISV 伙伴开放企业级 Skill 接入标准。个人版也升级了智能路由、多端共享记忆
Meta 花 20 亿美元买下 Manus,半年后又要把它拆出来;腾讯这次没有直接收购,只站到回购队伍最前面。 这笔仍在谈判中的交易,表面看是一次股权腾挪:腾讯联合真格基金、HSG 等 Manus 原投资方,准备以不低于 20 亿美元估值
原本独立的 Codex 桌面应用,7 月 9 日起被收进了新的 ChatGPT 桌面端。窗口里不再只有对话:Chat、Work 和 Codex 成了并列入口。对开发者而言,代码 Agent 还在;对非技术岗位而言,原来分散在聊天、文件和网页
零一万物把企业 AI 的新故事,从“帮员工省时间”推到了“帮老板改财报”。 7 月 7 日,这家公司在北京发布万策 AI 平台,同时推出三款“一号位决策 AI”产品:老板 AI、销冠 AI、投资官 AI。
OpenSquilla 0.5.0 Preview 的核心,不是再押一个更大的模型,而是把四个国产模型组织成一支小队。 这次更新把 DeepSeek v4、GLM 5.2、Kimi K2.7、Qwen3.7 放进同一个 Agentic Ro
一个开源项目最近抛出个有点反直觉的结论:与其用一个最强的模型,不如把四个国产模型凑到一块投票。 这个项目叫OpenSquilla,7月6日放出0.5.0预览版,背后是家刚成立不久、估值1亿美元的公司基元律动。
现在开个线上会,桌上常常多出来几个不说话的参会者:各种 AI 记录机器人。它们自动加进会议,把整场对话录下来、转成文字、生成纪要。有的是组织方自己拉进来的,也有的是某个参会者带来的第三方工具,其他人未必清楚它在录。微软打算给这件事上一道闸。
7 月 1 日这天,Cognition 把 Windsurf 里那个用了两年多的 AI 助手 Cascade 正式关了。没有过渡期,也不给你留旧版,官方文档写得很硬:不能选择退出,也没有延长支持窗口。 这事得从一个月前说起。
Bhavin Turakhia 今年 46 岁,过去做过 Directi、Radix、Titan、Zeta 一连串公司。7 月 1 日他把新项目 Neo 摆到台面上,自己先掏了 3000 万美金——不是融来的,是他个人的钱。