OpenAI 把推理成本砍掉一半
这条消息得放到一个背景里看才有分量:OpenAI 一年在算力上烧掉几十亿美元,其中最疼的不是训模型,是天天跑模型。 6 月 30 日,The Information 捅出一条:OpenAI 的工程师找到一个办法,把跑模型的推理成本砍掉了一半
收录 AI成本 相关 AI 新闻、产品动态和产业观察。 本页收录 4 篇已发布文章。
这条消息得放到一个背景里看才有分量:OpenAI 一年在算力上烧掉几十亿美元,其中最疼的不是训模型,是天天跑模型。 6 月 30 日,The Information 捅出一条:OpenAI 的工程师找到一个办法,把跑模型的推理成本砍掉了一半
"我也是个 token 上瘾的人,这玩意儿会上瘾。" 说这话的是微软 CEO 纳德拉。6 月 13 日他上了《Hard Fork》播客,难得没讲什么宏大叙事,反倒劝起大家省着点用 AI。 一句"硬道理" 纳德拉抛了个判断,原话是: "The
数十亿美元。这是 Meta 今年光是 员工自己内部用 AI 这一项,预计要烧掉的钱。 不是建机房、不是买卡,就是公司里的人敲键盘调模型——这一块账单,单拎出来就是数十亿。 扎克伯格坐不住了。据 The Information 拿到的一份内部
先说个拧巴的画面:美国企业的 IT 负责人,一边在合规群里转发「别用中国模型」的警告,一边把公司信用卡绑到了 DeepSeek 的 API 上。 这不是段子。6 月 7 日 The Decoder 援引 Ramp 的数据,把这事摆到了台面上