OpenAIのCFO、サラ・フライアー氏は9月8日、ゴールドマン・サックス主催のコミュナコピア（Communacopia）カンファレンスで、同社が自社の最先端モデルをチップ設計に活用していると明かし、自社開発の推論チップ「Jalapeno」は設計からテープアウトまでわずか9カ月で完了したと述べた。同氏はさらに、チップ設計、ライフサイエンス、金融サービスの3分野を重点領域に挙げ、これらの分野で特定業務向けに構築されたAIへの需要が高まっていることを理由に挙げた。
JalapenoはOpenAIとブロードコムが共同開発した推論チップで、今年6月に発表された。自社モデルをより低コストで動かすことを目的としている。公表されている内容によれば、初期サンプルは典型的なAI向けGPUと比べて約半分のコストで済むという。出荷時期は明らかにされていない。
9カ月というスピードはカスタムチップとしては異例の速さだ。新しい推論用ASICをアーキテクチャ確定からテープアウトまで持っていくのに、業界では通常1年半から2年かかるとされる。フライアー氏はこの短縮の理由を自社モデルに帰したが、モデルが具体的にどの工程を担ったのか——レイアウト設計、検証、あるいはより上流のアーキテクチャ探索なのか——には触れなかった。
LunaをGLM-5.3と比較
今回の発言でより具体的だったのは価格の部分だ。フライアー氏によれば、Lunaは80%の値下げ後、入力価格が100万トークンあたり0.20ドル、出力価格が1.20ドルとなり、利用量はその後約10倍に増えたという。同氏はさらに、中国産のオープンウェイトモデルを名指しして比較した。
"If you're deploying Luna and compare that to (Z.ai's) GLM 5.3, for example, on a cloud layer, we are cheaper."
Lunaを導入して、例えばクラウド層で（Z.aiの）GLM 5.3と比較した場合、我々の方が安い。
この比較の前提には注意が必要だ。フライアー氏が比較したのは「クラウド上にデプロイされたGLM-5.3」、つまりオープンウェイトモデルをサードパーティのクラウドでホスティングした際の実際の単価であり、智譜（Zhipu）自身のAPI公表価格とは別の数字だ。GLM-5.3が発表時に示した出力価格は100万トークンあたり4.4ドルだった。同じモデルでも自社APIとサードパーティクラウドでは、GPU占有率やメモリ、同時実行率の按分が異なるため、価格が数倍違うことがある。OpenAIは今回の比較の詳しい前提や、想定したスループット水準を明らかにしていない。
中国産オープンウェイト陣営への実質的な圧力
この訴求が想定しているのは企業の自社ホスティングだ。この2年、国内外の企業がオープンウェイトモデルを選ぶ主な理由は2つあった。データを外部に出さないこと、そして自前で運用した方が安く済むことだ。1つ目の理由は影響を受けないが、2つ目はクローズドモデル側の値下げによって圧迫されつつある。Lunaの出力価格が1.20ドルまで下がり、さらにその背後に値下げを続ける自社製推論チップが控えているとなれば、「自社ホスティングの方が安い」という計算は見直しを迫られる——特に同時実行数が少なく、GPU使用率を上げにくいチームにとっては。
ただし明確にしておくべき点がある。フライアー氏が示した数字は売り手側の視点によるものであり、LunaとGLM-5.3を同一のスループット条件で比較した単価の公開検証は第三者によってまだ行われておらず、智譜側もこの比較について回答していない。
参考資料：ロイター、CocoLoop、Qz；複数の報道をもとに、Lunaの入出力単価と値下げ幅、Jalapenoの設計期間とサンプルコスト比率、フライアー氏の英語での発言内容を確認した。