Anthropicは、Claudeの基盤であるMessages APIをPythonからRustへ丸ごと移行した。エンジニアリングを統括するKatelyn Lesse氏とプロダクトを統括するAngela Jiang氏が、ポッドキャスト「Latent Space」で移行の経緯を語った。切り替え後、CPU使用量は約40〜50%減少し、最初のトークンの応答時間は約10〜20%短縮された。長時間動くタスクでは改善がさらに大きいという。ゲストによると、Rust版APIは収録の1週間前に全面稼働していた。
Messages APIは、開発者がClaudeを呼び出す際の主な入り口だ。Jiang氏によれば、約1年前に入社した時点では、このシステムはPython製のモノリスで、GCPの1リージョンだけで動いていた。
ボトルネックはCPUだった
大規模モデル企業の制約というと、通常はGPUが話題になる。しかし今回のインタビューで繰り返し出てきたのはCPUだった。利用量が急増するなか、APIサービス、プロダクトのバックエンド、コードサンドボックス、継続的インテグレーションがCPUを奪い合い、コードが増えるほどCIの実行頻度も上がる。ゲストの説明では、研究チームとプロダクトのサンドボックスは同じCPU割り当てを共有しており、一方が多く使えば他方は減らさざるを得ない。こうした環境では、Python版サービスは特にリソースを食っていたという。
Rustの採用は社内で意見が割れた。理由は単純だ。
“we don't have a single Rust developer in the room.”
（会議室にRust開発者は1人もいなかった。）
Rustの経験を持つエンジニアが加わったのは、その後のことだ。
設計は人間、実装はClaude
役割分担はこうだ。エンジニアが分散システムの設計と検証を担い、実装コードの大部分はClaudeに任せた。Claudeは、エンジニアが必要なRustの知識を補う際にも使われた。ゲストは、コードを書くこと自体よりも、計画と検証のほうが重要だと強調している。
検証の手法は従来型に近い。まずRust版APIの完全なブランチを作り、本番トラフィックをシャドーコピーして、新旧2つのシステムの出力を1件ずつ突き合わせた。そのうえで、フィーチャーフラグとロードバランサーを使い、実トラフィックを少しずつ切り替えていった。移行は専任チームが担当し、ほかのエンジニアは通常どおり新機能を開発した。両者の差が開かないよう、Pythonで新たに追加されRust版にまだ対応がない機能は静的解析で洗い出し、移植チームは移行期間中の新規要件の追加をできるだけ断った。
ゲストの見立てでは、従来のやり方で少しずつ段階的に移行すれば数年かかった可能性があり、今回は一括の全面移植だった。実際にどれだけ期間を要したのか、Claudeが生成したコードの割合がどれほどだったのかは、インタビューでは示されておらず、外部からは現時点で確認できない。
類似の書き直しと並べて見る
モデルが主に書き、人間が最後の砦になる大規模な書き直しは、最近いくつか出てきている。GitHubは以前、Copilotを使って自社のランタイムを約83万行のRustに書き直したと明らかにした。Opus 5.5のリリース前後には、あるチームがそれを使い、2週間でTypeScriptコンパイラーをRustに移した。これらの事例に共通するのは、移行先の言語にいずれもRustを選んだこと、そして検証を新旧出力の突き合わせか完全なテストスイートで担保したことだ。
違いは、失敗した場合のコストにある。コンパイラーや開発ツールで問題が起きても、影響は多くの場合、開発者のローカル環境にとどまる。一方、Messages APIは外部からのすべての呼び出しを受けるため、挙動に食い違いがあれば、顧客の本番システムにそのまま響く。Anthropicがこの経路で全面移植に踏み切れたのは、シャドートラフィックと1件ずつの突き合わせという昔ながらの手法のおかげであり、モデルが速く書けるというだけでは支えきれなかった。
ほかの企業が参考にできるのは、言語の選択よりも、おそらく検証のプロセスだろう。シャドートラフィックや出力比較を行う環境がなければ、モデルが一度に吐き出した大量のコードが旧システムと同じ挙動をするかどうかは、判断しにくい。
次はセッション状態の管理
チームは今後、アーキテクチャ面の見直しを進めるとしている。その方向性の1つが、会話の状態をサーバー側に保存し、クライアントが毎ターン全履歴を再送しなくて済むようにすることだ。長い会話では、重複する送信と処理を大幅に減らせる。この変更がいつ導入されるのか、既存のインターフェースや課金方式に影響するのかについては、Anthropicは現時点で公表していない。
参考資料：Latent Spaceポッドキャストのインタビュー、CocoLoop、Anthropic開発者向けドキュメント。インタビューでCPU削減幅、最初のトークンの遅延改善の範囲、全面稼働の状況を確認した。