中国の大手AI各社、攻撃的サイバー能力を抑制

Moonshot AI、Tencent、Alibabaという中国の主要モデル開発3社が、この1か月に公開した新モデルで同じ対応を取った。攻撃的なサイバー能力を引き下げる一方、防御能力は維持するか強化したという点だ。Bloombergは今週、これらのリリースをまとめて報じ、10月に商務部が公表したAI輸出規制案との関連を指摘した。3社とも、自社の対応を規制案と結び付けて公式に説明してはいない。

Illustration: hooks leave a toolbox while a shield lock and repair tools stay, as Chinese AI models curb offense

3社それぞれの対応

Moonshot AIが最も早かった。10月下旬にKimi K3.1 Proを公開した際、訓練データと強化学習環境からサイバーセキュリティ関連のデータを取り除き、汎用のコーディング能力は残したと説明している。同社の社内攻防ベンチマーク(管理された環境でソフトウェアの脆弱性を見つけ、悪用する課題)では、K3.1 Proは81.0%。リスク低減をしていない同系統のバージョンは90.5%で、81.0%でも前世代よりは高い。これらの数値は第三者の検証を受けていない。

“We aim not to release open weights that would extend the absolute frontier of cyber capability.”(Moonshot AI:サイバー能力の絶対的なフロンティアを押し広げるようなオープンウェイトは公開しない方針です。)

Tencentは11月4日に混元(Hunyuan)Hy4を公開した。サイバーセキュリティの訓練は防御目的、たとえばソフトウェアの欠陥を見つけて修正を支援する用途に限り、ハッキングツールの作成、システムへの侵入、システムの弱点の探索に関する素材は除外したという。社内のセキュリティ専門家によるテストでは、Hy4がソフトウェアへの侵入やセキュリティ対策の回避を手助けするリスクが高まる兆候は見られず、有害な生物実験を容易にする兆候もなかったとしている。Tencentは、安全性テストの報告書を添えて、後日ウェイトを公開する予定だ。

Alibabaは11月16日にQwen4-Maxを公開した。訓練中に安全性チェックを加え、コードインジェクション、メモリ安全性の欠陥、アクセス制御の不備といった脆弱性を減らしたほか、サイバー犯罪や危険物質に関する悪用への防御も強化したとする。社内テストでは、明らかに高リスクな能力は見つからなかったという。Bloombergの記事によると、この世代のフラッグシップはオープンウェイトではなく、ユーザーが完全版をダウンロードして改変することはできない。この点についてAlibabaは個別のコメントを出していない。

規制案が引いた線

商務部と科学技術部が10月に共同で公表した規制案は、23のAI技術を輸出管理リストに加える内容で、大規模モデル、エージェント、チップ設計、計算クラスターを対象とする。大規模モデルでは、ウェイトやソースコードなどの中核部分が管理対象で、基準はパラメータ数2兆以上、または性能・安全性などのテストで世界上位10位以内に入ることだ。規制案が挙げるリスクには、AIによるマルウェアの生成・変異、AIを使った脆弱性発見ツールがあり、重要インフラ、国防産業、政府の中核システムへの攻撃に使われうるとしている。

適用除外も明記されている。オープンソースコードと発表済みの研究は管理対象外。アプリ、ウェブサイト、APIを通じて海外ユーザーにサービスを提供することも引き続き認められる。管理対象のモデルを海外のサーバーで動かすことは輸出にあたるが、企業が自社の海外クラウドサーバーで運用する場合は自動的に許可を得られる。パブリックコメントは11月15日に締め切られ、最終版の公表時期は示されていない。

基準に照らすと、Kimi K3.1 Proは3兆パラメータ級を自称しており、Qwen4-Maxのバックボーンは2.4兆パラメータ。どちらも2兆の線を上回る。

開発者とセキュリティチームへの影響

最終版が規制案と大きく変わらなければ、影響が最も直接的に及ぶのは2つのグループだ。

1つ目は、オープンウェイトのモデルを土台に二次開発を行うチームである。基準を超えるモデルのウェイトを海外向けに公開し続けられるかはライセンス次第で、中国国内で従来どおりダウンロードできるかどうかは、規制案に直接の記述がない。最終版と、その後の解釈を待つ必要がある。Moonshot AIはすでに、能力を削ってからウェイトを公開する道を選んでおり、Tencentもウェイトの公開は後日になると述べている。この2つの方式が業界の標準になるかどうかは、次の一連のリリースで見えてくる。

2つ目は、ペネトレーションテストやレッドチーム演習を行うセキュリティ担当者だ。これまでオープンモデルでエクスプロイトコードの作成を補助したり、脆弱性の検証を回したりしていたが、今後の中国製の新モデルはこの分野でより慎重になる。コードレビュー、欠陥の発見、パッチ作成といった防御タスクについては、3社とも能力を維持または強化したとしているが、実際の効果は第三者の評価を待つことになる。

比較対象もある。米国ではOpenAIが、より高性能なサイバーセキュリティ向けモデルを、審査制のプログラムを通じて選別した防御側にのみ提供している。中国の各社が現時点で公表している方式は、訓練段階で攻撃能力を削るというものだ。両方式の効果は、いまのところ各社自身の説明があるだけだ。

参考資料:Bloomberg、Tencent Hy4とKimi K3.1 Proに関するReuters報道、CocoLoop、The Next Web。攻防ベンチマークのスコアはMoonshot AIの自社テストに基づく。管理リストの項目数とパラメータ基準は、商務部・科学技術部のパブリックコメント案による。