匿名アカウントburner22がHugging Faceにアップロードしたリポジトリ「numbat」は、Anthropicの次世代Mythosクラスモデルの事前学習中間チェックポイントを名乗っている。パラメータ数は約14兆、114層、772シャード、総量は約7.72TB。リポジトリは10月23日に作成され、11月1日前後に開発者の間で話題となり、1日あまりでディスカッション欄に31のトピックが立った。
直近のコミュニティ監査が出した結論は明快だ。ファイルの大部分はテンソル名をシードに生成した擬似乱数で、モデルは学習されていない。
数行のコードで再計算できる
最初にレシピを公開したのはユーザーのFloxUnderだ。テンソル名のSHA-256を取り、先頭8バイトをPCG64乱数のシードにして標準正規分布を生成し、固定の変換をかける。正規化層はexp(0.06z)、畳み込みカーネルは1/6倍にする。このレシピで、43個の完全なテンソル、計730368個の数値をビット単位で再現したという。
続いてユーザーのresslが、784ファイル、7.01TiBをすべてダウンロードして検証した。289個の正規化層と258個の畳み込みカーネルはすべてバイト単位で一致。抜き取りで調べた24個のNVFP4テンソル、合計1億9200万要素では、符号ビットの一致率が100%だった。
編集部でも実行した。公開レシピに基づいて検証スクリプトを書き、HTTP Rangeリクエストだけで最初のシャードのヘッダーと2つのテンソルを読み取った。モデルはダウンロードしておらず、リポジトリ内のコードも一切実行していない。model.layers.0.input_layernorm.weightの12288個の値と、model.layers.0.self_attn.k_conv1d.weightの24576個の値は、再計算結果がファイルの内容と完全に一致した。編集部が検証したのはこの2つのテンソルのみで、全体に関する結論は上記2人のユーザーの監査によるものだ。
見た目の整合性はほぼ完璧
この件が紛らわしいのは、構造面のチェックがすべて通ってしまう点にある。resslのレポートによると、784ファイルのSHA-256はすべて一致し、157万件超のインデックスとシャードヘッダーは過不足なく1対1で対応し、strictモードで重みを読み込んでもエラーは出ない。リポジトリ説明の「信頼できる理由」の節が挙げているのも、まさにこの種の自己整合性だ。
ところが一段掘り下げると綻びが見える。
- 数値分布が不自然：正規分布をNVFP4に量子化したのであれば、ニブルの約6割が0になるはずだが、実測は10%にとどまる。
- スケール表が小さすぎる：最初のシャードにある216万件超のブロックスケール値は、取りうる値が45種類しかない。
- 学習ログが平坦すぎる：最後の400ステップのlossは1.0359から1.0649の間を行き来し、学習終盤にあるはずの減衰が見られない。
- トークナイザーが古い：分割規則はGPT-2の正規表現で、語彙には中国語・日本語・韓国語の文字を含むトークンが1つもない。
- パラメータ数が合わない：Hugging Faceの自動集計は6.8兆だが、リポジトリは約14兆と称している。
監査は限界も明示している。lm_headやA_logなどの一部のテンソルは名前由来のシードと一致せず、resslは別の乱数経路を使っているとみる。すべてのテンソルが名前から導けると断言しているわけではなく、主張はこの一点に絞られている。
「I am claiming the model is not trained.」（私が主張しているのは、このモデルは学習されていないということだ。）
FloxUnderも、確認した43個のテンソルだけでは、学習中にこれらのパラメータを意図的に凍結していた可能性を論理的には排除できないと認めており、アップロード者に学習設定の開示を求めている。記事公開時点で、2つの監査はいずれもコミュニティユーザーによるもので、第三者機関の裏付けはない。アップロード者が誰で、何が目的なのかも確認できていない。
コードネームは本物でも、重みは別問題
numbatという名称には確かに出典がある。今年3月に流出したClaude Codeのソースコードでは、prompts.tsに、モデルのリリース時に特定の部分を削除するという趣旨のコメントがあり、そこで挙げられている名前がnumbatだ。リポジトリ説明はこれを最有力の証拠として扱っている。
今年のいくつかの流出を並べると、違いははっきりする。3月末に外部がMythosの存在を知ったのは、コンテンツ管理システムの設定ミスで露出した文書からだった。同月のClaude Codeの件で流出したのはクライアント側のソースコードだ。どの資料もモデルの重みには触れていない。numbatリポジトリは既知のコードネームを呼び水にし、整合性チェックを通るファイル群で体裁を整えているが、公開済みのコードネームは誰でも説明文に書ける。ファイルの出自を証明するものではない。
ダウンロードした人にとって、より現実的なリスクはコードにある。リポジトリにはmodeling_numbat.pyが含まれ、説明にはtrust_remote_code=Trueで読み込めると書かれている。このオプションは、リポジトリ内のPythonを手元のマシンで実行する。編集部はこのコードを監査しておらず、悪意があるとは言えない。ただ、出所の分からないリポジトリでは、このスイッチを入れるべきではない。確認が必要なら、監査と同じようにバイトを読み取るだけで足り、実行する必要はない。
参考資料：Hugging Faceのモデルページとリポジトリのメタデータ、コミュニティ監査スレッド#13・#31、CocoLoop。2つのテンソルのバイト単位の結果は編集部が公開レシピに基づいて再計算したもので、全体の数値は監査スレッドを正とする。