カリフォルニア州のギャビン・ニューサム知事は9月18日、専門家会議を招集し、2カ月以内に州のAI安全法制をどう強化すべきかについて指針を示すよう求める知事令に署名した。
知事令が挙げた検討項目は3つある。フロンティアAI企業に定期的な独立第三者による安全監査を義務付けること、AIエージェントの異常動作である「暴走事案」の報告を義務化すること、そして最先端モデルに緊急停止機構である「キルスイッチ」を搭載することだ。この3項目はいずれも現時点では検討対象であり、すでに発効した義務ではない。
この知事令が実際にやっていること
この文書の効力の範囲ははっきりさせておく必要がある。新たなコンプライアンス要件を課すものではなく、やっているのはプロセスの始動だ。誰を招集するか、期限をいつにするか、議題をどう区切るかを決めているにすぎない。拘束力のあるルールは、専門家会議の提言を受けた立法か、既存の法的枠組みのもとでの行政規則のどちらかから生まれることになる。2カ月という期限は、指針が11月中旬までに出るべきだということを意味する。
ニューサム氏はビデオ演説で「カリフォルニアはできる限りのことをするが、国全体が動く必要がある。ワシントンD.C.は自らの役割を果たすべきだ」と述べた。同氏はこの知事令を安全の枠組みを築く土台と位置づけた。州知事室の表現はより直接的で、連邦政府は意味のあるAI監督と説明責任の確立に「完全に失敗した」としている。
"We will not sit idle—we will accelerate substantive, responsible AI regulation before it is too late."
「われわれは手をこまねいてはいない。手遅れになる前に、実質的で責任あるAI規制を加速させる」
カリフォルニアが今年たどってきた道筋
視野を広げれば、これは孤立した動きではない。カリフォルニア州は9月初旬に、第三者AI監査機関の枠組みを定める法律にすでに署名している。今回の知事令が検討する独立監査の義務化は、その法律の続きに位置する。さらにさかのぼれば、フロンティアモデルの安全性開示をめぐる州の立法論争はすでに2年続いており、この間に否決された法案もあれば、適用範囲を縮小したうえで成立した法案もある。
順序ははっきりしている。まず監査機関の資格枠組みを作り、次に監査を義務化するかどうかを検討する。まず開示を求め、その次に報告や停止の仕組みを議論する。どの一歩も前の一歩から少しずつ前進しているにすぎず、いきなり最終形に飛ぶ段階はない。この進め方は企業に調整の時間を与える一方、反対派には一条ずつ阻止する機会も与えている。
見落とせない期限もある。ニューサム氏の知事任期は来年1月4日で終わる。2カ月の期限は在任中に収まるが、指針が出たあとの立法化の推進は後任の知事に委ねられる可能性が高い。知事令が法律になるかどうかは、署名した本人だけで決まるわけではない。
連邦の路線とのはっきりした違い
この背景には連邦レベルでの空白がある。トランプ氏は規制強化の要求を退け、AI安全性への懸念を「でっち上げ」と呼んでいる。議会も2026年の中間選挙前に全国的なAI立法を進める可能性は低い。カリフォルニア州は対照的な立場を取っており、ニューサム州知事室は同日、ホワイトハウスと議会の不作為を公然と批判した。
カリフォルニアにはそうする根拠がある。フロンティアAI企業の多くはこの州に本社を置いており、州法は域外管轄のようにサーバーを移せば逃れられるものではなく、直接の拘束力を持つ。過去数年、データプライバシーや排出基準の分野でも、カリフォルニアの基準が事実上の全国標準になるケースが繰り返し見られた。
ただし今回作ろうとしているものは、プライバシー規則より手強い。定期的な第三者監査は外部の人間がモデル評価プロセスに入ってくることを意味する。暴走事案の報告は、企業が自社システムの異常を自ら差し出さなければならないことを意味する。キルスイッチは配備アーキテクチャそのものに触れる。3項目のうちどれか一つでも実現すれば、研究機関レベルでの駆け引きを招くことになる。
2カ月間で注目すべき3つのこと
2カ月の期間中に注目すべき点は3つある。専門家会議の構成メンバー、「暴走事案」の定義がどこまで細かく書かれるか、そしてキルスイッチが義務要件として出てくるのか推奨事項にとどまるのかだ。
この3点にはいまのところ答えがない。知事令が示しているのは議題と日程表であって、結論ではない。11月中旬までに指針が出るかどうか、そしてどういう内容になるかが、この件の次に検証できる節目となる。
参考資料：カリフォルニア州知事室の発表、星島日報、CocoLoop、新浪財経。知事令の3つの検討項目、2カ月の期限、ニューサム氏の発言は州知事室の発表内容に照らして確認した。