米国のバーニー・サンダース上院議員が「人工超知能禁止法案」を提出すると発表した。同じ時期に英国労働党のアレックス・ソベル下院議員も、目的が近い法案を下院に提出した。Timeは9月8日、この2件を1本の記事にまとめて報じた。
サンダース法案の条項は2つ。人間より賢いAIシステムの開発を禁止すること、そして新たな安全規則が整うまで、その他の先端AI研究を一時停止することだ。法案はまた、米国政府に対し、世界規模で超知能の開発を禁止する国際条約の実現を働きかけるよう求めている。提出時期は「数週間以内」とされている。
英国案は線引きの場所が違う
ソベル議員は「人間より賢い」を定義していない。代わりに超知能を、国家の権力を奪いかねないシステムと定義し、その「前段階」となりうるシステムを政府が監視・制限できるようにした。G7各国の議会で超知能の禁止を目指す法案は初めてだと述べている。
両法案に共通するのは、自国政府が主導して国際条約の交渉にあたるよう求めている点だ。違いは手の付け所にある。米国案は能力そのものを直接禁止するのに対し、英国案はその能力に至る経路を禁止し、判断は行政府に委ねている。
十分間ルール
ソベル議員が使ったのは「十分間ルール法案」という手続きだ。下院で議員に10分間の説明時間を与え、その後第一読会に進むという提案方式である。十分間ルール法案の大半はそこで止まり、その後の審議時間を得られることはめったにない。報道でも、第一読会を越えることはほとんどないと位置付けられている。
サンダース議員側も似た状況にある。彼は無所属の上院議員であり、法案が上院の手続きを通過するには超党派の支持が必要だが、先端AI研究の一時停止という条項は、両党いずれの現在の産業政策の方向性とも相容れない。Timeの見立てでは、両案とも法律になる可能性は低い。
それでもなぜ提出するのか
記事が挙げる理由は、議論における立場を明確にすることだ。カリフォルニア大学バークレー校のスチュアート・ラッセル氏は記事の中で、AIが金融・通信・電力網などのシステムを協調的に破壊したり、人類が制御を不可逆的に失ったりするような「チェルノブイリ級の惨事」を引き起こす確率は無視できないと述べている。元OpenAI社員のダニエル・ココタジロ氏の言葉はより短い。サンフランシスコの現状は本当に狂っている、と。
今年の立法の全体像に置いてみると、その位置付けがはっきりする。米国では今年、州レベルでAI関連法案が1500件以上提出されており、そのほとんどが具体的な場面を対象にしている。未成年者向けAIチャット相手、ディープフェイク、アルゴリズムによる価格設定、採用選考などだ。一方、連邦レベルの269ページに及ぶ法案は、州の立法権を3年間凍結しようとするもので、方向性はまったく逆だ。EUのAI法はすでに施行されており、高リスク条項の適用は16カ月延期されている。
これら3つのカテゴリーの立法は、すでに稼働しているシステムを対象にしており、規制対象が明確で、条文ごとに交渉の余地もある。罰則の大きさ、何を高リスクとみなすか、猶予期間の長さなど、いずれも協議可能だ。サンダース案とソベル案が扱うのは、まだ存在しないシステムであり、それが現れる前に扉を閉じようとするものだ。前者は業界によって条文単位で切り崩され、修正されうるが、後者は全体として受け入れられるか、全体として否決されるかしかない。立法の難しさの違いは言い回しではなく、具体的な規制対象があるかどうかにある。
英国案にはさらに実務上の問題がある。「前段階」システムを誰が、どのような基準で認定するのかは、公開された説明の中には書かれていない。実際に運用するとなれば、政府に対し、まだ訓練が完了していないモデルの能力を事前に予測するよう求めることになるが、既存の評価体系ですら、すでに公開されたモデルの能力の境界線をめぐって議論が続いている状態だ。
「人間より賢い」という基準をどう測るかについても、両法案の公開された説明では触れられていない。両法案とも条文はまだ公開されておらず、現時点で確認できるのは報道による伝聞のみだ。
参考資料：Time記事全文、CocoLoop、英国下院の十分間ルール法案手続きに関する説明。法案条項、発言内容、成立見通しの判断はTimeの原記事に基づく。両法案の条文はまだ公開されていない。