最先端の研究機関の公式ブログにおいて、その第1弾記事がモデルの性能もベンチマークも評価結果も語らず、国家がそもそも国民を必要とするのかを論じる——そんな展開は珍しい。8月20日、OpenAIは社内のStrategic Futuresチームが運営する新連載「AI Futures」を開始した。第1弾の署名はDean Ball氏。末尾には、本稿の内容は筆者個人の見解であり、OpenAIの公式見解を代表するものではないという一文が添えられている。
記事冒頭で提示される問いは、AIが経済・政府・社会を作り替えた後も、個人の権利と人間の主体性が生き続けるために、自由社会はどう設計し直すべきか、というものだ。
国家はなぜ国民を必要とするのか
Ball氏の議論は、一本の鎖を解きほぐすところから始まる。現代国家が市民に依存しているというのは、具体的には3つの要素に集約される。税収は人間の労働から生まれ、軍と警察は人間で構成され、行政システムは人間によって回っている。この3つすべてを自律システムに委ねられるなら、鎖は緩む。経済生産が主に人間の労働から生まれなくなれば税基盤は移り、自律型兵器と自動化された法執行は兵士や警察官への需要を押し下げ、官僚的な業務プロセスはモデルに任されるようになる。
"What happens if political power no longer requires broad human cooperation?"
政治権力が広範な人間の協力を必要としなくなったとき、何が起きるのか。
同じロジックは労働市場にも鏡写しの形で現れる。企業が従業員への依存を減らせば、従業員側の交渉力もそれに応じて下がる。記事はこれをさらに厳しい問いへと押し進める。人間が経済的にそれほど必要とされなくなったとき、経済的・政治的な影響力をどう保持するのか、という問いだ。
この鎖の各リンクには、すでに現実の対応物がある。 自動化された徴税、自律型兵器システム、モデル主導の行政承認は、いずれも現在進行形の実プロジェクトとして進められている。Ball氏はこれらを一本の因果の鎖としてつなぎ合わせ、その鎖の終着点に、これまでほとんど表立って議論されてこなかった問いを置いた。
5つの原則
こうした懸念に対して、記事は5つの原則を提示する。
- 個人はAIが自らの生活に及ぼす影響について自律性を保持する
- 個人は技術の濫用について責任を負う
- 集団的な行動は抑制的に、範囲を狭く用いる
- 小規模なプレイヤーを支援し、競争を活発に保つ
- 人間が社会の行く末について最終的な責任を負う
これに付随する概念がbounded legibility、「境界づけられた可視性」とでも訳せるものだ。高リスクなAIの行動は、責任を負う具体的な人物まで追跡できるようにする一方で、一般の人々のプライバシーと匿名でいられる余地は保たれるべきだという考え方である。実装の面ではこれは難題だ——追跡には記録を残すことが必要で、プライバシーにはできるだけ記録を残さないことが必要であり、両者は引っ張り合う関係にある。記事が示す方向性は段階分けで、高リスクの区分にのみ記録を残し、それ以外は従来通りとするというものだ。
抑制と均衡という発想は、アメリカ建国の哲学からそのまま持ち込まれている。互いに競合する複数の権力の中心を設けることで、いかなる単一の主体も全体を掌握できないようにする、という考え方だ。これをAIの文脈に置き換えると、モデル、計算資源、データが一つか二つの企業に収斂してはならない、という話になる。
最大手プレイヤーが書いた処方箋
この記事を書いた人物は、数か月前まではホワイトハウスの政策圏にいた。Ball氏は今年7月6日にOpenAIに入社し、Strategic Futuresを統括している。以前はトランプ政権でAI政策アドバイザーを務め、米国のAI行動計画の起草にも関わった。7月19日にはAxiosが、国防総省の高官がBall氏を名指しで公然と批判したと報じている。この経歴が、この記事の読み方を決めている。新しい雇用主と旧知の仲間の両方に向けて同時に書かれた覚書のようなものであり、学術的な思考実験とは毛色が違う。
5番目の原則を除けば、4番目の原則が最も微妙な読み方を要する。「小規模なプレイヤーを支援し競争を増やす」という一文を、業界で最も高く評価される企業の一つが打ち出すこと自体に緊張関係がある。OpenAIは今まさに「権力集中」という問題の変数の一つだからだ。この処方箋を自社ブログに書くということは、その問題に自らも含まれていることを認めるに等しい。末尾の免責事項も、この緊張関係に残された余地として読むことができる。
安全性の議論をモデルから構造へ
この2年間、AI安全性をめぐる公の議論は主にモデルそのものを中心に回ってきた。脱獄されるか、嘘をつくか、停止を求められたときに小細工をするか、といった具合だ。この記事はカメラを引いて対象を制度に切り替え、モデルの能力が向上した後、国家・企業・個人の間で権力がどう再分配されるかを論じている。
この2つの議論が対象とするリスクは重なっていない。前者はモデルが制御を失うことを前提とし、後者はモデルが完全に従順であることを前提として、それが誰の言うことを聞くのかを問う。後者の場合、技術そのものには何の不具合も起きていない。問題があるのは、それを使う側の構造なのだ。
この議論には、海外の読者にとっても具体的な着地点がある。各国のAIガバナンスをめぐる論争は、最終的には「誰が監督するのか」「何を監督するのか」「どれだけ記録を残すのか」という3つの問いに収斂することが多く、モデルの能力が基準を超えたかどうかはむしろ二の次になる。境界づけられた可視性という論点は、どの制度的枠組みに置いても繰り返し取り上げられるはずだ。それが触れているのは、記録を残すこととプライバシーの間にある公共的な選択の問題であり、どの国もこれを避けて通ることはできない。
「AI Futures」は現時点でこの1本のみで、更新頻度や今後扱うテーマの範囲は明らかにされていない。
参考資料：OpenAI「AI Futures」連載第1弾記事、Axios、CocoLoop、同連載を報じた複数の技術メディア。5つの原則とbounded legibilityの記述は連載記事の公開された抜粋と照合し、Dean Ball氏の経歴は公開報道と照らし合わせて確認した。