4月26日日曜日、OpenAIは「Our principles」という文書を公開し、民主化、エンパワーメント、普遍的な繁栄、レジリエンス、適応性の5つの原則を掲げた。
これはOpenAIにとって2018年の憲章以来、最も注目されるポリシー文書だ。Sam AltmanがXでシェアしたバージョンはそれなりに説得力があるように読めるが、この5つの原則をOpenAIが過去半年間に行ってきたことに照らし合わせてみると、非常に興味深い現象が見えてくる。この文書は将来の方向性を定めるものではなく、過去半年間の物議を醸した決定に正当性を与えるものだ。
第一の原則：民主化
原文では「すべての人のためのAIアクセス」と「民主的なプロセス」が謳われている。しかし、The Decoderの解釈は的を射ている——この原則の含意はAnthropicを暗に批判するものだ。
Anthropicは先ごろ、Claudeを米国防総省の一部門に無制限に開放することを拒否したことで訴訟問題に直面した。OpenAIのこの原則は「AIアクセスは普及すべき」という考えを価値観にまで昇華させ、条件を課したりユーザーを制限したりする者を反民主的と暗に非難している。
第二の原則：エンパワーメント
聞こえは良い。ユーザーを信頼し、幅広い自律性を与えるというものだ。しかし、後半が極めて重要だ——「害が不確かな場合には慎重さを保つ」とある。
これはつまり、何が「害が不確か」に該当するかを判断する権利をOpenAIが留保することを意味する。これは分散化ではなく、判断権を会社に残したまま、「ユーザーの自由」という名目で包み込んでいるのだ。
第三の原則：普遍的な繁栄（最も物議を醸している）
Altman自身もこの原則は「少し奇妙に見える」と認めている。OpenAIは現在、世界中で計算資源を買い漁り、データセンターを建設し、つい最近1220億ドルという天文学的な資金調達を完了した。外部から見れば、これらの動きは「普遍的な恩恵」というより「独占の前兆」にしか見えない。
したがって、この原則の機能はインフラ軍拡競争に物語を提供することだ。論理の連鎖はこうだ。すべての人がAIの恩恵を享受できるようにする→AIの推論コストを劇的に下げる必要がある→そのためには大量の計算インフラが必要→今費やしている数百億ドルは将来の普遍的な繁栄のためのものだ。
巧妙だが、明らかな欠陥がある。The Decoderの批判は的確だ。Altmanは権力の分散を二者択一として提示している。すなわち、数社の企業に集中させるか、すべてのユーザーに分散させるかだ。複数の競合するプロバイダー間で分散させるという可能性を完全に飛ばしている。
この二分法により、OpenAIは自らを中央集権的なプロバイダーとして維持しながら、「分散化」を主張することができる。
第四の原則：レジリエンス
具体的なシナリオとして「生物兵器およびサイバー攻撃防御」が挙げられている。偶然にも、これらの分野はOpenAIが最近締結したいくつかの物議を醸した契約に対応している。国防総省との契約は、カリフォルニア州のフロンティアAI安全法案の標的となったばかりだ。この原則により、それらの政府との協力は、利益のためではなく「集団的レジリエンス」のためだと即座に正当化される。
第五の原則：適応性
これが最も率直で、最も警戒すべきものだ。Altmanは明確に述べている。原則同士は衝突することがあり（例：エンパワーメント vs レジリエンス）、同社はいつでも調整する権利を留保すると。
言い換えれば、上記の4つは絶対的なものではなく、将来、商業的利益と原則が衝突した場合、OpenAIはそれらを再定義できるということだ。
印象に残る一言
Altmanの言葉には重みがある。
「我々は、自らの行っていることの重要性に見合った、巨大な監視の目にさらされるべきだ」
謙虚に聞こえるが、「適応性」の原則と組み合わせると、その実際の機能は批判をあらかじめ認めた上で、方針を変更する権利を留保することだ。
Hacker Newsの反応は典型的な態度を示している
コミュニティの多くのメンバーは、2018年の憲章も美しく書かれており、そこには重要な約束が含まれていたと指摘している。「価値観に合致し、安全性を重視するプロジェクトが汎用人工知能（AGI）に近づいた場合、OpenAIは競争をやめ、支援を提供することを約束する」というものだ。
その約束は今も憲章に残っているが、7年間誰も言及していない。
新しい5つの原則も同じ運命をたどるのだろうか？Altmanの「ビジネス上の決定は再調整を必要とするかもしれない」という言葉を考慮すれば、答えはおそらく「イエス」だ。
本当に注目すべき点
重要なのは、この5つの原則自体がどれほど深遠かということではない。OpenAIが自らの正当性のための物語作りを積極的に始めたということだ。自社は製品を作ればそれで十分だと考える企業は、このような文書を書かない。この原則集は、同社が「テクノロジー企業」から「準公共インフラ提供者」へと自己位置づけを変えたことの指標のように見える。
次に注目すべきは何か？米国の連邦AI法とカリフォルニア州のフロンティア法案の最終版において、OpenAIがこの5つの原則を基にどれだけの政策譲歩を引き出せるかだ。これこそが、この文書が本当に戦おうとしている戦いなのだ。
出典：Our principles（OpenAI）；CocoLoop、OpenAI Posts Five Principles for AGI, Updates 2018 Charter（Implicator.ai）；Sam Altman outlines five principles that double as justification for OpenAI's business decisions（The Decoder）