OpenAI提五原則,防AI推升權力集中

一家前沿實驗室的官方部落格,頭一篇文章不談模型能力、不談跑分、不談評測,談的是國家還需不需要人民。8月20日,OpenAI推出新專欄AI Futures,由公司內部的Strategic Futures團隊營運,首篇具名作者是Dean Ball。文末掛著一行小字:內容代表作者個人觀點,不代表OpenAI官方立場。

文章開篇拋出的問題是:自由社會該如何重新設計,才能讓個人權利與人的能動性,在AI重塑經濟、政府與社會之後依然存續。

國家為什麼需要人民

Ball的論證從拆解一條鏈子開始。現代國家對公民的依賴,具體來說其實是三樣東西:稅收來自人的勞動,軍隊與警察由人組成,行政體系靠人運作。這三樣一旦都能交給自主系統接手,鏈子就鬆了:經濟產出若主要不再來自人類勞動,稅基便跟著轉移;自主武器與自動化執法壓低對士兵、警察的需求;官僚流程則交給模型處理。

"What happens if political power no longer requires broad human cooperation?"

當政治權力不再需要廣泛的人類配合時,會發生什麼事?

同一套邏輯在勞動市場上有個鏡像版本。企業對員工的依賴下降,員工的議價能力也跟著下滑。文章把它推向一個更尖銳的問題:當人在經濟上變得沒那麼必要之後,該如何保住經濟與政治上的影響力。

這條鏈子的每一環都有現實對應物。 自動化徵稅、自主武器系統、模型驅動的行政審批,目前都有真實專案在推動。Ball的處理方式是把它們串成一條因果鏈,而鏈子的終點是一個過去很少被攤在檯面上的問題。

五項原則

針對這些疑慮,文章提出五項原則:

  • 個人對AI如何影響自己的生活保有自主權
  • 個人為技術濫用承擔責任
  • 集體行動要用得節制,範圍要窄
  • 扶植小型業者,讓競爭更活絡
  • 人類對社會走向負最終責任

搭配的還有一個概念叫bounded legibility,可譯為「有界可見性」:高風險的AI行為應該能追溯到具體負責的人,同時保住一般人的隱私與匿名空間。落地執行上這是道難題——追溯需要留下紀錄,隱私需要盡量不留紀錄,兩頭互相拉扯。文章給出的方向是分級處理,只對高風險那一級留下紀錄,其餘照常。

制衡的思路直接搬自美國建國哲學:設置多個互相競爭的權力中心,讓任何單一角色都拿不到全局控制權。放進AI語境,這句話指向的是模型、運算資源與資料不該收斂到一兩家業者手中。

業界龍頭開出的處方

寫這篇文章的人,幾個月前還在白宮的政策圈子裡。Ball今年7月6日加入OpenAI,主管Strategic Futures,先前曾在川普政府擔任AI政策顧問,參與過美國那份AI行動計畫的起草;7月19日,Axios曾報導一名五角大廈高層公開點名批評他。這份經歷決定了這篇文章該怎麼讀:更像一份同時寫給新東家與舊同僚的備忘錄,而不太像學院裡的思想實驗。

除了第五條,第四條讀起來最微妙。「扶植小型業者、增加競爭」這句話由業界估值最高的公司之一提出,本身就構成一種張力:OpenAI眼下正是「權力集中」這道題裡的一個變數。把處方寫在自家部落格上,等於承認這道題也把自己算了進去。文末那行免責聲明,也可以理解成為這層張力留的餘地。

把安全從模型移到結構

過去兩年,AI安全的公開討論主要圍著模型打轉:會不會被越獄、會不會說謊、被要求關機時會不會耍花招。這篇文章把鏡頭拉遠,討論對象換成制度,模型能力提升之後,權力該如何在國家、企業與個人之間重新分配。

兩條線所針對的風險並不重疊。前者假設模型失控,後者假設模型完全聽話,然後追問它聽誰的話。在後一種情況裡,技術本身沒出任何差錯,出問題的是使用它的那套結構。

對關注這個議題的讀者來說,這場討論有個具體的落點。各國AI治理的爭論,最後大多會收斂到「誰來監督、監督什麼、留多少紀錄」這三個問題上,模型能力有沒有超標反而退居其次。有界可見性這一條,無論放進哪一套制度框架,都會被反覆搬出來討論——它觸及的是留紀錄與隱私之間那道公共選擇題,沒有任何一個國家能繞過去。

AI Futures目前只有這一篇,後續更新頻率與選題範圍都還沒公布。

參考來源:OpenAI AI Futures專欄首篇文章、Axios、CocoLoop、多家科技媒體對該專欄的報導;五項原則與有界可見性的敘述以專欄文章的公開摘錄核對,Dean Ball的任職經歷則與公開報導逐條比對。