美國參議員伯尼·桑德斯宣布將提出《禁止人工超級智能法案》,英國工黨議員艾力克斯·索貝爾(Alex Sobel)同一時間在下議院提出一份目標相近的法案。《時代》雜誌9月8日把這兩件事放進同一篇報導。
桑德斯這份法案的條文有兩條:禁止開發比人類更聰明的AI系統;在新的安全規範建立起來之前,暫停其他先進AI研究。法案還要求美國政府推動一項全球條約,把超級智能的開發在全世界範圍內禁掉。提出時間寫的是「未來幾週」。
英國那份的門檻畫在別處
索貝爾並沒有去定義「比人類更聰明」,而是把超級智能定義為可能剝奪國家權力的系統,接著授權政府監控和限制那些可能成為「前驅」的系統。他說這是G7國家議會裡第一份尋求禁止超級智能的法案。
兩份法案的共同點,都是要求本國政府牽頭去談全球條約。差別在切入點:美國那份直接禁能力本身,英國那份禁的是通往那個能力的路徑,並把判斷權留給行政部門。
十分鐘規則
索貝爾走的是「十分鐘規則法案」(Ten Minute Rule Bill)這個通道。這是下議院的一種提案方式:議員有十分鐘說明動議,接著進入一讀。絕大多數十分鐘規則法案就停在這一步,很少能拿到後續辯論時間,報導對它的定性是極少能越過一讀。
桑德斯那邊處境類似。他是無黨籍參議員,法案要在參議院走完程序需要兩黨支持,而暫停先進AI研究這一條,跟兩黨目前的產業政策方向都不合。《時代》的判斷是兩份都不太可能成為法律。
那為什麼還要提
報導給的理由是先把話語位置畫出來。加州大學柏克萊分校的史都華·羅素(Stuart Russell)在文中說,AI有相當的機率造成「車諾比級的災難」,例如協同破壞金融、通訊或電網系統,或者人類不可逆地失去控制。前OpenAI員工丹尼爾·科科塔伊洛(Daniel Kokotajlo)講得更短:舊金山那邊的狀況確實很瘋狂。
放進今年的立法堆裡看,位置就清楚了。今年美國各州提出的AI相關法案超過1500條,走的全是具體場景:未成年人陪聊、深偽(deepfake)、演算法定價、招募篩選。聯邦層級那份269頁的法案想做的是把各州立法權凍結三年,方向正好相反。歐盟AI法案已經在實施,高風險條款還延後了16個月。
這三類立法處理的是已經在運作的系統,有明確的規制對象,也有可以逐條討價還價的空間——罰多少、什麼算高風險、給多長過渡期,都能談。桑德斯和索貝爾這兩份處理的是還不存在的系統,要求在它出現之前先把門關上。前者能被業界拆成條文去改,後者只能被整體接受或整體否決。立法難度的差別不在措辭,在有沒有具體的規制對象。
英國那份還多一層實務問題。「前驅」系統由誰來認定、按什麼標準認定,公開的描述裡沒有寫。真要執行,等於要求政府對還沒訓練完成的模型做能力預判,而現有的評測體系連已發布模型的能力邊界都還在爭論。
至於「比人類更聰明」這個門檻怎麼量,兩份法案的公開描述裡同樣沒有交代。法案文本目前都還沒有公開,能核對的只有報導轉述。
參考來源:《時代》雜誌報導全文、CocoLoop、英國下議院十分鐘規則法案程序說明;法案條款、引語與通過前景的判斷以《時代》原文為準,兩份法案文本尚未公開。