ASI 禁令為何爆紅

今年最熱烈的 AI 爭論，換個角度看：它是一次找到市場的產品發表，也是一份通不過審查的需求文件。

週四早上，我們團隊的群組裡聊的完全不是工作。有人貼了一張截圖，內容是一位美國女國會議員表示，暫停先進 AI 發展、禁止超級智慧，應該成為她所屬政黨的首要任務。不到一小時，一位設計師、兩位工程師和我們的財務主管就為了一個誰也說不清楚的東西吵了起來。就在那一刻，我知道「ASI 禁令」已經走出政策圈的小眾角落，變成了一項大眾市場的產品。

我是這樣看這件事的：它是一次找到產品市場契合度的發表，也是一份通不過任何像樣審查的需求。

首先，到底發生了什麼事

2025 年 10 月，生命未來研究所（Future of Life Institute）發表了一句話的聲明，呼籲在科學界普遍形成共識、確認超級智慧能夠安全開發，並取得公眾的強力支持之前，禁止開發超級智慧。連署者包括傑佛瑞·辛頓（Geoffrey Hinton）、約書亞·班吉歐（Yoshua Bengio）、史蒂夫·沃茲尼克（Steve Wozniak）、理查·布蘭森（Richard Branson）、哈利王子、梅根·馬克爾（Meghan Markle）以及史蒂夫·班農（Steve Bannon）。

到了 2026 年，這份請願書變成了正式文件。9 月 3 日，參議員伯尼·桑德斯（Bernie Sanders）與眾議員葛瑞格·卡薩爾（Greg Casar）宣布提出《禁止人工超級智慧法案》。五天後在倫敦，工黨國會議員亞歷克斯·索貝爾（Alex Sobel）提出《人工超級智慧法案》，另有超過 70 位下議院議員與上議院議員聯名致函首相表示支持。11 月 3 日，美國期中選舉讓民主黨同時拿下參眾兩院，這項法案再度充斥所有人的動態消息，通過的機會也與以往大不相同。這些法案目前都還不是法律。但爆紅不會等法律。

版本說明：2025 年 10 月至 2026 年 11 月。

為什麼會爆紅：五個發表會的啟示

1. 一句話就能說完賣點。 大多數 AI 政策都是沒人會分享的 400 頁框架。這個訴求只有一句話、一個動詞：禁止。簡單的訴求傳得快。每個爆紅的產品都有一句話標語，而「別再打造可能比我們所有人都聰明的東西」，黏著度幾乎無人能及。

2. 發表會的合作夥伴都是不相干的人。 諾貝爾獎得主、王室夫婦、民粹派策士和流行歌手，很少會出現在同一份新聞稿裡。每位連署者都是通往不同受眾的傳播管道，而陣容之詭異本身就是亮點。沒有人能把它當成慣常的那幾個人而一筆帶過。

3. 使用者研究在發表前就做完了。 FLI 在發表聲明的同時公布了一項民調。只有 5% 的美國成年人支持快速且不受監管的開發，64% 的人認為在證明安全可控之前，不該打造超級智慧。以產品的角度來說，需求在第一則貼文發出前就已經驗證過了。人們不是被說服的，而是有人替他們心中早已存在的感受取了個名字。

4. 抽象的恐懼有了在地的面孔。 超級智慧很難想像。但附近一座耗水、推高電費的資料中心就不難想像了。在 NBC 2026 年的出口民調中，56% 的選民表示 AI 與資料中心是影響投票的關鍵或重大因素，76% 的人反對在自己社區興建新的資料中心。那項民調並沒有問到禁令。但它顯示出遙遠的風險如何與身邊的煩惱綁在一起，而正是這樣的組合，讓小眾議題走向主流。

5. 供應商自己公布了產品路線圖。 科技領袖公開表示，超級智慧「指日可待」，或可能在 2030 年前後出現。當一家公司預告某項功能時，客戶反應的是那項功能，而不是目前的版本。這些實驗室製造了焦慮，而禁令運動現在只是在收割。

資料來源：生命未來研究所民調（2025 年 10 月）；NBC 新聞出口民調（2026 年 11 月）。

為什麼這張工單要退回

爆紅和寫出好的規格是兩種不同的本事。如果這份東西以工單的形式落到我桌上，我會附上三點意見退回。

沒有可測試的定義。 超級智慧沒有公認的技術定義，所以禁令很難劃出界線，更難起訴。起草者也清楚這一點。英國的法案以結果來定義，就像英國的《化學武器法》以效果來定義有毒化學物質。美國的法案則依賴一個替代指標，也就是暫停訓練運算量達到至少 10²⁵ 次運算的系統。替代指標是可衡量的，這點我喜歡。但任何分析師都知道，當指標變成目標時會發生什麼事：團隊會刻意把數字壓在門檻之下。

沒有指定的核准者。 原本的聲明提到，等到有了科學共識和公眾支持，禁令就會解除。誰來簽核？共識又要如何衡量？一項沒有負責人、也沒有驗收標準的需求，不是變成永遠的阻礙，就是變成橡皮圖章。

範圍與系統邊界不符。 一國的禁令管不到其他國家的實驗室。這就是為什麼英國法案要求政府尋求國際協議，也是桑德斯呼籲美中簽訂條約的原因。與此同時，各國政府也在反彈。英國政府已表示對全面禁令不感興趣，而美國 2026 年 6 月的一項行政命令則禁止對 AI 開發實施強制許可或事前核准。無法掌控的外部相依項目，正是專案延誤的經典原因。

我的看法，直說吧

ASI 禁令之所以爆紅，是因為這是第一場讓一般人有了「投票按鈕」的 AI 辯論。三年來，AI 對勞動者而言多半是被動承受的：工具被推出、工作被重塑、資料中心被興建，幾乎沒有人徵詢過他們的意見。「禁止它」雖然粗糙，卻是一根槓桿，而人們總會去抓住槓桿。

這並不能決定禁令是不是好政策，我也會對任何斷言它顯然正確或顯然荒謬的人保持戒心。支持者提出了嚴肅的論點：一旦系統超出人類的監督能力，就沒有第二次發行可以補救，所以要及早劃下明確的底線，就像世界各國對待化學武器那樣。批評者的論點同樣嚴肅：一項無法定義的禁令會招來漏洞，可能把研究推向監管更少的地方，還可能在競爭對手繼續前進的同時，凍結醫學與科學上有用的進展。

我會把這項禁令稱為一個尚未完成的構想的 MVP。它現在真正的任務不是成為法律，而是迫使一個問題進入產品路線圖：由誰來決定前沿 AI 能走多遠、依據什麼證據、又經過誰的同意。

勞動者這週可以做的事

• 把兩種政策分開來看。 永久的 ASI 禁令和暫時停止前沿訓練是不同的工具。兩者都不會讓你明天收件匣裡的助理停止運作。
• 盤點你的 AI 相依項目。 列出哪些工作流程依賴前沿模型，以及來自哪些供應商。萬一暫停令或許可制度真的上路，你花一個下午就能掌握自己的風險，而不是一整季。
• 寫下人類在哪些環節把關。 好幾個國家的監管機關正朝著監督的方向靠攏。已經記錄誰負責審查 AI 產出的團隊，適應得最快。
• 看定義，不要看標題。 真正重要的數字是門檻，無論最後是以運算量、能力還是結果來衡量。你所屬產業的界線就是在那裡劃下的。
• 在工作場合聊聊這件事。 如果你的設計師、工程師和財務團隊已經在為此爭論，那很好。當受影響的人及早參與，產品和政策都會變得更好。

這項禁令或許永遠不會通過，但它所引發的問題會比它更長久。