「核武不會造出更好的核武，但 AI 會」：Aza Raskin 的 AI 反人類競賽警告

本文整理自 Masters of Scale 系列 Podcast《Rapid Response》2026 年 6 月播出的單集。

---

「核武不會造出更好的核武，但 AI 會造出更好的 AI。」Aza Raskin 在 Podcast 開場就丟出了這句話，語氣平靜，像在陳述一個物理定律。

Raskin 是人道科技中心（Center for Humane Technology）的共同創辦人，也是 Netflix 紀錄片《智能社會：進退兩難》（The Social Dilemma）的幕後推手之一。他和共同創辦人 Tristan Harris 從 2013 年就開始警告社群媒體的危害，當時沒什麼人理會，後來他們的預測幾乎全部成真。現在，他把同一套分析框架搬到了 AI。

在最近一集《Rapid Response》中，Raskin 對主持人 Bob Safian 展開了一場長達 40 分鐘的論述。核心論點只有一個：問題不在 AI 好不好，而在驅動 AI 發展的誘因結構好不好。他引用查理．蒙格（Charlie Munger）的名言：「讓我看看誘因，我就告訴你結果。」而我們都知道現在的誘因是什麼，就是盡可能快、盡可能多地累積力量和資本。

Raskin 不是反 AI 人士。他自己創辦了 Earth Species Project，用前沿 AI 技術解碼動物語言，研究團隊發現烏鴉有 70% 的溝通內容是科學界此前完全不知道的。他說自己「愛用這個技術」，但也因為經歷過好幾波科技浪潮，知道人們總是被技術的「可能性」迷住，卻不願面對技術的「大概率結局」。

社群媒體是「嬰兒版 AI」的前車之鑑

要理解 AI 競賽為什麼危險，Raskin 認為最好的教材就在眼前：社群媒體。

他把社群媒體稱為「嬰兒版 AI」。動態消息的演算法就是一種非常初級的人工智慧，它連自己的內容都不會產生，只能重新排列人類製作的東西。但就是這麼一個原始的系統，因為被設計來最大化互動率和停留時間，而不是促進人類的連結和理解，就足以製造出有史以來最焦慮、最憂鬱的一代人。

「我們從 2013、2014 年就預測到了，」Raskin 說，「一場對人類注意力的刀戰，必然導致更極化、更偏激、更歇斯底里的社會。」結果呢？政治人物變成了表演者，最極端的聲音被演算法放大，全球民主制度面臨前所未有的壓力。社群媒體的早期確實展現過美好的可能性：阿拉伯之春讓人們相信科技能促進民主。但那只是技術還沒被市場誘因捕獲之前的一瞥，一旦誘因接管，美好的「可能性」就被殘酷的「大概率結局」取代了。

這段歷史為什麼重要？因為 AI 正在重演同樣的劇本，只是規模放大了無數倍。社群媒體只能重新排列人類的內容，AI 不僅能創造內容，還能自主做決策、發動網路攻擊、設計新型病毒。如果連一個「嬰兒版」的 AI 都能把社會搞成這樣，一個成熟版的 AI 在同樣的誘因結構下會做什麼？

最新的民調或許說明了一些問題：只有 5% 的美國人認為目前完全不受管制、盡可能快速發展 AI 是好事。但諷刺的是，這正是目前正在發生的事。

兩條死路的困局：散布 vs 壟斷

Raskin 把 AI 的未來歸納成兩種失敗模式，兩條路都走不通。

第一條路是全面散布：既然 AI 太強大，不能讓任何一家公司獨佔，那就讓所有人都能用。問題是，Anthropic 最近發布的 Mythos 模型已經展現出國家級的駭客能力，能找到 iPhone 的零日漏洞，不需要發送 iMessage 就能入侵。這種能力不是 Anthropic 刻意訓練出來的，而是從訓練過程中自然浮現的。如果每個人都能使用這種能力，醫院、水處理廠、電力系統全都暴露在攻擊之下，更不用說 AI 輔助設計的生物武器。

第二條路是集中壟斷：把 AI 鎖在少數幾家公司或幾個政府手裡。但歷史上什麼時候有一個群體累積了史無前例的權力，然後自願把權力分配出去的？這條路的終點是永久的監控國家和財富不平等，規模是人類史上前所未見的。

Raskin 用「智慧詛咒」（intelligence curse）來描述這個困局，類比石油國家的「資源詛咒」。委內瑞拉和南蘇丹發現石油後面臨一個選擇：投資石油基礎建設（帶來所有 GDP 和權力），還是投資人民（短期看不到經濟回報）？結果都選了石油，人民被邊緣化。AI 時代也一樣：當 AI 成為國家所有 GDP 和軍事力量的來源，投資人類教育和福祉就變成了「慈善」，不再是經濟必需。哈拉瑞（Yuval Harari）稱之為「永久無用階級」：不是人類暫時失業，而是從結構上被排除在經濟循環之外。

你願意永遠依賴 AI 公司的善意來支付你的帳單嗎？而你什麼都沒有回饋給它們？Raskin 說，這聽起來就是一個糟糕的交易。

實驗室裡的「不可能的任務計畫」

如果兩條路都是死路，為什麼矽谷的實驗室還在全速前進？Raskin 揭露了他所稱的「不可能的任務計畫」（Mission Impossible Plan）。

邏輯是這樣的：AI 一旦能自動寫程式，就等於能自動培養 AI 研究員，進而觸發遞迴自我改進的迴圈。誰先達到這個門檻，理論上就能取得無法追趕的領先優勢，用更聰明的 AI 製造更聰明的 AI，形成爆炸式的智慧增長。到了 2026 年，實驗室內部的人已經承認「人類基本上不再寫任何程式碼了」。

所以實驗室的策略變成：衝向懸崖，越靠近懸崖就能拿到越大的武器，然後在 AI 失控的那一刻，用累積的優勢回頭「射殺」所有競爭者，再設法把 AI 關回籠子裡。Raskin 問了一個尖銳的問題：「想像一個世界，核武是由八家私人公司在競賽中開發最強大的炸彈。你覺得那個世界安全嗎？」

他也指出，不是所有實驗室都一樣。Google DeepMind 的哈薩比斯（Demis Hassabis）和 Anthropic 的 Dario Amodei 都公開說過，如果能達成共識，他們寧願以目前一半的速度前進。Anthropic 公開表態不希望自家工具被用於大規模國內監控或自主武器。但結構性的困境在於：即使你想減速，只要有一個競爭者不減速，你就不敢停下來。一旦落後，你就失去了影響未來走向的籌碼。

每個人都說「我們的價值觀比別人好，所以我們有道德義務繼續做」。問題是，每個人都這樣認為自己。

美國 vs 中國：不是同一場競賽

Raskin 對美中 AI 競爭的分析，顛覆了美國主流的「我們必須打敗中國」敘事。

他指出，美國是這場競賽的發起者，拿中國當藉口是最方便的。更重要的是，中美其實在打兩場完全不同的仗。美國追求的是最大化原始 AI 算力，跑得越快越好；中國追求的是建立最強大的「賽博社會」（cybernetic society），用 AI 來強化既有的社會結構和價值體系。Raskin 的比喻很直白：美國在給自己注射類固醇，中國在重新布線整個身體。

但不管哪條路線，兩個國家面臨的終局是一樣的。當 AI 大規模取代工作機會，數億人失去養家餬口的能力時，等待兩國的是 Raskin 所說的「相互保證的政治革命」。這不是抽象的未來學推測，中國法院已經做出判決：用 AI 取代員工不構成合法裁員理由。中國比任何人都清楚，大規模失業意味著什麼。

Raskin 提到，AI 安全合作已經出現在最近一次習近平和川普會面的議程上，這本身就很有意義，因為之前從來沒有。恐懼或許是最好的協調動力：不是「大家來做好事」的理想主義，而是「不合作就全部完蛋」的自利計算。

不要說「不可避免」：翻轉局勢的可能

Raskin 最反感的一個字是「不可避免」。他說這個字就像在施咒：一旦你說某件事不可避免，就等於在說「什麼都不用做了」，而什麼都不做的結果，就是讓那件事真的變成不可避免。

他的反例是 1983 年的美國電視電影《The Day After》。一億美國人看了這部描寫核戰後果的電影，包括雷根（Ronald Reagan）總統。雷根看完後陷入憂鬱，在傳記中寫下了這段經歷。這部電影創造了一種「共同知識」：每個人都知道其他人也知道核戰的真實後果。這個共同知識催生了雷克雅維克峰會，開啟了核武裁減。而在 1962 年，歐本海默還說核擴散是不可避免的。他錯了。

另一個例子是社群媒體的兒童保護立法。兩年前，禁止 16 歲以下未成年人使用社群媒體看起來根本不可能。但澳洲率先採取了道德立場，結果引發了骨牌效應：法國、丹麥、西班牙、印尼、印度接連跟進，全球 25% 的人口現在已經生活在實施這類禁令的國家。一個國家的行動，解鎖了其他國家認為「不可能」的事。

在政策工具方面，Raskin 提出了幾個具體方向：對資本課稅高於對勞動課稅，推動 GPU 稅和 token 稅，建立就業保險機制。他最有意思的一個提議是「全民基本所有權」（universal basic ownership），讓每個公民持有 AI 公司的實際股權，而不只是領取全民基本收入。差別在於：股權讓你有結構性的經濟參與，收入只讓你被動依賴。

微軟 AI 執行長蘇萊曼（Mustafa Suleyman）說過一句話讓 Raskin 印象深刻：「AI 時代的進步，取決於我們對什麼說不，而不是對什麼說好。」Raskin 認為這代表業界內部其實存在一個隱藏的共識，只是還沒有被公開表達出來。

我的觀察：當梵蒂岡和矽谷說出同一句話

Raskin 在這集 Podcast 中提到了一個耐人尋味的細節：教宗良十四世（Pope Leo XIV）在 5 月 25 日發布了一份長達四萬兩千字的 AI 通諭《Magnifica Humanitas》，而人道科技中心的共同創辦人 Tristan Harris 那一週正好人在梵蒂岡。

當矽谷的科技倫理倡議者和天主教會，從完全不同的出發點，走到了同一個結論，這件事本身就值得注意。教宗在通諭中警告 AI 可能讓文明「變得不那麼人性」，並特別譴責 AI 在戰爭中的應用。Raskin 和他的團隊從技術和誘因結構的角度分析，得出了幾乎相同的判斷：某種關於「人之所以為人」的東西正在受到威脅。

我認為 Raskin 這次訪談最有價值的地方，不是他描繪的末日場景，而是他對「清晰度創造行動力」的堅持。他反覆強調：「目標不是製造恐懼，而是製造清晰。」這和哈拉瑞在慶應義塾大學的演講一樣，重點不在預測毀滅，而在讓人們清楚看見我們正在走向哪裡，好讓我們有機會轉彎。

Raskin 還創造了一個詞叫「引擎蓋下的偏見」（under-the-hood bias）：因為 AI 技術很複雜，社會就自動把 AI 如何部署到社會中的決策權交給了技術專家。但設計引擎的人，不代表知道怎麼幫社區規劃道路和路標，這是兩個完全不同的問題。把它們混為一談，等於把本該屬於民主體制的決策權拱手讓給了科技公司。

這場 AI 競賽有沒有贏家？Raskin 的回答很明確：沒有。但他也不認為我們註定要輸。他的最後一句話是：「每次有人說這是不可避免的，你的回答應該是：我們連試都還沒試。」