為什麼聰明人對 AGI 的經濟影響看法差了一千倍？

本文整理自《80,000 Hours Podcast》2026 年 2 月播出的單集。

{{< youtube Z19UEZHJzAg >}}

{{< spotify "episode/11u0qbWlGL2gxil4YLFQDL" >}}

{{< apple-podcast "tw/podcast/every-ai-companys-safety-plan-is-use-ai-to-make-ai/id1245002988?i=1000750178605" >}}

---

同一場面板，兩個互相矛盾的共識

去年紐約時報 DealBook 的一場面板討論，AI 安全研究員 Ajeya Cotra 親眼目睹了一個讓她困惑的場景。主持人問在座的科技人和創投，認不認為 2030 年前會出現 AGI？七成的人舉手了。幾個問題後，主持人再問：AI 在未來十年會創造更多工作還是摧毀更多工作？八成的人選了「創造更多」。

同一群人，同一場活動，間隔不到十分鐘。他們一邊說五年內會有能做所有人類工作的 AI，一邊說這個 AI 會創造更多工作。Cotra 指出，這個矛盾之所以存在，是因為 AGI 這個詞已經被嚴重稀釋了。對那些創投來說，AGI 大概就是 GPT-5 的意思。當她私下追問，幾個人很快就退讓了：「AGI 到底是什麼意思？我們差不多已經有了吧？人們一直在移動球門柱。」

Cotra 是有效利他主義陣營中最有影響力的 AI 策略研究者之一，曾在 Open Philanthropy（現 Coefficient Giving）主導技術性 AI 安全撥款。在她看來，這場面板的矛盾暴露了一個更深的問題：大多數人對 AI 的未來預期，建立在一個根本沒想清楚的基礎上。他們預期接下來的 25 年會像過去的 25 年一樣，有很多科技變化，但都是可管控的、漸進的。而 Cotra 自己的預期是，到 2050 年，世界跟今天的差距可能等同於今天與狩獵採集時代的差距。

這不是小分歧。這是一千倍的分歧。

慢派的堡壘：150 年不動如山的 2%

主持人 Rob Wiblin 在節目中點出一個驚人的數字。認真研究過 AGI 經濟影響的專家之間，對 AGI 在巔峰時期能讓經濟成長加速多少，分歧範圍從「增加 0.3 個百分點」到「每年成長 1000%」。這是一萬倍的差距，而且雙方都不是在說氣話，他們做過研究、彼此辯論過、仍然維持自己的立場不動搖。

慢派的核心論據建立在一個非常堅實的歷史事實上：過去 100 到 150 年，前沿經濟體的年成長率穩定維持在 2% 左右。你仔細想想這段時間發生了什麼。電力從一個概念變成無處不在的基礎設施，洗衣機、電視、收音機相繼問世，然後是電腦，然後是網際網路。這些技術徹底改變了日常生活的每一個面向，但沒有任何一項在經濟成長統計上留下加速的痕跡。

慢派的世界觀是這樣的：新技術是維持 2% 成長的引擎，沒有新技術，成長率反而會下滑。所以技術的角色不是「加速」成長，而是「維持」成長。每一代人都覺得自己經歷的技術革命是史無前例的，結果在統計上看起來都一樣。收音機沒有改變成長率，電視沒有，電腦沒有，網際網路也沒有，AI 為什麼就會？

Cotra 還提到一個她很喜歡的說法，來自程式設計師圈子的自嘲格言：「我們做這些事，不是因為它們容易，而是因為我們以為它們很容易。」這精準地捕捉了慢派的直覺。不管你的理論模型多完美，現實世界總是比你想的更慢、更難、更多瓶頸。Hofstadter 定律說得好：事情總是比你預期的花更長時間，即使你已經考慮了 Hofstadter 定律。

快派的武器：一萬年的加速曲線

快派的論據同樣有扎實的證據基礎，只是他們看的時間尺度不一樣。如果你把視野從 150 年拉長到一萬年，為人類歷史估算合理的 GDP 數字，你會看到一條加速曲線。西元前 3000 年的年成長率大概是 0.1%，到了工業革命之後才跳到 2%。換句話說，成長率本身已經翻了至少一個數量級。2% 不是什麼宇宙常數，它是人類特定歷史階段的產物。

快派的模型解釋這種長期加速的機制是一個回饋迴路。更多人口意味著更多腦袋可以嘗試更多點子，更多創新帶來更高效的糧食生產，養活更多人口，然後循環繼續。這個迴路推動了超指數的人口成長和經濟成長。

關鍵來了。如果 AI 能取代人類在認知和實體勞動上的全部角色，而且能閉合「AI 製造更多 AI」的完整迴路，包括軟體研發、晶片設計、實體製造，那麼限制成長的就不再是人類的生理極限，而是物理定律。物理定律允許的成長速度，遠遠快於 2%。

快派也有自己對慢派的「解釋理論」。當慢派提出某個具體瓶頸時，快派會逐一檢視那些瓶頸，然後發現：這些瓶頸也許能把成長率從理論上的 1000% 壓到 100%，但它們不構成把天花板壓回 2% 的理由。也就是說，瓶頸是真的，但瓶頸的量級被慢派高估了。

雙方都有自帶防彈衣的世界觀

Cotra 在節目中分析了一個特別有意思的結構：為什麼雙方辯論了這麼多年，還是無法收斂？答案是，兩邊的世界觀都「自帶錯誤理論」（built-in error theory），能夠自動消化對方提出的任何論點。

慢派的防彈衣是這樣運作的：「每一個世代都有人說這次的技術革命會讓一切加速。電視時代有人這麼說，電腦時代有人這麼說，網際網路時代有人這麼說。結果每一次都沒有。你對 AI 的預測，跟之前每一次的樂觀預測，在結構上沒有區別。」這意味著，不管快派提出多精巧的 AI 自動化迴路論證，慢派都可以用「這種思維方式歷史上的勝率是零」來回應。

快派的防彈衣則反過來運作。他們認為慢派總是含糊地假設「一定會有瓶頸」，但從不具體說明那些瓶頸是什麼。而每次慢派真的提出具體瓶頸時，經過仔細分析，那些瓶頸的影響量級都不足以把成長率壓回 2%。所以在快派看來，慢派的論證方式本身就有系統性偏誤：高估摩擦、低估回饋迴路的力量。

這就是為什麼兩邊吵了這麼多年還吵不攏。不是因為誰比較笨或誰沒讀對方的論文，而是因為雙方的認知框架各自形成了封閉系統，能自動將對方的反駁「翻譯」成支持自己的證據。

用實證打破僵局：從 RCT 到 LEAP 預測面板

Cotra 認為，靠理論辯論無法解決這個分歧，需要的是實證數據。她提出了幾個具體的方向。

第一個是大規模的「提升隨機對照試驗」（uplift RCT）。AI 安全組織 METR 做了第一個這類型的高品質實驗：讓軟體開發者隨機分成兩組，一組可以用 AI，一組不能，然後比較兩組解決任務的速度。有趣的是，在那次實驗中，用 AI 的那組反而比較慢。Cotra 不認為這會一直是結果，但她很高興有人開始收集這種數據，而不是只靠 benchmark 分數。

第二個方向是追蹤 AI 在真實工作場所的滲透程度和實際產出影響。Cotra 特別想看的是：如果有一家太陽能板工廠全面導入了 AI，它的生產速度和品質提升了多少？最終她真正在意的是整條 AI 供應鏈：晶片設計、晶片製造、製造晶片的設備的製造，還有軟體端。因為快派認為事情會急劇加速的那個時間點，恰好就是 AI 完全自動化了「製造更多 AI」這個流程的時候。

第三個是 LEAP（AI 專家縱向追蹤面板），由 Forecasting Research Institute 營運。他們聚集了 100 到 200 位 AI 專家、經濟學家和超級預測者，讓他們回答一系列關於 AI 未來六個月、一年、五年走向的細緻問題。Cotra 對這個面板特別興奮，因為讓人們做出主觀預測、解釋這些預測如何連結到他們的長期世界觀、然後隨時間驗證誰對了，可能是目前最靈活的早期預警工具。

第四個是 AI 公司的透明度要求。Cotra 希望公司能在固定的時間節奏上公布內部 benchmark 最高分，而不只是在產品發布時才公布。她還特別關注一個指標：在公司的內部程式碼庫中，有多少比例的 pull request 是由 AI 撰寫且由 AI 審查，人類在兩邊都幾乎沒有介入。這個數字同時反映了 AI 的能力等級和公司給予 AI 多少決策權。

你站哪一邊，決定了你對一切的立場

這場辯論之所以重要，不是因為它是學術趣味，而是因為它有極高的決策相關性。如果慢派是對的，AI 就是一個好用的工具，應該加速應用、減少監管。如果快派是對的，我們正在面對文明級的轉型，需要全面的預警系統、透明度要求和防禦性基礎設施。

Wiblin 在節目中做了一個精妙的觀察：兩邊可能都想要「用 10 到 20 年完成 AI 轉型」這個結果。但加速派認為預設速度太慢，需要鬆綁來加速到 10 年。安全派認為預設速度太快（可能只有 12 個月），需要減速到 10 年。他們對目標速度的判斷可能差不多，但因為對基線的認知完全不同，所以在政策上推往相反方向。

這也許就是為什麼 AI 政策辯論經常像雞同鴨講。不是因為大家目標不同，而是因為大家對「如果我們什麼都不做，事情會怎樣發展」的判斷差了一千倍。在這個基本問題上取得更多共識之前，政策辯論很難有實質進展。而取得共識的唯一方法，就是收集更多、更好、更即時的實證數據。