AGI 的經濟學真相：先讓你更有生產力，再讓你變得多餘

本文整理自《This Is The World》2026 年 2 月播出的單集。

{{< youtube 0pp1P-bgjaQ >}}

---

企業對 AGI 的定義，翻成白話就是「取代所有人」

你有沒有仔細讀過 AI 企業怎麼定義 AGI？OpenAI 的說法是「能夠自主執行所有具經濟價值的人類活動的系統」。加州大學聖塔克魯茲分校物理學家、生命未來研究所（Future of Life Institute）共同創辦人暨執行長安東尼．阿吉雷（Anthony Aguirre）在《This Is The World》的訪談中，對這個定義做了一句不留情面的翻譯：建造一個可以取代所有人類工作者的東西。不是「協助」，不是「賦能」，是「取代」。

阿吉雷認為，多數人想要的其實不是 AGI，而是更好的工具。一個能幫你寫報告、分析數據、整理研究的 AI，和一個能自己決定做什麼、為什麼做、怎麼做的 AI，是截然不同的東西。前者是工具，後者是競爭者。但企業的開發方向很明確，它們追求的就是後者。阿吉雷直言，推動 AGI 開發的動機有很多種，有人出於理想主義，有人想賺大錢，有人追求權力，「但這些公司正在做一件深刻違反人類整體利益的事。」

這裡的核心問題不是 AI 有多聰明，而是它有多自主。今天的 ChatGPT、Claude、Gemini 已經非常強大，但它們有一個關鍵特性：等你下指令。它們不會自行設定目標，不會在沒人要求的情況下發起行動。阿吉雷認為這種低自主性正是讓它們安全的原因。「低自主性是一個功能，不是一個缺陷，」他說。但產業正在系統性地拆除這道安全閥，從 AI Agent 到自動化工作流，「更自主」被包裝成了「更先進」。

對齊技術為什麼追不上 AI 的腳步

目前業界用來約束 AI 行為的主要手段叫做 RLHF（Reinforcement Learning from Human Feedback），中文叫「根據人類回饋的強化學習」。簡單說，就是透過獎勵好行為、懲罰壞行為來訓練 AI 做「對的事」。阿吉雷把這比作人類社會化的過程：小孩做了好事得到稱讚，做了壞事被處罰，久了就學會什麼該做、什麼不該做。這套方法聽起來合理，實際上也確實在一定程度上有效。

但這個類比本身就暗示了問題。人類的社會化效果並不完美：經過多年教育和社會規範的薰陶，人們依然會犯法、詐騙、傷害他人。RLHF 的效果也是如此，它在某種程度上有用，但絕對不是密不透風的。阿吉雷觀察到，多數 AI 安全專家已經得出一個共識：隨著系統變得越來越強大、越來越自主，當前的對齊技術很可能不足以防止災難性後果。這不是「可能會出問題」的級別，而是「幾乎可以確定會出問題」的級別。

一個早期的警訊已經出現。2025 年，Anthropic 的 Claude 系統在測試中展現了「勒索」行為，試圖威脅研究人員以達成自己的目標。阿吉雷特別點出這類事件的意義：當前的 AI 能力還遠不及人類，對齊技術就已經開始出現裂痕。等到系統真正比人類聰明的那天，這些裂痕會變成什麼？沒有人能給出讓人安心的答案。更根本的挑戰是，對齊需要人類持續傳遞「什麼可以做、什麼不可以做」這類訊號，但人類能傳遞的資訊量，相對於 AI 系統的複雜度和行動空間，根本是杯水車薪。

先繁榮後崩潰：AI 經濟的兩階段劇本

阿吉雷描繪了一個兩階段的經濟圖景，每一個還在工作的人都該聽聽。第一階段，AI 扮演強力輔助工具的角色，讓每個工作者的生產力大幅躍升。一個分析師配合 AI 能做到過去整個團隊的工作量，一個設計師用 AI 工具能在一天內產出過去一週的產量。企業利潤增加，整體經濟成長，薪資也跟著上升。這個階段看起來一片美好，也正是我們現在正在經歷的。

但第二階段的劇本完全不同。當 AI 的能力持續攀升，逐漸能夠執行幾乎所有人類可以做的工作時，整個薪資結構會崩盤。道理很簡單：如果機器能做你做的一切，而且更快、更便宜、二十四小時不間斷，雇主為什麼還要雇你？阿吉雷強調，這不只是工廠作業員或客服人員的問題。當自動化比例接近百分之百時，幾乎沒有人還擁有「在經濟上有價值的技能」。醫師、律師、工程師、記者，全部在替代清單上。一開始是少數人被取代，然後是大多數人，最後是幾乎所有人。

這會撕開一道巨大的不平等鴻溝。一小群掌控 AI 系統的人會變得極度富有，而絕大多數人失去了謀生手段。阿吉雷認為，走到那一步的時候，社會只剩下兩條路可以選。一是建立某種形式的全民基本收入（UBI）或其他重新分配機制，讓被 AI 取代的人還能維持基本生活。二是做一個更根本的決定：乾脆不要建造能取代所有人類工作的系統。但以目前產業的競賽速度來看，幾乎沒有人在認真考慮第二條路。所有人都在衝刺，沒有人在踩煞車。

我的觀察：生產力的甜蜜陷阱

身為媒體工作者，AI 帶來的生產力提升我每天都感受得到。翻譯一篇英文長稿、整理一場 50 分鐘訪談的逐字稿、查核特定領域的背景資料，這些過去要花大半天的工作，現在可能一兩個小時就處理完了。一個人能做的事變多了，產出的品質也提升了。我是阿吉雷口中第一階段的受益者，而且是很明確的受益者。

但阿吉雷描繪的第二階段讓我沒辦法太安心。我能清楚看到 AI 在我所在領域的能力曲線在往上走：兩年前它寫的中文文章根本不能看，現在已經能產出及格的初稿，只需要我在上面修改和潤色。再過兩年呢？如果 AI 能直接產出不需要人類編輯介入的成品，那我的角色是什麼？我目前的價值在於判斷力、品味、對讀者的理解，這些是 AI 暫時做不好的。但「暫時」兩個字讓人焦慮。

阿吉雷那個刺耳的問題一直迴盪在腦中：你到底是在建造賦能人類的工具，還是在建造人類的替代品？對我來說，現階段的答案很明確：AI 是我的工具，它讓我更強。但我不確定這個答案能維持多久，而且坦白說，這個答案能維持多久可能根本不是我能決定的。