火燒 AGI 木偶：Karen Hao 揭開 OpenAI 的類宗教造神運動

本文整理自 This Is World 節目 2026 年 5 月播出的單集，來賓為 AI 調查記者 Karen Hao。

{{< youtube BKB7iZ1q6xk >}}

---

穿浴袍的科學家，和火坑裡的木偶

一群穿著浴袍的資深科學家，在深夜排成半圓，圍著一座火坑。OpenAI 前首席科學家 Ilya Sutskever 拿出一座他特別找當地藝術家訂製的木偶，放進火坑裡，開始講述一個故事。故事裡，這座木偶代表 OpenAI 開發出來的「好的 AGI」，但他們後來發現它其實是會騙人、會毀滅世界的「機器惡魔」。所以 OpenAI 有責任摧毀它。Sutskever 往木偶上澆助燃劑，點火。

這不是小說情節。這是 Karen Hao 在調查 OpenAI 時，從多位受訪者口中聽到的真實場景，發生在 OpenAI 的一次公司靜修營裡。Hao 是前 MIT Technology Review 資深 AI 編輯、前華爾街日報駐港記者，2025 年出版了《Empire of AI》一書，訪談超過 250 人（包括 90 多名 OpenAI 現任與前員工），是迄今對 OpenAI 內部文化最深入的調查著作。

「我一開始以為那些關於 AI 將帶來烏托邦、或者 AI 會殺死全人類的說法，只是行銷手段，」Hao 在訪談中回憶。但她實際跟 OpenAI 和多家 AI 公司的員工深入對話之後，發現這套敘事遠比她預期的更深層。「這已經變成一種類宗教的氛圍。他們真心相信自己在建造某種機器之神。如果他們不建造，別人可能會造出機器惡魔。」

沙丘效應：當你開始相信自己編的故事

Hao 用科幻經典《沙丘》來比喻這個現象。在《沙丘》裡，主角保羅知道自己被包裝成「彌賽亞」是一個被刻意設計的神話。他選擇利用這個神話來掌控權力。但日復一日地扮演這個角色之後，他開始分不清楚自己到底是在演戲，還是真的成了預言中的救世主。

AI 產業正在經歷類似的過程。Hao 觀察到，公司內部有好幾層不同的信仰動態在同時運作。第一層是真正的信徒，像 Sutskever 這樣從一開始就篤信 AGI 使命的科學家。第二層是策略性的信仰者，他們理解「AI 將帶來翻天覆地的改變」這套敘事對爭取政策支持、吸引投資非常好用，所以選擇擁抱它。但隨著他們每天沉浸在這套敘事中，他們也漸漸無法分辨行銷話術和真實能力之間的界線。

第三層是起初抱著懷疑態度加入的人。他們可能只是覺得 OpenAI 在做很有趣的技術工作。但一旦進入公司，被其他員工每天談論這套信仰體系所包圍，他們也開始動搖，開始懷疑「也許這是真的」，最終同樣被吸入這個旋渦。Hao 的結論是：不管一個人帶著什麼樣的初始心態進入這個組織，最終都會被同化。「我不懷疑組織裡的每個人在某種程度上都相信他們所說的使命。但那是因為所有人，不論原本信不信，都被吸收進了這套信仰體系，再也分不清自己原來相信什麼。」

AGI 到底是什麼？OpenAI 自己也說不清楚

如果 AGI 是 OpenAI 的終極目標，那它到底是什麼？Hao 統計過，OpenAI 至少用了五種完全不同的方式來定義 AGI，每一種定義都精準地服務於公司當下的策略需求。在官網上，AGI 是「高度自主的系統，能在大多數有經濟價值的工作中超越人類」。在跟微軟的合約裡，AGI 變成「能產生 1,000 億美元營收的系統」。當阿特曼（Sam Altman）去國會作證時，AGI 又成了「能治癒癌症、解決氣候變遷」的技術，目的是避免監管。面對消費者，AGI 被重新包裝成「你人生中最好的數位助理」。而在公司內部，AGI 的最新定義是「AI 科學家」，一個能代替研究人員做 AI 研究、幫公司打敗競爭對手的系統。

五個定義，五種目的，指向同一個邏輯：怎樣定義 AGI，取決於跟誰說話，以及說話的人想要什麼。Hao 的判斷很直接：「這些定義根本不連貫。它們不是為了科學真理而設計的，而是為了公司的即時策略目標。」更根本的問題是，人類至今沒有對「人類智慧」本身達成科學共識。在連基礎概念都說不清楚的情況下，宣稱即將達到或已經達到 AGI，本身就是一種行銷操作。

每一次場合切換一個定義，讓 AGI 成了一個無限彈性的容器。需要投資人的錢？AGI 是千億美元的營收引擎。需要國會放行？AGI 是拯救人類的技術奇蹟。需要消費者續訂？AGI 是你的超級助理。這種策略的精妙之處在於，它讓批評者永遠追不上靶心，因為靶心一直在移動。

比網路泡沫更危險的泡沫

Hao 認為 AI 產業正處於泡沫之中，而且可能比 2000 年的網路泡沫更嚴重。她的理由很具體。

科技業常用來為網路泡沫辯護的說法是：泡沫雖然破了，但留下的海底光纖電纜後來還是派上了用場。Hao 指出，AI 泡沫的基礎設施完全不一樣。大型資料中心對周邊社區的衝擊遠比光纖電纜大得多，它們消耗大量電力和淡水，用燃氣渦輪發電還會汙染空氣。全球已經有很多社區在激烈抗議資料中心的進駐。

更關鍵的差異在於折舊速度。她舉了一個具體例子：OpenAI 在德州阿比林正在興建 Stargate 超級運算設施，這是一個 5,000 億美元計畫的一部分。因為工程進度比預期多花了時間，OpenAI 已經決定放棄使用尚未建好的第二期設施，原因是等它完工時，裡面的晶片已經不是最先進的了。也就是說，這些耗資鉅額的實體資產，還沒啟用就已經過時。

從財務面看也令人憂心。OpenAI 承諾在未來幾年投入 1.4 兆美元建設運算基礎設施，但公司營收剛跨過 250 億美元。中間有超過 1 兆美元的缺口，目前看不到任何明確的商業模式能補上。Hao 觀察到，Anthropic 作為後進者，反而因為沒有投入同等規模的基礎設施支出，正在快速侵蝕 OpenAI 的市場份額。如果泡沫破裂，留下的不會是日後能重新利用的光纖電纜，而是散布在各地、已經對社區造成衝擊、卻沒什麼剩餘價值的巨型設施。

知識工作的「劣質化」

AI 對就業市場的衝擊，並不像矽谷宣傳的「大規模失業」那麼單純。Hao 引用 MIT 教授、2024 年諾貝爾經濟學獎得主 Daron Acemoglu 的觀察，指出正在發生的其實更隱微，也更殘酷：知識工作的「劣質化」（shitification）。

具體的模式是這樣的。一個行銷人員被公司裁員了，原因是公司開始用 AI 來取代他的工作。但這個行銷人員並沒有徹底失業。他很快找到了新工作：幫 AI 公司做資料標註。做的事情呢？教 AI 模型怎麼做行銷。他還是在運用同樣的專業知識，但工作條件從穩定的全職變成了彈性的零工，薪水大幅下降，勞動保障消失。

Hao 認為這正是矽谷的策略。把全世界的專家吸收進資料標註產業，讓他們訓練 AI 模型，然後公司再把這些模型賣給企業。阿特曼最近有一段引發熱議的發言，說 OpenAI 的願景是「把智慧當成公用事業來提供，你向我們購買」。這句話的邏輯，就是讓 AI 公司成為全世界唯一的專業知識供應商。人類專家的知識被提取、標準化、打包進模型裡，而這些專家自己卻從「知識工作者」降格成了「AI 訓練員」。

Hao 也不客氣地指出，那些大聲疾呼「AI 將導致 40% 工人失業」的 AI 公司高層，包括 Anthropic 執行長 Dario Amodei，其實是在用另一種方式推銷產品。「預測大規模失業，基本上就是在說：我們的模型很快就能勝任 40% 的知識工作。」恐懼也可以是行銷工具。

造神運動的解方：先從看見訓練資料開始

面對這些問題，Hao 的第一步主張是透明度。目前公眾只能接觸到 AI 模型的「輸出」（模型給你的回答），卻完全看不到「輸入」（模型用什麼資料訓練出來的）。深度學習的整個前提，就是理解輸入如何影響輸出。但 AI 公司拼命遊說各國政府，阻擋任何要求公開訓練資料的法規，因為他們知道一旦公眾能科學地檢視訓練資料和輸出之間的關聯，「萬能機器」的神話就會被拆穿。

有人可能會問：歐盟的 GDPR 和 AI Act 不是已經在管了嗎？Hao 的回答反而是肯定的：正因為有這些法規，歐洲沒有出現像美國矽谷那種以剝削和掠奪為核心的 AI 巨頭。她認為這本身就是立法的成果。

至於 OpenAI 的使命是否曾經純粹過？Hao 的回答可能出乎很多人意料。她過去也以為 OpenAI 是被逐漸腐化的，但深入調查創辦初期的內部通信後，她改變了看法。「成立這家公司的首要目標，從一開始就是成為世界第一的 AI 實驗室，打敗 Google。非營利架構和使命宣言，只是用來挖角人才的工具。」一旦人才瓶頸被突破，瓶頸轉向資本，非營利的外殼就不再有用了。使命沒有被腐化，因為真正的使命，從來不是寫在網站上的那個版本。