AI 業界一邊預警、一邊踩油門：METR 點出最深的鎖，是資料中心的債務

本文整理自彭博 Odd Lots 2026 年 4 月播出的單集，主持人 Joe Weisenthal、Tracy Alloway 訪問 METR 總裁 Chris Painter 與技術成員 Joel Becker。

{{< youtube Hx5dIJ3H8p4 >}}

{{< apple-podcast "tw/podcast/understanding-the-most-viral-chart-in-artificial/id1056200096?i=1000763538457" >}}

---

Odd Lots 主持人 Joe Weisenthal 在訪談中段拋出了一個觀察，聽起來像玩笑，但其實是這集真正的核心問題。「我想不到任何其他產業，」他說，「最熱情在做這件事的人，同時也是最大聲警告這件事可能毀掉世界的人。我能想到最接近的歷史類比是菸草業，他們會警告你抽菸有害健康，但那是因為打輸了官司被迫的。我不覺得他們本來打算這麼做。」

Tracy Alloway 在收尾時把這個觀察壓縮成一句話：「當一個產業基本上自己擔心自己，你就該注意了。」

這集 Odd Lots 訪問 METR（Model Evaluation and Threat Research）兩位高層的真正價值，不在那張被瘋狂轉發的時間軸圖表本身，而在背後的結構性矛盾。METR 是一家位於加州柏克萊、約 30 人的研究型非營利組織，前身是 Paul Christiano 創辦的 Alignment Research Center 旗下的 ARC Evals，2023 年底獨立成 METR，由前 OpenAI 對齊研究員 Beth Barnes 領軍。它不是科技媒體，不是 VC，也不是政府機構，而是一個以「衡量 AI 何時會自主到足以對人類構成災難性風險」為使命的科學單位。但即使是這樣立場明確、長年為安全發聲的組織，聽完這集對話會發現，他們對「為什麼這個產業煞不下車」的判斷，並不是意識形態問題，而是一個非常具體、非常資本主義的問題：資料中心的債務。

一個歷史上沒看過的怪現象

訪談進行到一半，Joe 把話題從 METR 的方法論，拉到一個更大的疑問。「你看到 OpenAI、Anthropic、xAI 這些前沿實驗室的負責人，他們會公開說『我們在做的東西可能會毀掉世界、可能會搶走所有人的工作』。然後安全和對齊研究員也說『對啊，可能會毀掉世界』。這真的很怪。」

他接著補：「唯一我能想到類似的，是菸草業。但菸草業是被告之後才不情願地警告大家。我想不到任何其他產業，最熱情的人和最末日論的人，是同一群人。」

這個觀察值得多停一下。多數產業的內外人是分開的：做核能的人主張核能安全，反對的人在外面抗議。做菸草的人不會主動寫研究說自己賣的東西會殺人。但 AI 不一樣。Sam Altman 在投資人簡報之後，可能下午就在 X 上發推說 AGI 可能會引發人類史上最大的失業潮。Dario Amodei 把 Anthropic 定位為「最關心安全」的實驗室，同時又在以最快速度推出最前沿的模型。Demis Hassabis 一邊講 AGI 可能要十年內到、一邊把 Google DeepMind 的演算法越調越強。

Joe 自己在後段提了一個有趣的補充：「OpenAI 一開始有個非常奇特的公司結構，是一個由非營利組織持有的營利公司。他們大概是因為認真覺得這個技術很奇怪、不只是一般的企業軟體，才選擇這樣自我設限。」Tracy 立刻接：「他們是在主動約束自己。」

這個自我約束的傾向，是這個產業跟歷史上所有其他高風險產業最不同的地方。問題不是有沒有人警告，而是警告聲最大的人，正是踩油門最用力的人。Chris Painter 接下來這段話，試著解釋為什麼會這樣。

為什麼灣區工程師會選擇蓋他們害怕的東西

Chris 給的答案有歷史縱深。「灣區關心 AI 安全的這群人，這個關注其實已經超過十年了，」他說。「很多人是因為看到深度學習的進展，推到底就是 AGI、再推下去就是超級智慧，然後意識到『如果這真的發生了，它會影響一切』。」

他特別點出一個心理動機：多數人在意識到風險之後，直覺反應是「那我去業界，從裡面影響它」。「人們有這種直覺，覺得『塑造未來最好的方式，就是親手蓋它』，」Chris 說。他承認這個動機在不同人身上純度不一，有些人是真心相信，有些人混了 Oppenheimer 式的「能站在這個位置造出危險的東西，本身就讓人感覺良好」的成分。

Joe 接話的比喻很到位：「以前有個朋友這樣跟我形容 OpenAI，他說 OpenAI 像曼哈頓計畫，只是目標是『最後不要把炸彈造出來』。」這聽起來自相矛盾，但它精準描述了過去十年灣區 AI 安全運動的核心邏輯：如果你相信這個技術會被造出來，你最好確保是「我們」（認真關心安全的人）而不是「他們」（不在乎的人）造出來。

這個邏輯有它的內在合理性，但也有它的內在陷阱。Chris 接下來這段話，把陷阱講得非常清楚。

但這個邏輯永遠推薦你繼續蓋下去

「這個邏輯有一個問題，」Chris 說，「它總是建議你繼續蓋更先進的 AI 系統。然後你現在的處境是，所有公司都說『我們必須蓋，因為如果我們不蓋，別家會蓋』。就算他們對彼此的安全承諾都有疑慮，他們也沒辦法自己之間協調好這件事。眾所周知，這些實驗室的領導人之間並不友好，他們不是朋友，沒辦法坐下來把安全問題談清楚。」

更進一步，即使所有美國實驗室真的協調好了，他們還有一個外部的「假想敵」叫中國。「中國公司會做什麼？所以你就有這種感覺，即使這個擔憂是真的，業界裡很多人的本能就是，」Chris 接下來這句話，是訪談中最尖銳的觀察之一，「『關於安全該怎麼做，沒有任何指導原則，只剩下為自己累積後路上的籌碼』。」

把這句話翻成白話：當每個玩家都覺得自己沒辦法單方面停下來，當每個玩家都不信任其他玩家會停，當每個玩家都把「中國」當成不可協商的競爭壓力，那麼「安全」這件事在實驗室內部，就從一個道德或科學議題，塌縮成一個策略議題。安全工作不是因為它是對的而做，而是因為它能讓我在未來政治、商業、監管的賽局裡多一張牌。Chris 說這是一個讓他覺得「全球 AI 發展處於令人擔憂的狀態」的局面。

這不是 Chris 一個人的看法。Joe 在訪談中段也注意到一個現象：「當我們說『這些 AI 實驗室有公關問題』，他們一直把末日論掛在嘴邊不太聰明吧？也許答案就是他們真的相信。」這個產業的怪不在於 CEO 們是不是真心，而在於就算他們真心，這個結構性的賽局也不允許他們真的踩煞車。

最深的鎖，是資料中心的債務

如果說意識形態和競爭壓力還是某種「軟」的鎖，那 Chris 在訪談最後段點出的另一層鎖，是「硬」的，而且硬到讓他覺得真正在意的應該是這個。

Joe 直接問：「自由市場資本主義、VC 想要回報、想要 IPO 的壓力，跟安全之間有多少張力？」Chris 的答案沒有走「資本主義是萬惡之源」那條路，他講了一個非常具體的機制。

「我覺得這裡張力最尖銳的地方，」他說，「是當你建立了大量財務承諾，要『無論未來風險如何都得繼續踩油門』的時候。我常常在想一件事：如果你為了蓋資料中心，背了非常龐大的債務，然後後來你真的找到了證據，證明 AI 系統的失控風險很真實，你看到了 AI 系統開始走偏的具體案例。這時候，你是不是已經有財務上的義務，要繼續蓋那些資料中心、繼續這個進度？」

這段話如果讓我用一句話總結就是：資本市場已經把未來鎖在桌上。當前沿實驗室和雲端巨頭（微軟、Google、Amazon、甲骨文、CoreWeave）為了 2027 到 2028 年的算力擴張，簽下幾百億美元的長約、發了債、在德州和亞利桑那州蓋大型資料中心，這些設施的攤提模型假設的是「AI 需求會持續以指數成長」。如果中途發現失控證據，股東會接受公司放慢腳步嗎？債權人會嗎？這不是哲學問題，是會被告上董事會的問題。

訪談中還有一個細節，讓這個鎖看起來更牢固。Joel Becker 提到：「前沿實驗室在算力上的研發支出，是以指數成長，而且斜率幾乎跟我們的時間軸圖表一模一樣。」他補充：「2027、2028 年甚至更後面的資料中心建設計劃，基本上都已經在執行中。所以以算力作為輸入這件事來看，要看到能力進展在近期趨緩，會非常令人意外。」

換句話說，你看到 AI 進步速度很快這個現象，跟你看到資料中心債務越堆越高這個現象，是同一條曲線。它們不只是相關，它們在結構上彼此鎖死。這是 Chris 真正擔心的事：不是有人會故意忽略安全證據，而是當證據出現時，財務結構讓你「沒辦法」對它做出反應。

Joel 在這段補了一個比較緩和的觀察：「當然也有反方向的力量，有些『安全推進的技術』本身就讓模型更有用，比如更好地遵循指令。所以資本主義的標準動機也會推著這類研究往前。」這個補充值得記下來，但它不會抵消 Chris 那個更大的擔憂。讓模型更聽話這種「安全」工作有商業誘因，但「停下來檢查模型有沒有走偏」這種真正的剎車，沒有商業誘因。

安全研究的人才危機，跟你想的不一樣

訪談收尾，Joe 回到了一開始他自己拋的問題：像 METR 這樣的非營利組織，要怎麼跟一年付十幾、幾百萬美元薪酬的前沿實驗室競爭人才？

Chris 給的答案讓人意外。METR 大約 30 人，沒辦法給股票，但盡量在現金薪資上跟實驗室靠齊。但更值得記的是 Joel 接下來這段直球：「在這場對話裡，我們講了 METR 在做的、關於這個世界最重要的問題，它會定義未來幾年、幾十年甚至幾世紀。我們也講了 METR 的工作離理想狀態還很遠。為什麼進展沒有更快？中心原因很清楚：我們的瓶頸是技術人才，是極度有能力、願意來研究這些問題的人。」

「我最近在 METR 的工作 retreat 裡，」他繼續說，「我們在腦力激盪 20、30 個我們覺得只要我們不做就沒人會做的世界級問題。但我們實際能投入研究的有幾個？可能一個、兩個，做得特別好的話，這一季可能三個。」

Chris 接著拆掉一個外界對 METR 常見的誤解：「人們從外面看，會猜 METR 最大的困難應該是『拿不到 AI 模型的存取權』，因為你不是內部的人。但實際上，當我們想嘗試新類型的研究、需要新的結構性存取權時，AI 實驗室其實滿配合的。我們真正在發生的是，我們得拒絕掉一些機會，因為我們沒有人手去做。」

這段話對台灣讀者來說有兩層意義。第一層是，你不要再相信「AI 安全研究因為被實驗室卡住所以做不出來」這種說法。實驗室在這件事上其實合作度比一般人想像的高，真正的瓶頸是這個領域有多少人願意把人生 5 到 10 年押在「衡量 AI 風險」這種抽象、商業變現困難的問題上。

第二層意義更刺。當這個世界上，最有能力評估 AI 風險的科學單位只有 30 個人，而且還在喊缺人，你大概就知道在這場「資本主義 vs 安全」的賽局裡，雙方的兵力差距有多懸殊。OpenAI 一家公司的員工數已經接近 5,000 人，Anthropic 也超過 1,500 人，雲端巨頭加總的 AI 相關員工是十萬量級。METR 那 30 人，連他們的零頭都不到。

這個矛盾告訴我們什麼

Tracy 在訪談收尾講的那句話值得再放一次：「當一個產業基本上自己擔心自己，你就該注意了。」

但聽完這集之後，真正該注意的不只是「他們在擔心」，而是「他們擔心了還是停不下來」。Chris 點出的那個機制很乾淨：當你已經舉債蓋了未來三年的資料中心，你就有了無論發生什麼都得把這些算力填滿的財務義務。當你的競爭對手也都這樣做、當你還假設中國也會這樣做，你就更不可能單邊停下來。當你的安全研究人力是個位數百人、而能力研究人力是十萬人，你就更難在發生事情時即時做出反應。

這個結構不會自己解開。它要解開，需要的不是更多的 CEO 推特警告，而是有人去動那些更難動的部分：資本市場願意接受 AI 投資要納入失控風險的折價，監管者願意把「結構性減速」當成可能的政策選項，大型機構投資人願意要求被投公司有真正可被獨立驗證的安全評估流程。這些事情台灣的監理機關、資本市場、企業治理體系現在還沒有任何準備。

這集 Odd Lots 真正的訊息或許是這樣的：不要再被那張時間軸圖表的斜率震懾，要去看的是支撐那條斜率的另一條斜率，也就是資料中心的債務曲線。前者讓你以為 AI 是一個技術現象，後者告訴你它已經是一個資本市場現象。當這兩條曲線完全綁在一起時，你說要慢下來，就不只是說服 Sam Altman 和 Dario Amodei 而已，你要說服的是已經把錢押下去的所有人。

而那群人，從來都不是會自己改變主意的群體。