他證明了量子電腦能模擬一切，現在他說 AGI 的存在性威脅被誇大了

本文整理自 Reuben Adams 的 Podcast 節目《What The Bot》2026 年 2 月播出的單集。

{{< youtube CU2yj826NHk >}}

---

1985 年的一篇論文

1985 年，一個在牛津大學工作的年輕物理學家發表了一篇論文，標題是《量子理論、邱奇-圖靈原理與通用量子電腦》。這篇論文做了一件在當時看來幾乎是科幻的事情：它證明了一台遵循量子力學的電腦，能夠模擬自然界中任何物理過程。不是近似模擬，是精確模擬。

這個結果有一個很深遠的含義。它意味著在計算能力這件事上，宇宙已經把上限告訴我們了。不存在什麼超越量子電腦的「超級計算」。任何物理系統能做的計算，通用量子電腦都能做。反過來說，任何通用計算裝置，不管它是人腦、矽晶片、還是未來的 AGI，它們的計算庫在根本上是一樣的。

那個年輕物理學家就是大衛．多伊奇（David Deutsch）。40 年後的今天，他用同一套理論框架，對 AI 安全辯論提出了一個讓很多人不舒服的結論：AGI 不構成全新的存在性威脅。

通用計算：人和 AGI 站在同一條起跑線上

要理解多伊奇為什麼對 AGI 風險不那麼擔心，得先理解他的起點。

圖靈在 1936 年證明了通用圖靈機的存在，也就是說，有一種計算裝置能執行任何可計算的程式。人類的大腦是一台通用圖靈機，證明方式很簡單：你可以拿紙跟筆，一步一步模擬圖靈當年設想的那台機器。這代表人腦能執行的程式庫，跟任何其他通用計算裝置完全相同。

但圖靈的結果是數學上的，留下了一個物理學的問題：有沒有某種物理過程，是圖靈機無法模擬的？如果有，那也許未來的 AGI 可以利用這種過程，做到人類做不到的事。

多伊奇在 1985 年的論文正是回答了這個問題。他證明了量子理論允許的任何物理過程，都可以在通用量子電腦上模擬。這個定理徹底封堵了「超圖靈計算」的可能性。不存在某種隱藏在物理定律中的計算捷徑，是 AGI 能用而人類不能用的。

這個結論的直接推論是：AGI 不可能比人類「根本性地更聰明」。它可能更快，記憶更大，但能做的事情在種類上跟人類完全一樣。更重要的是，任何讓 AGI 變得更快的硬體進步，人類同樣可以使用。多伊奇在訪談中指出，我們此刻就已經比發明電腦之前的人類「更快」了，這不是因為我們的大腦進化了，而是因為我們發明了更快的通訊和計算工具。

由此推論：AGI 不是全新的威脅

如果 AGI 和人類在計算能力上沒有根本差異，那 AGI 風險的性質也就改變了。

多伊奇的論點是：AGI 可能犯下嚴重的道德錯誤，甚至可能造成大規模災難。但這不是一種全新類型的風險，而是人類社會一直在面對的風險。人類歷史上有種族滅絕、殖民主義、世界大戰。這些災難的規模都是前所未有的，但人類文明沒有因此毀滅。原因是什麼？因為開放社會有一種內建的糾錯機制：壞的想法可以被辨識出來，被公開批判，最終被更好的想法取代。

多伊奇認為，AGI 會被納入同樣的糾錯體系。如果 AGI 是真正的通用智慧體，那它就是一個「人」，具備理性思考和道德推理的能力。一個理性的存在，面對自己的錯誤時，有能力認識到錯誤並修正。這不是保證它不會犯錯，而是說它犯的錯誤在原則上是可以糾正的，就像人類犯的錯誤在原則上是可以糾正的。

訪談中有一個讓人印象深刻的時刻。多伊奇設想了一個情境：一個 AGI 的推理過程中出現了「殺光所有人類」的結論。他的反應不是恐慌，而是分析。他說，這個結論必然是從某一個錯誤的前提推導出來的，而那個前提是可以被找到和糾正的。就像一個數學證明中的錯誤可以被定位一樣。這不是在否認危險，而是在主張危險的性質是可處理的。

開放社會的糾錯機制

多伊奇的信心來源其實不在 AGI 本身，而在開放社會。

他大量引用了波普的政治哲學。波普在《開放社會及其敵人》中論證，好的治理制度不是選出完美的領導者，而是建立一套能讓壞的領導者被和平替換的機制。同樣的邏輯適用於 AGI：重點不是確保 AGI 永遠不會犯錯（這是不可能的），而是確保當 AGI 犯錯時，我們的制度能辨識並糾正錯誤。

多伊奇用啟蒙運動的歷史來支撐這個論點。啟蒙運動之前的社會，道德和政治信念是不可質疑的。國王的權威來自上帝，教會的教義不容挑戰。啟蒙運動的核心創新是「制度化的糾錯」：建立了一套機制，讓壞的想法能被辨識、批判和替換，而不需要摧毀制度本身。科學的同儕審查、民主的選舉制度、法律的上訴程序，都是這個原則的具體體現。

多伊奇認為，這套糾錯機制是人類文明最重要的發明，而且它對 AGI 同樣適用。一個在啟蒙文化中「長大」的 AGI，會內化這些糾錯機制，就像在這個文化中長大的人類會內化它們一樣。關鍵不是 AGI 的硬體或演算法，而是它成長的文化環境是否具備足夠的糾錯能力。

彗星撞地球 vs 流氓 AGI

那麼，AGI 到底有多危險？

多伊奇在訪談中給出了一個讓 AI 安全社群可能不太高興的比較。他說，彗星撞擊地球導致人類滅絕的可能性，比流氓 AGI 毀滅人類的可能性更高。

這個說法乍聽之下像是在開玩笑，但他背後有一個嚴肅的邏輯。彗星撞擊是一個純粹的物理事件，不受任何糾錯機制的約束。一顆直徑 10 公里的小行星不會因為我們跟它講道理就改變軌道。但 AGI 是一個理性的存在，它會回應理由、證據和論證。即使一個 AGI 暫時持有錯誤的信念，它的錯誤是可以被辨識和糾正的。彗星沒有這個性質。

多伊奇並沒有完全否認 AGI 風險。他明確表示，AGI 可能犯下規模空前的道德錯誤。但他堅持認為，這些錯誤在性質上跟人類已經面對的風險是同一類。人類之間的衝突，從部落戰爭到核武威脅，一直都有毀滅文明的潛力。我們沒有因此禁止人類思考或繁殖。我們選擇的應對方式是建立更好的制度、更強的糾錯機制、更開放的社會。多伊奇認為，面對 AGI，我們應該做同樣的事。

訪談結尾，主持人問他是否對人類的未來感到樂觀。多伊奇的回答帶有一種冷靜到近乎冷酷的誠實：「我們會成功，或者我們會失敗然後死掉。」沒有保證。但他認為成功的概率遠高於失敗，因為理性和糾錯是宇宙中非常強大的力量。

我的觀察：物理學家的清醒與盲點

多伊奇的論述最有價值的地方，是他把 AGI 風險從一個「前所未有的新問題」重新定義為「一個我們已經有處理框架的老問題」。這個重新定義很重要，因為它打破了 AGI 辯論中常見的一種癱瘓性思維：覺得 AGI 風險太獨特、太史無前例了，所以我們需要全新的、前所未有的應對措施。多伊奇說不用，我們已經有工具了，那些工具叫做開放社會、理性探究和制度化的糾錯。

但我也覺得他可能低估了幾個因素。

速度的不對稱是一個真實的問題。人類的糾錯機制運作在人類的時間尺度上。民主制度需要幾年的選舉週期，科學需要幾年到幾十年的研究週期，法律需要更長。如果 AGI 犯錯的速度遠快於人類糾錯的速度，那開放社會的糾錯機制可能來不及反應。多伊奇的框架在邏輯上是對的，但在時間上可能趕不上。

另一個問題是，多伊奇對「開放社會」的信心，建立在啟蒙價值觀持續有效的前提上。但啟蒙價值觀本身也是脆弱的。過去幾年，全球的民主退潮、假訊息泛濫、極端主義抬頭，都在提醒我們，糾錯機制不是自動運作的，它需要持續的維護和捍衛。在這樣的背景下，指望 AGI 自動被納入一個「運作良好的開放社會」，可能過於樂觀。

不過，多伊奇提出的比較框架確實有助於讓 AI 安全辯論回到一個更理性的位置。太多的 AGI 末日論述建立在一種特殊化的恐懼上，彷彿 AGI 是一種前所未見的、無法用任何現有框架理解的威脅。多伊奇提醒我們，威脅永遠存在，人類一直在面對威脅，而我們最好的應對工具從來都是保持開放、保持理性、保持糾錯的能力，不是控制和限制。

這個提醒，在恐懼驅動的 AI 安全辯論中，是一劑很需要的清醒劑。