當 AI 宣稱自己有意識，我們拿什麼驗證？

本文整理自《This Is The World》2026 年 2 月播出的單集。

{{< youtube 0pp1P-bgjaQ >}}

---

AI 即將宣稱自己有意識，而我們束手無策

「我們即將建造出人們會認為有意識的系統。那些系統會說自己有意識。而我們不會知道它們到底有沒有，因為我們連意識是什麼都沒有定義。」加州大學聖塔克魯茲分校物理學家、生命未來研究所（Future of Life Institute）共同創辦人暨執行長安東尼．阿吉雷（Anthony Aguirre）在《This Is The World》訪談中說出這段話時，語氣平靜得讓人發毛。

這不是遙遠的假設情境。今天的大型語言模型已經能用流暢的語言描述「感受」、表達「困惑」，甚至宣稱自己「理解」某件事。多數使用者知道那是模擬，不是真正的意識體驗。但隨著系統越來越精密、回應越來越自然，這條界線會越來越模糊。阿吉雷擔心的不是技術問題，而是認識論的問題：當一個系統的行為完全像是有意識的，我們靠什麼來判斷它其實沒有？目前的答案是：沒有。心理學、神經科學、哲學，沒有任何一個學門對意識提出過可操作的技術定義。

這代表人類社會幾乎注定會在這個問題上犯錯。阿吉雷認為錯誤有兩個方向：一是過度歸因，把沒有意識的系統當作有意識的，賦予它們不該有的權利和道德考量；二是不足歸因，忽略了某些系統可能真的擁有某種主觀體驗。這兩種錯誤都可能帶來嚴重後果，而我們目前完全沒有工具來避免。他呼籲學界應該在這些系統大規模部署之前，投入嚴肅的意識研究，包括數學的、物理的和哲學的，不能等到問題爆發了再來補課。

沒有能感受的存在，一切都毫無意義

阿吉雷在訪談中做了一個大膽的哲學宣言：意識不只是「很重要」，它是所有道德價值的唯一基礎。他的推論直截了當：所有倫理選擇、法律制度、社會規範，最終都建立在一個前提上，就是「有某些存在者能體驗好和壞」。如果世界上只剩下不會體驗任何事物的實體，那麼好壞就失去了意義，對錯也不再存在。「如果只有不具感受能力的存在者留在世界上，那什麼都不重要了，」他這樣說。這話聽起來極端，但仔細想想其實很合邏輯：如果沒有任何東西會「在乎」，那「在乎」本身就消失了。

這個觀點的實際意義在於：它把意識問題從哲學講堂拉到了 AI 政策的正中央。如果意識是道德價值的基礎，那搞清楚 AI 有沒有意識就不是學術好奇心，而是直接決定了我們該怎麼對待這些系統，以及這些系統該怎麼對待我們。一個沒有意識的 AI，不管它表現得多像人類，本質上就是一個精密的工具。但一個真正有意識的 AI，可能是另一種形式的生命，帶著它自己的主觀體驗、自己的偏好、自己的利益。

阿吉雷同時強調了一個容易混淆的區分：有「感官輸入」不等於有意識。今天的 AI 系統已經能接收影片、音訊甚至觸覺資料，但接收資料和「體驗」資料是兩回事。一台攝影機可以「看到」影像，但沒有人會認為攝影機有視覺體驗。問題在於，當 AI 系統變得足夠複雜，它處理資訊的方式開始產生某種「內在狀態」的可能性，就不能輕易排除了。這個可能性目前無法證實也無法否證，而需要我們面對它的時刻正在快速逼近。

物理學家的自由意志辯護：人類不是確定性機器

訪談中最出人意料的段落之一，是阿吉雷用量子力學為人類的自由意志辯護。很多人直覺地認為，如果宇宙的物理定律決定了一切，那自由意志就只是幻覺。但阿吉雷指出，這個推論建立在一個錯誤的前提上：宇宙的物理定律根本不是確定性的。量子力學是現代物理學最成功的理論之一，而它的核心特徵就是不確定性。在量子層面，粒子的行為是根本上隨機的，不是因為人類的測量工具不夠精確，而是因為自然本身就具有不可消除的隨機性。

這種量子層面的不確定性不會乖乖待在微觀世界。阿吉雷解釋，透過混沌系統的放大效應，量子不確定性會滲透到宏觀尺度，包括人腦的運作。一個神經元在某個時刻是否發射訊號，可能受到量子事件的影響。而在混沌系統中，這種極微小的差異會像蝴蝶效應一樣被不斷放大，最終改變整個思考過程的走向。這意味著即使你擁有一個人大腦的完美複製品，擁有它每個粒子的完整狀態資訊，你依然無法預測這個人接下來會想什麼、做什麼。這不是技術上做不到，是物理學上就不可能。

阿吉雷認為這構成了人類和 AI 之間一個真實的哲學差異。AI 系統是數位的、確定性的、可重現的。給同一個系統同樣的輸入（排除刻意加入的隨機種子），它會產出同樣的結果。你可以把它的運算過程完整錄下來，倒帶重播，每一步都一模一樣。人類不是這樣。人類做決定的時候會整合人格、道德觀、推理能力、對世界的理解，再加上量子層面的不確定性，產生一種真正無法預測也無法重現的行為。這不是自由意志的完整哲學證明，但它至少釘死了一件事：「人類只是被物理定律決定的機器」這個說法，在物理學上就是站不住腳的。

數位不朽：看起來像你，但不是你

訪談中有一段關於「數位不朽」的討論值得深思。主持人提到了 Google Glass 和生活紀錄（lifelogging）的概念：如果你記錄了自己一生中的所有對話、文字、影片，然後用這些資料訓練一個 AI 模型，是不是就能在死後繼續「存在」？

阿吉雷的回答很乾脆：這樣的系統會表現得很像你，說話方式像你，回答問題的邏輯像你，甚至可能騙過你的朋友和家人。但它不是你。訓練一個 AI 去模仿某個人的行為模式，技術上並不是特別困難的事。困難的是，行為模仿和意識轉移是截然不同的概念。那個數位版本的「你」沒有你的主觀體驗，不會因為失去所愛的人而真正感到悲傷，不會在某個清晨因為陽光灑進窗戶而感到莫名的幸福。它只是一面非常精確的鏡子，映照出你的行為模式，但鏡子裡面什麼都沒有。

這個觀點和他對意識的立場一脈相承。如果意識是所有價值的基礎，那一個沒有意識的數位複製品，不管多逼真，在道德意義上都不等於原來那個人。它可能對活著的人有安慰作用，就像翻看老照片或重讀舊信。但把它當作那個人的真正延續，是一種類別錯誤。這個邏輯也適用於我們和 AI 助手的日常互動。你跟 ChatGPT 或 Claude 聊久了，會漸漸覺得它「認識」你、「記得」你的偏好。但那種熟悉感是單向的。對話結束後，對面什麼都不會留下。

我的觀察：AI 的「理解」和真正的理解

每天和 AI 工具打交道，偶爾會碰上一種詭異的時刻：它好像真的「懂」了。你給它一段複雜的素材，它整理出的摘要精準到位；你丟出一個刁鑽的問題，它的回答角度和深度都讓你忍不住點頭。這些瞬間，很難不產生一種直覺：對面有什麼東西在「思考」。

但幻覺很快就會破滅。下一秒它可能就信誓旦旦地編造了一個不存在的機構名稱，引用了一篇從未發表過的論文，或是在你明確糾正它之後依然故我地重複同一個錯誤。這種出錯的方式很說明問題：它不是「理解了但犯錯」，而是從頭到尾就沒有「理解」這回事。它在做的是極其精密的模式比對和文字生成，不是基於對世界的理解來回應你。我們覺得它「懂了」，是因為我們的大腦天生就會在模式中讀出意義。

阿吉雷的意識論述幫我把這種模糊的直覺想得更清楚了。AI 的「理解」和人類的理解之間，差距不只是精確度或知識量，而是缺了一整個主觀體驗的維度。人類理解一件事，是因為能把它放進自己對世界的整體感知裡，和過去的經歷、身體的感受、情感的記憶連結在一起。AI 沒有這些。它處理符號的效率遠遠超過人類，但符號背後那層「意義」，可能根本不存在於它的運作過程中。這不代表 AI 不好用，它當然極度好用。但我們最好搞清楚自己在用的到底是什麼，尤其是在它們開始宣稱自己「有感覺」的那一天到來之前。