AI 技術前沿

脆弱不是 bug：教宗為何拒絕超人類主義的許諾

教宗良十四世的 AI 通諭《偉大的人類》第三章後半段，正面回應了超人類主義對克服人類限制的願景。通諭指出，脆弱不是人類的缺陷，而是同理心、創造力與精神生活的泉源。本文從庫茲威爾、Neuralink 到 e/acc 運動，對照教宗的基督教人文主義替代方案。

2026 年 5 月 29 日 · 來源： Magnifica Humanitas

"Our relationship with life seems to be in crisis today. Everything that appears as a 'limit' — incapacity, illness, old age, suffering, vulnerability — tends to be seen primarily as a defect to be corrected, rather than as a reality through which our humanity matures and opens itself to relationship."

「我們與生命的關係似乎正處於危機之中。一切被視為『限制』的東西，無論是無能、疾病、衰老、痛苦或脆弱，往往被當作需要修正的缺陷，而非我們的人性在其中成熟、向關係敞開的實在。」

—— 教宗良十四世，《偉大的人類》¶118

上一篇文章結尾，我們看到教宗如何診斷科技權力集中的結構性問題，以及全球監管體制面對巨型科技公司時的力不從心。但通諭第三章的後半段，教宗的目光從外部的權力結構轉向了更深處，他要處理的不再是誰擁有多少伺服器或市場份額，而是一個更根本的問題：矽谷最有影響力的一群人，到底相信人類應該變成什麼？

這個問題之所以重要，是因為它直接決定了 AI 技術的發展方向。如果你相信人類的身體是一部等待升級的機器，那麼所有技術發展的目標就是讓這部機器跑得更快、活得更久、最終超越生物學的限制。教宗在通諭中用了一個精準的描述：那些「把進步理解為超越人類處境」的思潮（¶115）。他要正面回應的，正是這套在矽谷有著深厚信徒基礎的世界觀。

矽谷最深層的信仰

要理解教宗在批判什麼，我們得先看清楚他的對手是誰。超人類主義不是一個統一的學派，通諭自己也承認它更像「一個概念的群島」，不同的島嶼各有特色，卻共享同一片假設的海洋：科技居於核心地位，而人類注定要超越自身的限制（¶116）。這個群島上住著形形色色的居民，從嚴謹的學者到狂熱的傳教士都有，但他們共同描繪的未來圖景，正在深刻影響全球科技產業的資源配置和研發方向。

雷．庫茲威爾（Ray Kurzweil）是這個群島上最資深的居民之一。這位 Google 的工程總監從 1990 年代就開始預測「奇點」的到來，他在 2024 年出版的《奇點更近了》（The Singularity Is Nearer）中把時間表進一步推前：2029 年 AGI 將至，2045 年人類意識將與機器融合。庫茲威爾甚至在 2025 年的受訪中說，他的預測「也許過於保守了」。他每天服用超過 100 種補充劑來延緩衰老，目標是活到奇點到來的那一天。這不只是科幻小說式的想像，而是一位在 Google 領薪水的資深工程師，用他畢生的學術聲譽為這套敘事背書。對教宗而言，庫茲威爾代表的是通諭所批判的那種「未來主義願景」，一種透過科技承諾「增強版人類」或「人機混合體」的熱情（¶115）。

伊隆．馬斯克（Elon Musk）的 Neuralink 則把這套願景從理論推向了人體。截至 2026 年 5 月，已有 9 名患者接受了腦機介面植入手術。2024 年首位植入者諾蘭．阿爾博（Noland Arbaugh）成功用意念控制電腦游標，引發全球關注。美國食品藥物管理局（FDA）在 2024 年授予 Neuralink「突破性裝置」認定，加速審查流程。2026 年 5 月，馬斯克宣布下一代植入手術將由手術機器人全程執行。Neuralink 的官方敘事是醫療：幫助癱瘓患者重新與世界連結。但馬斯克從不掩飾更大的願景，他多次表示腦機介面的終極目標是讓人類與 AI「共生」，以免人類在超級智慧面前淪為「家貓」。醫療應用是入口，認知增強才是目的地。

布萊恩．喬森（Bryan Johnson）把自己的身體變成了超人類主義最極端的實驗場。這位前支付公司創辦人每年投入超過 200 萬美元在他的「Blueprint」計畫上，用超過 100 項生物指標監測和上百種介入手段，試圖將身體的每一個衰老指標逆轉。他的 DunedinPACE 衰老速度指數降到 0.69，意味著他的身體每過一年只衰老 0.69 年，比正常人慢了將近三分之一。他的社群媒體充斥著血液檢測數據、睡眠曲線和器官年齡報告，每一個圖表都在傳達同一個訊息：衰老是一種疾病，而疾病是可以被治癒的。科學界對 Johnson 的態度複雜，有醫學研究者稱讚他推動了個人化醫療的公眾關注，但更多聲音質疑：一個人花費數百萬美元優化自己的生物指標，到底證明了什麼？是人類戰勝衰老的可能性，還是這種戰勝只屬於超級富豪？這種以一人之力對抗死亡的計畫，恰好印證了教宗所說的：在追求無限自我超越的幻象時，許多人卻被剝奪了基本需求（¶12）。

還有一股更年輕、更激進的力量：有效加速主義（effective accelerationism，簡稱 e/acc）。這個運動由物理學家紀堯姆．維爾東（Guillaume Verdon）在 2022 年匿名發起，隨後獲得矽谷重量級投資人馬克．安德森（Marc Andreessen）的公開支持。e/acc 的核心主張是：技術加速是宇宙的熱力學使命，任何試圖減緩或限制 AI 發展的行為都是對進步的背叛。他們明確反對 AI 安全研究者要求「暫停」或「對齊」的呼籲，稱之為「帶著微笑的技術威權主義」。在 e/acc 的世界觀裡，進步沒有方向盤，只有油門。這套思想在矽谷年輕工程師和投資人之間迅速傳播，它的 X（前 Twitter）社群活躍而聲量驚人。對教宗來說，e/acc 大概是通諭中描述的最純粹的形態：一種「挑戰人類中心主義，甚至預見人類在新的演化階段中超越自身」的後人類主義（¶116）。

這些面孔各異的運動有一個共同的深層假設：人類目前的狀態是不夠的，科技是通往更好版本的唯一路徑。教宗在通諭開篇就鎖定了這個假設。他寫道：「人類對生命圓滿的渴望，正面臨被虛假目標誤導的風險，例如那些許諾讓我們擺脫一切軟弱的科技前景。」（¶12）通諭要做的，不是逐一反駁每項技術的可行性，而是質疑這整套思維的前提：把人類的限制視為錯誤，本身就是一個錯誤。

脆弱不是待修的 bug

這是通諭第三章最核心的神學論證，也是教宗與矽谷之間最根本的分歧所在。通諭第 118 段用一句話就把整個超人類主義的前提翻轉了過來：「人類的繁盛不是發生在克服限制之後，而往往發生在限制之中。」（Humanity flourishes not despite limitations, but often through them.）

這句話的力量在於它不是在否認痛苦的真實性，教宗很清楚地說：「追求減輕人類生活中的痛苦是正確的」，但他緊接著加了一個限定：同時也要有智慧去承認我們根本性的有限。通諭在這裡做了一個精巧的區分，值得仔細拆解。減輕痛苦是醫學的工作，是技術應該做的事，沒有人反對更好的藥物、更精準的手術、更有效的治療方案。但超人類主義的跨越在於，它不只要減輕痛苦，它要消除限制本身。它把衰老視為疾病，把死亡視為工程問題，把脆弱視為待修的 bug。在這個思維框架裡，人類身體的每一個「不完美」都是等待軟體更新的舊版本。

教宗的反駁不是反科學的。他沒有說我們不該發明更好的義肢或治療阿茲海默症。他的反駁是哲學的和神學的：如果你真的把脆弱從人類經驗中完全移除，你同時也移除了那些讓人之所以為人的東西。通諭第 119 段列出了在人類的限制中才找得到位置的事物：同理心、對他人需求的真誠關懷、在黑暗和失敗中仍能湧現的慷慨、靈性經驗和對上帝的敬拜。這些不是限制的副產品，它們是限制的核心意義。當你面對拒絕、經歷親人的疾病或離世、遭遇自己的軟弱或失敗，正是在這些時刻，你可能發現新的智慧、真切感受到他人的靠近。

通諭第 120 段把這個論證推到了最深處：「完全消除痛苦，最終也意味著消滅愛與渴望。那些愛著、渴望著的人，無法避免經歷試煉和痛苦。」這是一個大膽的宣稱。它說的是，超人類主義許諾的那個不老、不死、不痛的未來，即使技術上可行，在人性的層面上也是一個根本性的損失。因為愛的本質包含了脆弱，一個無法被傷害的存在也無法真正去愛。一段完全沒有失去風險的關係也不是真正的關係。教宗的洞察在這裡觸及了一個超越宗教界限的哲學命題：完美（perfection）與完整（wholeness）不是同義詞，而超人類主義混淆了這兩者。

那麼 AI 在這張圖景中處於什麼位置？通諭第 99 段給出了教宗對 AI 本質最完整的判斷。他指出，AI 系統「僅僅模仿」人類智慧的某些功能，在速度和計算能力上常常超越人類，但這種能力完全繫於資料處理。關鍵的一句是：「所謂的人工智慧不經歷體驗、沒有身體、不感受喜悅或痛苦、不在關係中成熟，也不從內在理解愛、工作、友誼或責任意味著什麼。」這不是技術批評，而是存有論的界定。AI 可以模擬同理心，但不理解它所產出的內容，因為它缺乏情感、關係和靈性的視角。教宗要說的是：你可以建造一個在所有可量化指標上都超越人類的系統，但它永遠不會是「更好的人類」，因為人之所以為人的那些東西，恰恰是無法被量化和複製的。

通諭第 15 段把這一切收束成一句箴言般的判斷：「真正的進步，永遠源自向他人敞開的心靈、願意傾聽的智性、以及尋求聯合而非分裂的意志。」這是教宗為「進步」下的定義，也是他與矽谷超人類主義者之間無法調和的差異。對庫茲威爾來說，進步是計算能力的指數增長。對 Bryan Johnson 來說，進步是生物指標的逆轉。對教宗來說，進步是一個人變得更有能力去愛、去關懷、去與他人建立真實的連結。

兩座城、兩種愛

如果教宗只是說「脆弱很好」，那這篇通諭充其量是一篇感人但空洞的勸世文。但通諭在第三章尾聲做了一件更有雄心的事：它為基督教人文主義與科技進步主義的張力，提供了一個完整的歷史哲學框架，而這個框架來自 1,600 年前的聖奧斯定（Augustine of Hippo）。

奧斯定在《天主之城》（De Civitate Dei）中提出了人類歷史最著名的二元框架之一：兩座城市，由兩種愛所建造。通諭第 130 段直接引用了這個框架：「兩種愛建造了兩座城：塵世之城，是對自我的愛甚至到了蔑視上帝的程度；天上之城，是對上帝的愛甚至到了輕看自我的程度。」教宗把這個 1,600 年前的框架直接映射到了 AI 時代。他的邏輯是：歷史上這兩種愛一直在爭奪人心的主導權，AI 時代並非例外。建造巴別塔還是重建耶路撒冷，始於每一個人的內心。

這個古老框架之所以在 2026 年仍有解釋力，是因為它精準地捕捉了當代科技發展中一個被忽視的動力學：驅動創新的到底是什麼？當馬斯克說他要讓人類成為「多行星物種」以避免文明滅絕，這聽起來是宏大的利他動機。但當他同時在 X 平台上以帝王般的姿態裁決公共言論、用 Neuralink 承諾讓人類與 AI 共生，這些敘事背後的驅動力是什麼？是真正的關懷，還是通諭所說的「對自我的愛甚至到了蔑視上帝的程度」？教宗沒有點名任何個人，但他的框架邀請每一個讀者去追問動機的層次。

通諭第 129 段在這裡提出了一個判準：「真正的替代方案不在熱情與恐懼之間，而在兩條發展路徑之間：一種為個人和民族服務的進步，或一種讓他們臣服於權力心態的進步。」然後他引用了若望保祿二世的提問作為試金石：「AI 是否使地球上的人類生活在各個層面都變得『更有人性』？是否使人更配得上人的尊嚴？」如果答案是肯定的，那就是耶路撒冷的重建，值得「負責任地擁抱」。如果權力增長了但心靈萎縮、人際紐帶鬆散了，那就是巴別塔的新形態，一個宏偉卻根本上非人性化的建設。

這個框架的力量在於它拒絕了「科技是中性工具」這種常見的迴避策略。教宗在這裡不是問「這個技術本身是好是壞」，他問的是「什麼樣的愛在驅動它」。同一項技術，一個腦機介面，如果是出於幫助癱瘓者重獲行動能力的愛，那就是耶路撒冷。如果是出於超越人類限制、成為超人的渴望，教宗會說，且讓我們誠實地檢視：這究竟是對人類的愛，還是對自我的無限膨脹？

科技樂觀主義者與教宗之間的距離

有趣的是，矽谷最嚴肅的思想家們，其實比外界想像的更接近教宗的某些關切。差異不在「AI 是否重要」，而在「人類的限制是否有價值」。

Anthropic 執行長 Dario Amodei 在 2024 年 10 月發表了一篇名為「愛的機器」（Machines of Loving Grace）的長文，副標題是「AI 如何可能讓世界變更好」。Amodei 描繪了一幅令人振奮的圖景：在生物學和健康、神經科學、經濟發展、治理和民主這五個領域，AI 可能把原本需要 50 到 100 年的突破壓縮到 5 到 10 年內實現。但他加了一個關鍵的警告：「智慧不是魔法仙粉。」（Intelligence is not magic fairy dust.）即使 AI 的能力大幅躍進，許多領域的進展仍受限於物理實驗的時間、法規的速度和人類社會的複雜性。他在 2025 年 4 月發表的後續文章「可解釋性的緊迫性」（The Urgency of Interpretability）中又補充了另一層憂慮：我們正在部署自己不完全理解的系統，而理解它們的視窗正在關閉。

Amodei的立場代表了矽谷最審慎的一翼。他不是超人類主義者，他對 AI 的潛力保持樂觀但對風險極度清醒。他和教宗的共同點在於，兩者都認為技術不應該被無條件地加速，都認為人類的判斷力在 AI 時代比以往更加重要。他們的分歧在於，Amodei仍然相信技術突破可以解決大部分人類困境，只是需要更多安全措施。教宗則認為，有些人類困境不是技術問題，而是靈性問題，不是計算可以觸及的。

OpenAI 執行長奧特曼（Sam Altman）的語調和Amodei截然不同。他的公開敘事更接近溫和版的超人類主義：在 2025 年初的部落格文章「溫柔的奇點」（The Gentle Singularity）中，他把 AI 比作「為世界打造一顆大腦」，並描繪了一個人類與超級智慧和平共處的未來。奧特曼的溫和語調容易讓人忽略一個事實：他所描述的世界，正是教宗在通諭中警告的那種「被虛假目標誤導」的風險。一個被「溫柔地」交給超級智慧管理的世界，聽起來比被暴力征服的世界舒服得多，但在教宗的框架裡，兩者都涉及同一個問題：人類將自己最核心的決策權力、最深層的意義追問，外包給了一個不理解痛苦、不經歷愛的系統。

2025 年初，教宗方濟各邀請 Anthropic 的機械可解釋性研究者 Chris Olah 到梵蒂岡交流。Olah 事後說了一句耐人尋味的話：「我們需要不會被利益結構扭曲的道德聲音。」（We need moral voices that the incentives cannot bend.）這位在矽谷最前沿工作的 AI 研究者，承認了一件矽谷很少承認的事：當你同時要做正確的事和賺錢的事，而兩者衝突時，利益結構幾乎總是贏。教宗作為一個完全在矽谷利益結構之外的聲音，他的批評之所以有力，恰恰因為沒有任何商業動機可以扭曲它。

什麼才是真正的進步

教宗的論證雖然根植於基督教神學，但他觸及的問題具有更廣泛的跨文化共鳴。佛教的「苦」（dukkha）概念認為，痛苦不是需要消滅的敵人，而是理解存在本質的入口。道家莊子的「無用之用」辯證，主張那些看似無用的事物往往承載了最深層的價值。當教宗說「完全消除痛苦也意味著消滅愛與渴望」時，他的論證幾乎可以無縫對接佛教修行者對「離苦」的深層理解：真正的解脫不是逃離痛苦，而是改變與痛苦的關係。這些跨文化的呼應暗示，超人類主義的盲點不只是基督教的觀察，而是多元智慧傳統的共同洞見。

最終，這篇通諭要讀者面對的問題不是「你要不要活到 200 歲」，而是「你願意為了什麼而活」。庫茲威爾願意每天吞 100 顆藥丸來延長生命，Bryan Johnson 願意每年花 200 萬美元讓自己的生物年齡倒退，這些選擇本身不是問題。問題在於，當一個社會把「克服限制」當成最高價值時，那些無法被克服的限制，那些天生帶有殘疾的孩子、那些慢性病患者、那些不夠「優化」的普通人，會被放在什麼位置？通諭第 117 段的警告震耳欲聾：「如果人類被當作需要被完善或超越的東西，那就更容易接受某些生命是較不有用、較不值得渴望、較不配享有尊嚴的。以進步之名，所謂『必要的犧牲』就會開始被合理化，而承擔代價的總是最脆弱的人。」

教宗在通諭中提出的不是一個反科技的立場，而是一個反偶像崇拜的立場。他反對的不是技術本身，而是把技術當成救贖的代名詞。基督教人文主義說的「超越」不是透過晶片植入或基因編輯，而是透過恩典、透過關係、透過在自身的有限中認出他人的面容和上帝的面容。這聽起來遠比奇點的許諾來得平淡，但教宗的賭注是：在人類歷史的長河中，那些真正改變世界的，從來不是追求個人永生的技術計畫，而是那些在自身的脆弱中仍然選擇去愛的人。

下一篇，我們將進入通諭第四章前半段，看教宗如何分析 AI 時代的真相危機：當演算法決定了你看到什麼、相信什麼，民主社會的根基還能站得住嗎？

📺 教宗通諭發布演講

📚 教宗 AI 通諭系列：完整解讀《偉大的人類》

📎 通諭原文 Magnifica Humanitas（英文全文，梵蒂岡官網）