AI 安全與治理

戰爭不是人類的宿命：教宗 AI 通諭終章，從自主武器到愛的文明

教宗良十四世 AI 通諭《偉大的人類》終章，從 AI 自主武器的道德危機、戰爭正常化的全球趨勢，到「正義戰爭」理論的過時宣告。教宗提出五條通往和平的路徑，以「愛的文明」對抗「權力的文化」，並以尼赫米亞重建耶路撒冷的意象，為橫跨八篇的通諭解讀劃下句點。

2026 年 5 月 29 日 · 來源： Magnifica Humanitas

"No algorithm can make war morally acceptable. AI does not remove the intrinsic inhumanity of conflict; indeed it can only bring about conflict more quickly and render it more impersonal, lowering the threshold for resorting to violence."

「沒有演算法能讓戰爭變得道德上可以接受。AI 並不能消除衝突內在的不人道；事實上，它只會更快速地引發衝突，並使其更加非人化，降低訴諸暴力的門檻。」

—— 教宗良十四世，《偉大的人類》¶198

2024 年 4 月，以色列調查媒體 +972 Magazine 揭露了一套名為 Lavender 的 AI 系統。它為加薩走廊的每一個人計算分數，從 1 到 100，評估此人屬於哈瑪斯軍事成員的機率，自動標記了約三萬七千個潛在目標。情報官員透露系統的錯誤率約 10%，意味著每十個被標記「可殲滅」的人中，約有一人根本不是武裝分子。軍方的容許規則是：擊殺一名低階武裝人員，可接受十五到二十名平民的附帶傷亡。另一套名為「爸爸在哪裡？」的追蹤系統，則會等目標回到家中再發動空襲，因為在住宅區鎖定比在行動中容易。教宗良十四世在通諭最終章面對的，正是這類系統背後的邏輯。當受害者在螢幕上只是一個機率分數，當平民傷亡被化約為「可接受的參數」，戰爭不只變得更有效率，它變得更容易被合理化。第五章「權力的文化與愛的文明」是通諭中語氣最沉重的篇章，也是教宗賭注最大的一章：在一個加速武裝化的世界裡，他要為「愛的文明」這個聽起來幾乎天真的概念，做出最嚴肅的辯護。

戰爭正在被數位化加速

通諭第 182 段直言：數位革命正在改變衝突的本質。傳統戰爭之外，混合形式的衝突正在擴散：網路攻擊、資訊操控、影響力作戰、戰略決策的自動化。AI 在這些過程中扮演加速器的角色，而且它所處理的許多技術具有內在的雙重性質，為防禦創建的系統可以迅速被改為攻擊用途，保護與侵略之間的界線變得模糊。教宗在第 183 段的用語非常精準：AI 可以強化對平民的防禦和保護，但它也能降低使用武力的門檻，讓人逃避責任，並培養出一種文化，在這種文化中，敵人被化約為統計數字，受害者被化約為「附帶損害」。這句話裡最刺痛人的是「附帶損害」四個字。因為這個委婉語的存在本身，就是戰爭正常化最明確的證據。你不會稱一個有名有姓的人為附帶損害，你只會這樣稱呼一個數據點。

教宗隨後用了四個段落（¶189-192）追溯戰爭如何在公共意識中被重新正常化。他的歷史敘事線清晰：1965 年，保祿六世（Paul VI）在聯合國大會上喊出「永遠不再戰爭！」二戰之後，和平被確立為國際秩序的核心原則，聯合國憲章開宗明義要「使後代免受戰爭的禍害」，多數國家的憲法把武力的使用限縮到極端且嚴格限定的情境。即便在冷戰期間，全世界仍有一種共識：必須不惜一切代價避免新的世界大戰。然而今天，這個共識正在瓦解。教宗觀察到一個真正的範式轉移：戰爭正在公共論述和軍備決策中復甦為國際政治的工具，而過去限制其使用的倫理原則正被侵蝕。領土擴張型的衝突，那些人們以為已被歷史克服的形式，正以新的面貌重現。歷史記憶同時在消退，大屠殺和兩次世界大戰的第一手見證者正在消失，歷史被選擇性地改寫和扭曲。在這個脈絡下，教宗做出了一個大膽的宣告：「正義戰爭」理論已經過時了。人類擁有遠比武力更有效的工具來促進生命和解決衝突，包括對話、外交與寬恕。武力的使用，反映的是一種關係的貧乏，而它的後果對平民來說始終是災難性的。

真實世界的數字為這個診斷提供了殘酷的註腳。根據斯德哥爾摩國際和平研究所（SIPRI）的報告，2024 年全球軍事支出達到 2.718 兆美元，較前一年實質增長 9.4%，是冷戰結束以來最陡峭的年度漲幅。2025 年再攀升至 2.887 兆美元，連續第十一年增加，全球軍事負擔占 GDP 比重達 2.5%，為 2009 年以來最高。歐洲的增長尤其驚人：較 2024 年成長 14%，達到 8,640 億美元，德國一年內增加 24%，西班牙暴增 50%。2025 年 6 月，北約成員國同意將支出目標提高到 GDP 的 5%。在戰場上，AI 的應用正在加速。俄烏戰爭成了 AI 軍事技術的實驗場：烏克蘭開發了搭載機器視覺的 FPV 無人機，能在最後四百到五百公尺自主鎖定目標，突破俄軍的電子干擾。2025 年 6 月的「蛛網行動」中，隱藏在貨車內的無人機群突襲了俄羅斯軍用機場。俄羅斯一方也在升級：沙赫德型無人機的月發射量從 2024 年初的 334 架飆升到 2025 年 8 月的超過 4,000 架，烏克蘭在殘骸中發現了搭載 NVIDIA AI 晶片的熱成像模組，顯示這些無人機已具備彼此交換資訊的蜂群能力。教宗所說的「加速因子」，不是修辭。

當機器決定誰生誰死

通諭中最核心的論述之一出現在第 198 段。教宗直接挑戰了「人工道德代理人」（artificial moral agents）這個概念，認為它建立在一個根本性的錯誤上。有人主張機器可以比人類更穩定地區分對錯，教宗的回應是：道德判斷不能被簡化為運算，它涉及良知、個人責任，以及對他者作為「人」的承認。因此，將致命的或不可逆的決策交給人工系統，在道德上不被允許。隨後他寫下了這篇通諭中最擲地有聲的判斷：沒有演算法能讓戰爭變得道德上可以接受。這句話的深層邏輯值得拆開來看。教宗不是說 AI 武器比傳統武器更壞。他指出的是一件更根本的事：AI 武器改變了人與殺戮之間的心理距離。當你必須端起步槍、透過瞄準鏡看見對方的臉，殺人這件事至少還存在一道道德上的阻力。當決策鏈被自動化，當目標只是螢幕上的一個座標，那道阻力就消失了。戰爭不是變得更殘酷，而是變得更「容易」。它會讓我們習慣暴力是不可避免的，只需要被「最佳化」。這才是教宗真正擔心的。

教宗沒有停留在原則層面。通諭第 199 段提出了三條具體的判斷準則。第一，個人責任：當打擊決策變得自動化或不透明，推卸責任的風險就會上升。因此，責任鏈必須是可追溯和可驗證的，設計、訓練、授權和使用這些技術的人都必須為他們的決策承擔責任。第二，道德判斷的時間框架：AI 傾向加速決策過程，但速度和效率永遠不應成為戰爭中不可逆決策的最高驅動力。第三，平民的辨識與保護：任何讓攻擊可以在不看見人的面孔的情況下進行的技術，都降低了衝突的道德門檻，目標選擇和武力使用不得混淆戰鬥人員和非戰鬥人員。第 200 段將這三條準則轉化為三項不可妥協的要求：所有戰爭環境中使用的系統必須保證決策過程可以回溯和重建，不能讓問責被塌縮成「都是機器的錯」；致命武力的使用決定不能委託給不透明或自動化的流程，必須保持在有效的、有自覺的、負責任的人類控制之下；必須建立共享的國際框架，以遏制技術軍備競賽並確保對平民的堅實保護。

這些準則讀起來像是直接寫給當前全球軍事 AI 現實的回應。回到文章開頭的 Lavender 系統：2025 年 5 月曝光的以色列國防軍機密資料庫顯示，在加薩約 53,000 名死亡的巴勒斯坦人中，只有 17% 是戰鬥人員，意味著 83% 是平民。這個數字本身就是對教宗第三條準則（平民保護）最沉痛的反證。而在大西洋的另一邊，美國國防部的 Maven 計畫從 2017 年的無人機影像分析起步，如今已發展為整合衛星、雷達、無人機和情報報告的 AI 指揮控制平台。2025 年 5 月，五角大廈將 Maven 智慧系統的合約上限從 4.8 億美元提高到 13 億美元，主要承包商是 Palantir。在國際層面，聯合國框架下的致命自主武器系統（LAWS）談判持續陷入僵局。2024 年 12 月聯合國大會以 166 票贊成通過相關決議，2025 年又有 42 國聯合聲明呼籲啟動正式談判，但俄羅斯、以色列、印度、美國等國持續阻擋具約束力的協商。教宗在第 200 段呼籲的那個「共享的國際框架」，距離現實仍然遙遠。

假現實主義的陷阱

通諭第五章最具顛覆性的段落出現在第 204 到 208 段。教宗指出，所有問題的核心是一種假的現實主義（false realism），建立在一個文化和人類學層面的信念之上：戰爭是人類本性中不可避免的一部分。人們說，事情向來如此，除了偶爾的停歇，未來也將如此。於是，關注的焦點不再是尋求和平，而是何時以及如何採取軍事行動。這種論述主張，不為衝突做好準備是不負責任的。教宗的反駁出人意料地直接：真正不負責任的是 Realpolitik。這種政治「現實主義」在人的良知和社會中播種了對戰爭不可避免性的屈服態度，將和平與對話貶斥為烏托邦式的或不理性的立場。教宗堅持，和平既不是天真的希望，也不僅僅是戰爭的缺席。和平始終是可能的，作為正義和仁愛的果實。在一個充斥著「備戰才是負責」論述的時代，這句話幾乎構成了一種冒犯。但教宗選擇了承受這份冒犯。

教宗隨後拆解了支撐這種假現實主義的經濟結構。第 193 段指出，軍工複合體的增長已經成為當前政治版圖的定義性特徵，並成為多國經濟中的關鍵產業。經濟利益、軍事機構和政治決策之間的緊密連結，產生了一種「武裝國家」，戰爭在其中被視為政治的自然延伸，武器市場成為推動軍事決策的自主力量。教宗毫不迴避地點名：不能忽視戰爭背後的巨大經濟利益。軍火工業和供應武器的國家，從一個恰恰以衝突為養分的市場中獲利。核武器的問題同樣嚴峻。過去對核武器毀滅性威脅的認識曾推動了緩和與裁軍談判的路徑，但這條路已被拋棄。核武庫的演進，包括「戰術性」使用的前景，讓核武器的使用似乎不再那麼不可想像。2021 年生效的《禁止核武器條約》（TPNW）截至 2025 年 9 月已有 74 國批准，但所有主要核武國家都沒有加入。教宗直指，這導致了一種普遍卻錯誤的信念：核嚇阻是安全的必要前提。而這個信念本身，又催生了新一輪的軍備競賽。

第 206 到 208 段描繪了一幅更令人不安的圖景。虛無主義和實用主義交織在一起，最終將嚴重的錯誤正常化。宗教極端主義和身份認同狂熱與非理性的經濟政策結盟，政治轉向造謠、嘲諷對手，系統性地培養恐懼和怨恨。多樣性越來越被視為威脅，激發了佔有欲、支配意志和對異己的恐懼。教宗警告：當一種文化將衝突正常化和合理化，一條危險的路徑就被打開了。今天看似不可思議的事，明天就可能以效用或安全之名變得可以接受。在某些社會緊張嚴重的國家，不能排除某些領導人將武裝衝突視為轉移國內問題注意力的有效手段，把它當作管理困境的犬儒工具。這段話的每一個字都可以對照到 2025 年的國際新聞頭條。這不是預言，這是對正在發生之事的精確命名。

愛的文明：天真還是清醒？

面對這幅沉重的圖景，教宗的回應不是政策白皮書，而是一個概念：愛的文明。這個詞最初由保祿六世在冷戰高峰期提出，當時世界正處於軍備競賽和嚴峻的經濟不穩定之中。教宗良十四世在第 186 段為它注入了數位時代的新內容：愛的文明不是天真的烏托邦，而是一個要求極高的計畫。它要將仁愛轉化為正義的制度，將兄弟情誼賦予組織形式，將他者視為建設共同善不能少的盟友。教宗在第 210 段更坦率地寫道，一個處於永久衝突狀態的世界是一種惡，必須被指名為它所是的樣子。但基督徒的視角不僅限於譴責。他接著說，我們不把現在視為預定的命運，而是個人和集體皈依的機會。在混亂的喧囂之中，善良從土地上靜默地生長。這段話最打動人的是它的節制。教宗沒有說愛能消滅戰爭，他說的是，即便在最黑暗的夜裡，上主會興起那些拒絕放棄的人。

通諭第 213 段引用了二十世紀天主教作家托爾金（J.R.R. Tolkien）的話，為這條路徑定下了基調：「駕馭世界所有的浪潮不是我們的職分，而是盡我們所能，去拯救我們所身處的歲月，在我們認識的田野裡拔除邪惡，好讓後來的人有乾淨的土地可以耕種。」教宗用這段話引出了五條通往和平的路徑。第一，解除語言的武裝：審視我們使用的詞語，審視其中明確或隱含的攻擊性。第二，以正義建和平：不是任何形式的和平，不是以任何代價換取的衝突消失，而是從正義中誕生的真正和平。第三，採取受害者的視角：當我們目睹對平民的轟炸、對醫院和學校的攻擊，我們面對的是傷害人類本身的醜聞，不能只停留在抽象分析的層面。第四，培養健康的現實主義：既不陷入政治理想主義，也不陷入犬儒主義，而是清楚辨識利益、恐懼、約束和權力動態，為的是找出可行的路徑。第五，復興對話和多邊主義：從「權力的文化」轉向真正的「談判的文化」，讓對話和外交成為解決衝突的標準手段。

五條路徑中，最不起眼卻可能最重要的是第一條：解除語言的武裝。教宗引用前人的話：「讓我們解除詞語的武裝，我們就能幫助解除世界的武裝。」這不是修辭上的點綴。在演算法放大極化、假新聞模糊事實的數位環境裡，語言本身已經成為衝突的基礎設施。每一次我們用簡單化的「我們 vs 他們」框架描述複雜的衝突，每一次我們轉發未經查證的敵意敘事，我們都在為通諭所描述的「權力的文化」添加燃料。教宗在第 212 段還拆解了一種微妙的誘惑：認為問題太大而我們太小，所以我們的選擇無法帶來改變。他稱這是一種體面的屈服，經常偽裝成現實主義。但每個人都有自己的行動範圍，正是在那裡，而不是在別處，我們必須做出選擇：是助長武力的心態（哪怕只是透過冷漠、犬儒、謊言或仇恨），還是維護和平的心態（透過真相、節制、靠近和關懷）。

我的觀察：晶片之島的矛盾

讀這一章的時候，台灣讀者很難不把每一段都映射到自己的處境。台灣是全球地緣政治壓力最集中的節點之一，AI 武器的討論對我們來說不是學術議題，而是國防政策的日常。2025 年 10 月，賴清德總統提出了 T-Dome 防空概念，整合傳統飛彈防禦與 AI 強化的反無人機技術。同年 11 月，台灣提出了 400 億美元的國防特別預算案，涵蓋全島防空、飛彈、無人機和反入侵能力。2025 年 12 月，美國宣布了史上最大對台軍售，金額約 111 億美元。台灣的國防思維正在從傳統軍力轉向不對稱作戰，以無人機為核心，從烏克蘭戰場汲取教訓。沒有人能責怪一個面臨真實軍事威脅的島嶼強化自衛能力。但教宗的框架迫使我們面對一個更深層的矛盾：台積電生產了全球超過九成的最先進 AI 晶片。這些晶片不只驅動 ChatGPT 和搜尋引擎，也驅動著 Maven 計畫的指揮控制平台、以色列的 AI 目標辨識系統、各國正在開發的自主無人機群。台灣的「矽盾」理論主張，全球對台灣半導體的依賴可以嚇阻軍事冒進。但反過來想：如果我們製造的晶片正在降低全球使用武力的門檻，那我們究竟是和平的屏障，還是戰爭加速器的零件供應商？

教宗不會替我們回答這個問題，他也不應該。但通諭第 209 段特別點名了「在研究領域工作的人」的責任：科學家、企業主、投資者、學術權威、政治人物，都必須以透明和負責的心態工作，同時對他們所幫助培育的技術進展的更廣泛脈絡保持敏銳的意識。教宗指出，當人們只看自己的領域，可能自欺地認為自己在執行道德中立的行為，迴避關於某些實驗最終目的的問題。這樣一來，他們就有可能在不知不覺中，成為助長新形式暴力、操控和支配的可疑計畫的合作者。這段話適用於每一位在台灣半導體產業鏈上工作的人。製造世界上最先進的晶片是一項了不起的成就。但「這些晶片最終被用來做什麼」這個問題，不能永遠被歸類為「不是我們的責任」。教宗所呼籲的不是停止創新，而是在創新的每一步都保持對後果的自覺。

從資料到戰爭，回到人

通諭的結論回到了開篇就引入的聖經人物：尼赫米亞（Nehemiah）。他聽見一座被摧毀城市的哭聲，將那份痛苦帶到禱告中，在上帝面前分辨，請求幫助，獲得回去的許可，組織工作，面對內外的阻力，最終在人民的協助下，一塊磚一塊磚地重建了耶路撒冷的城牆。教宗在第 241 段寫道，在這個數位轉型的時代，尼赫米亞是我們自身使命的鮮明比喻。我們的使命不是做社會和文化斷裂的被動旁觀者，也不是只會評論什麼正在崩塌的評論家，而是準備好進入歷史的工地：研究實驗室、科技公司、學校、媒體、機構、地方社區。教宗在第 236 段用了另一個意象：「智慧的建築師」。他不是因為看不見黑暗才充滿希望。他看見了黑暗，承認它的真實，但他知道光，也知道黑暗沒有勝過光，也無法勝過光。在結論的最深處，教宗回到了道成肉身的奧秘：上帝的兒子進入人的處境，不是為了否認人的脆弱，而是為了轉化它。在超人類主義和某些後人類主義思潮的承諾中，教宗看到了一種渴望，對更完滿的生命的渴望。但他提出了一條不同的路徑：拯救人類的不是超越脆弱的技術，而是進入脆弱的愛。

八篇文章，走過了這份四萬兩千字通諭的全部旅程。從第一篇的導讀，我們看見了一位出乎意料的教宗：戴 Apple Watch、看有線電視的美國籍教宗，選擇把 AI 定位為他教宗任期的核心議題。第二篇的資料篇，教宗宣告資料是「普世目的的財貨」，不應被少數人壟斷。第三篇的權力篇，他拆解了科技巨頭如何成為缺乏民主問責的權力中心。第四篇的哲學篇，他正面迎擊超人類主義，主張人性不是因為克服了脆弱才偉大，而是因為擁抱脆弱而完整。第五篇的真相篇，他診斷了假訊息和演算法極化如何侵蝕民主的基礎。第六篇的勞動篇，他堅持工作不只是賺取收入的方式，而是人之所以為人的基本條件。第七篇的自由篇，他揭露了從注意力經濟到資料殖民的隱形鎖鏈。這第八篇的終章，他面對了人類最古老的惡，戰爭，並提出了一個在 AI 時代聽起來幾乎不可能的對案：用愛來建構文明。

這份通諭不完美。某些段落過於冗長，某些論述對非天主教讀者來說可能隔了一層。但它做到了一件當代 AI 論述中極其稀缺的事：它從人的完整性出發，而不是從技術的可能性出發。在一個每天都有新模型發布、新基準被打破的產業裡，一位教宗花了四萬兩千個字，慢慢地、固執地問了一個問題：這一切，到底是為了什麼樣的人類？或許這就是這份通諭最大的價值。它不給答案，它給框架。而那個框架的中心，是一個簡單到幾乎令人尷尬的信念：每一個人都有不可化約的尊嚴，無論演算法怎麼計算。

📺 教宗通諭發布演講

📚 教宗 AI 通諭系列：完整解讀《偉大的人類》

📎 通諭原文 Magnifica Humanitas（英文全文，梵蒂岡官網）