AI 安全與治理

你的自由，是被「設計」走的：教宗揭露 AI 時代的隱形鎖鏈

教宗良十四世的 AI 通諭《偉大的人類》第四章末段至第五章前段，剖析注意力經濟如何設計性地削弱人的內在自由、AI 供應鏈底層的隱形勞動者如何構成新形式奴役、資料蒐集如何成為新殖民工具。教宗並為天主教會歷史上對奴隸制的遲緩回應正式道歉。

2026 年 5 月 29 日 · 來源： Magnifica Humanitas

"Nothing in the world of AI is immaterial or magical. Every seemingly immediate and flawless response is the result of a long chain of mediation, involving vast networks of natural resources, energy infrastructure and, above all, people."

「AI 世界中沒有任何事物是非物質的或神奇的。每一個看似即時且完美的回應，都是漫長中介鏈條的結果，涉及龐大的自然資源網路、能源基礎設施，以及最重要的，人。」

—— 教宗良十四世，《偉大的人類》¶173

打開手機，對 AI 助理輸入一個問題，兩秒鐘內，一段流暢的回答出現在螢幕上。這個體驗如此無縫、如此即時，以至於我們很容易把它當成某種魔法。但教宗良十四世在《偉大的人類》通諭的第四章末段，用一句話打破了這個幻覺：AI 的世界裡沒有魔法，只有一條漫長的中介鏈。這條鏈從你手中的螢幕向外延伸，穿過精心設計來捕捉你注意力的介面、蒐集你每一次點擊的資料系統、日夜運轉的資料中心，一路通往剛果民主共和國的鈷礦場，通往肯亞奈洛比一棟灰色辦公樓裡正在標註暴力影像的年輕女性。在這一篇中，教宗邀請我們沿著這條鏈走一遍，看清楚數位時代的自由危機，究竟是什麼形狀。

你的注意力，是一門被精心設計的生意

通諭第 170 段開門見山地指出，數位注意力經濟中存在一種「不應被低估的」隱性成癮。平台和服務被刻意設計來捕捉使用者的時間和注意力，利用人的脆弱性，削弱人的內在自由。當一套商業模式建立在人的弱點之上，人就不再是目的，而是手段。設計或資助這類系統的人，教宗直言，負有不可迴避的道德責任。這段話最精準的地方在於「設計」二字。社群媒體的無限滾動、遊戲化的通知系統、根據你的情緒弱點即時調整的內容推薦，這些是核心功能，不是什麼意外的副產品。你花在平台上的每一分鐘，都直接轉化為廣告收入。你的成癮，就是他們的商業模式。

真實世界正在回應這個診斷。2023 年底到 2024 年初，美國超過四十個州的檢察長聯合對 Meta 提起訴訟，指控 Instagram 和 Facebook 蓄意設計成癮功能，導致青少年憂鬱症、飲食障礙和自殺意念顯著上升。起訴書中引用的 Meta 內部文件顯示，公司高層早已知曉平台對青少年心理健康的危害，卻持續優化讓使用者停留更久的演算法。2026 年 1 月，另一個里程碑出現：TikTok 在洛杉磯一場即將進入陪審團審理的案件開庭前夕達成和解，這是美國第一起社群媒體青少年成癮案差一步就要走上審判。和解金額雖未公開，但 Meta 和 YouTube 的類似案件隨後進入了庭審程序。截至目前，全美約有一千五百件相關的個人傷害訴訟被合併為聯邦多地區訴訟。從法律體系到公共輿論，一個遲來的共識正在凝聚：社群平台不只是中性的通訊工具，它們是被精心工程化的注意力攫取機器。

教宗並未止步於診斷，他提出了「數位節制」（digital sobriety）的教育方向，以及對未成年人的保護。這個用語值得玩味。節制，在天主教倫理傳統中是四樞德之一，意味著對自身慾望的清醒掌控。將這個概念移植到數位時代，教宗暗示的不是遠離科技，而是重建一種內在的自由，讓人有能力選擇何時放下螢幕，而不是被演算法牽著走。問題從來不是科技本身是好是壞，而是：這套設計到底在服務誰的自由？

可見性的架構：你看到什麼，由誰決定

如果注意力經濟攻擊的是個人的內在自由，那麼通諭第 171 段描述的社會控制，侵蝕的就是集體的公共自由。教宗指出，當每一個行動（移動、購買、人際關係、偏好）都會留下痕跡時，一種新的權力形式就誕生了：分析、預測和影響行為的能力，而當事人往往對此毫不知情。這段話的重量在最後一句。教宗點出了一個概念，稱之為「可見性的架構」（architecture of visibility）。控制不只透過明確的禁止來實現，也透過什麼被放大、什麼被消隱、什麼被獎勵、什麼被懲罰來運作。這種架構最終塑造了輿論和選擇，滋養了順從與自我審查。

這不是抽象的哲學推演。更日常的影響發生在就業、信用和基本服務的取得上。當演算法決定你的信用評分、你看到的職缺、你的保險費率，甚至你在求職網站上的排名順序時，資料蒐集就不只是隱私問題，而是關乎你的人生機會。通諭第 171 段明確警告：如果這類資料被用於影響具體的機會，例如信貸、就業或基本服務的取得，就有損害自由和歧視最弱勢群體的風險。教宗並非要求禁止資料蒐集。他要求的是明確的規則、透明度、申訴途徑，以及對侵入性技術的比例限制，讓科技始終服務於人，而非變成對良心的控制。

通諭第 172 段進一步追溯了這些問題的根源：一種將人視為可操縱的物件或可最佳化的資源的科技官僚心態。效率取代了對自由和人性尊嚴的尊重。教宗特別提到，某些後人類主義思潮甚至設想了「二等人類」的存在，讓他們服從於自認為優越的菁英的利益。當這種思維與能指數性增加控制和篩選能力的科技工具結合時，前景令人不寒而慄。即便是某些結構性的債務形式，讓整個民族處於依賴狀態，也是同一套邏輯換了新版本。如果上一篇我們看到了教宗如何用勞動尊嚴挑戰效率至上的邏輯，這一篇他拆解的是更深層的東西：當人被化約為資料點、消費者輪廓，或行為預測模型中的變數時，自由已經不只是一個個人選項，而是一個需要制度性保護的公共議題。

AI 光鮮外表下的沉默勞動者

通諭中最沉重的段落出現在第 173 到 175 段。教宗寫道，AI 世界中沒有任何事物是非物質的或神奇的。數位經濟的運作，有相當一部分仰賴數百萬人的沉默勞動。他們做的是少了就無法運轉、卻幾乎不被看見的工作：資料標註、模型訓練、內容審核，後者經常涉及令人不安的素材。這些工作者中，有很大比例是年輕人，以女性為多數，在惡劣的條件下領取微薄的工資。在看不見的勞動之外，還有更殘酷的苦工：開採 AI 所需的裝置和微處理器原料。在某些地區，兒童和青少年在危險環境中工作，壓碎提煉稀土元素的礦石。通諭用了一句刺痛人的描述：「這些人的身體傷痕累累、受傷疲憊，為的是讓運算的洪流永不中斷。」

這段話不是在打比方。2024 年的調查報導揭露了一個驚人的工資落差：OpenAI 為其資料標註外包商 Sama 支付每名工人每小時 12.5 美元的費率，但在肯亞奈洛比實際執行標註工作的勞動者，到手的時薪僅約 2 美元。更觸目驚心的是心理層面的傷害。在 144 名接受評估的肯亞內容審核員中，81% 被診斷出嚴重的創傷後壓力症候群（PTSD）。他們每天的工作是審閱 Facebook 上的暴力、虐待、兒童剝削內容，每看一筆都必須判斷保留或移除。185 名審核員因試圖組織工會而被解僱，對 Meta 的訴訟至今仍在肯亞法院進行中。2024 年 3 月，Scale AI 旗下的外包平台 Remotasks 無預警撤出肯亞、奈及利亞和巴基斯坦，數千名工人一夕之間失去工作和未支付的薪資。在公平勞動實踐評估中，Remotasks 的得分是十分中的一分。

供應鏈的另一端同樣殘酷。剛果民主共和國是全球鈷礦的最大產地，鈷是製造鋰電池和電子裝置少不了的原料。在該國約 25.5 萬名鈷礦工人中，估計有 4 萬名是童工，在沒有任何安全防護的手工採礦場中作業。2019 年 12 月，國際人權組織代表十四個剛果家庭對 Apple、Google、微軟（Microsoft）、戴爾（Dell）和特斯拉（Tesla）提起訴訟，指控這些公司知情使用童工開採的鈷礦。然而，訴訟在 2024 年 3 月被美國哥倫比亞特區上訴法院駁回，法院裁定原告未能證明被告公司「直接參與了從事強迫勞動的事業」。司法的限制恰好凸顯了教宗的論點：現行法律體系還跟不上全球化供應鏈中責任歸屬的複雜性。

教宗在第 173 段還指出了另一種型態：犯罪網路利用線上平台、通訊系統、匿名支付方式和使用者分析技術，招募、控制和運輸人口販運的受害者，將人化約為「待追蹤的資料」和「待運送的包裹」。通諭的語言在這裡異常冷峻。第 174 段明確宣告，打擊新形式奴役是檢驗 AI 和數位轉型倫理判斷力的決定性考驗。如果科技承諾解放，實際上卻製造了新形式的全球從屬關係，那它就和人性尊嚴站在了對立面。第 175 段更進一步：容忍這些做法，在某種程度上就是成為當代罪惡的共謀者，這些罪惡與過去那些被掩蓋和辯護的奴隸制並無二致。

資料是新世紀的殖民武器

通諭第 178 段是全文中讀起來最有遠見的一段。教宗宣告：殖民主義以新的面貌出現了。它不再只是控制身體，而是侵佔資料，將個人生命轉化為可被開採的資訊。那些因結構性脆弱和有限地緣政治影響力而被標記的地區，正被施加一種新的攫取心態：健康資料、流行病學檔案、基因圖譜、人口資訊。這些已經成為權力的「新稀土」。一旦被匯聚和分析，它們可以用來訓練預測模型、引導投資策略、預判危機，最重要的是，決定什麼人和什麼事「值得被在乎」。

現實中的數字，直接印證了這個警告。非洲擁有全人類最深層的基因多樣性，這是數百萬年演化留下的無價寶庫。然而，在全球基因體研究的資料庫中，來自非洲的貢獻不到 2%。2023 年全球約兩萬項臨床試驗中，只有 4%，大約 819 項在非洲國家進行。這個落差不是巧合，而是一種結構：跨國藥廠和科技公司在非洲蒐集生物樣本和健康資料，但分析和獲利幾乎完全回流到北半球。2025 年底，美國推動的「美國優先全球健康策略」更引發了新的擔憂：這項政策從多邊援助轉向雙邊要求，將健康援助與資料共享協議掛勾。批評者指出，這實質上是用援助作為槓桿，迫使資源匱乏的國家交出他們最有價值的資產。

教宗警告，掌控整個民族健康資料的人，對未來擁有結構性的槓桿。他們可以塑造需求和市場，可以在其他人之前決定藥品、投資和保護措施將分配給誰。第 178 段的結語直截了當：否則，數位時代將不是後殖民的，而是以另一種形式延續殖民的。教宗在第 179 段提出了具體的行動要求。科技產業和數位經濟背後的供應鏈必須更加透明，不讓任何競爭優勢建立在隱藏的剝削之上。企業和投資者必須採行明確的預防性倫理盡職調查標準，將保護工人、打擊強迫勞動和評估資料驅動商業模式的社會影響列為優先事項。數位平台必須與當局和公民社會負責任地合作，防止通訊、支付和使用者分析工具淪為招募和控制受害者的管道。每一條都指向可執行的制度改革方向，不是空泛的道德呼籲。

我的觀察：我們都是這條鏈上的一環

讀到這裡，台灣讀者可能覺得這些故事都發生在遙遠的非洲和東南亞。但有一個不太舒服的事實：我們每個人都是這條供應鏈上的一環，而且我們在鏈上的位置比大多數國家更複雜。根據 2025 年的統計，台灣人平均每天使用社群媒體超過兩小時，智慧型手機的螢幕使用時間更長。我們是注意力經濟的深度消費者，每一次滑動都在餵養教宗所描述的那套建立在人的弱點之上的商業模式。同時，台灣也是全球 AI 硬體供應鏈中最關鍵的一環。台積電的先進製程晶片驅動著世界上絕大多數的 AI 運算，那些用來訓練模型、運行推論、處理你和我每天使用的 AI 工具的算力，有很大比例來自台灣的晶圓廠。

這意味著我們同時身處這條鏈的兩端。在消費端，我們享受著 AI 工具的便利，卻很少想過那個流暢回應的背後，有多少人在惡劣條件下標註資料、審核令人不安的內容。在生產端，我們製造了支撐整個數位經濟的核心元件，卻未必有能力影響這些元件最終被用來做什麼。教宗的分析提供了一個框架，讓我們重新思考自己在全球科技生態系中的角色。台灣不只是供應鏈中的一個生產節點，也可以是推動透明和倫理標準的力量。問題是，我們是否有意願去承擔這個比「製造更先進的晶片」更困難的責任。

教宗在這一章的收尾（第 180 段）做了一個重要的歸納：真相危機、教育挑戰、勞動轉型、家庭脆弱、新形式奴役，這些不是孤立的現象，而是反映了同一個根本問題。如果科技成為終極準則，人就有被化約為資料、機器齒輪或商品的風險。但反過來，如果科技與智慧整合，它可以成為成長、正義和人類友愛的工具。下次打開手機，或者輸入一道 AI 提問之前，或許可以花三秒鐘問自己：我是在使用這個工具，還是這個工具在使用我？這不是反科技的姿態，而恰恰是教宗所說的「數位節制」的起點。

教會的自我反省，與我們的醒覺

通諭第 176 段是整份文件中最令人意外的段落。教宗沒有只指向別人，他轉過身來面對了教會自身的歷史。他寫道，在教義發展的過程中，教會對這些問題的嚴重性是逐漸深化認知的。過去的事件不能以今天的標準去斷代性地審判，但同樣不能否認或淡化的是，無論社會還是教會，都遲延了對奴隸制這一災難的譴責。在古代和中世紀，許多個人甚至教會機構都擁有奴隸。在近現代早期，羅馬宗座應君主的請求多次介入，以規範和合法化某些形式的奴役，在特定情況下甚至允許奴役「異教徒」。直到十九世紀，在良十三世教宗任內，才明確表述了對奴隸制的正式、絕對和普世的譴責。教宗用了一個沉重的詞：「這構成了基督教記憶中的一道傷口，我們不能認為自己與之無關。」隨即，他以教會之名，真誠地請求寬恕。

這段道歉，在天主教歷史上開了先河。此前的教宗，包括若望保祿二世（John Paul II）和方濟各（Pope Francis），曾為個別基督徒在奴隸貿易中的行為表達歉意。方濟各在 2023 年撤銷了「發現教條」（Doctrine of Discovery），但並未就教廷本身在奴隸制度化中的制度性角色發表正式道歉。良十四世的聲明是第一次有教宗直接承認，教廷的詔書本身曾授權和合法化了對人的奴役。1452 年教宗尼古拉五世（Pope Nicholas V）頒布的 Dum Diversas 詔書，授予葡萄牙國王「入侵、征服、作戰、征服」非基督徒並「將其永久奴役」的權利。這個授權在此後近一個世紀裡被多位教宗重申。良十四世選擇正面面對這段歷史，目的不在回顧過去，而在照亮現在。

通諭第 177 段寫道，對過去共謀和盲視的記憶，應該成為對當下保持警覺的召喚。如果我們不想在未來再次為未能尊重人性尊嚴這一信仰所要求的珍寶而請求寬恕，那麼今天就必須明確而堅定地譴責各種形式的人口販運，並支持具體的預防、保護、解放和復原努力。這段話的邏輯非常緊密：教宗把歷史上的道德失敗，直接連結到了今天面對 AI 供應鏈剝削、資料殖民和數位控制時可能重蹈的覆轍。教會花了十八個世紀才完全認識到人性尊嚴與奴隸制的不相容，這一次，我們還要花多久？道歉不是終點，而是一份承諾的起點。

下一篇，我們將進入通諭的最終章。教宗將目光投向人類最古老也最致命的行為：戰爭。第五章的標題是「權力的文化與愛的文明」。當 AI 被部署到戰場上，當致命決策被委託給演算法，當軍備競賽被數位化加速，教宗提出了一個大膽的對案：愛的文明。在一個日益被武力邏輯主導的世界裡，這個詞究竟是天真的幻想，還是最後的清醒？

📺 教宗通諭發布演講

📚 教宗 AI 通諭系列：完整解讀《偉大的人類》

📎 通諭原文 Magnifica Humanitas（英文全文，梵蒂岡官網）