好結局不會從天上掉下來：Google 副總裁的 2050 AI 思想實驗
Google 資深副總裁 James Manyika 在《數位主義者文集》中提出一個倒推式思想實驗：假設 2050 年 AI 的結局是好的，我們現在需要解決哪些問題？這個方法論本身就值得思考，而他的顧問與科技高層雙重身分，讓這篇文章成為理解 AI 政策辯論的獨特入口。
本文為「數位主義者文集」導讀系列文章，導讀 James Manyika 在 The Digitalist Papers Volume 1 的〈Getting AI Right: A 2050 Thought Experiment〉。
壓軸位置的一個反直覺問題
在《數位主義者文集》第一卷的最後一篇，有一個和其他作者都不一樣的起手式。它不預測 AI 會帶來什麼災難，不開藥方告訴你現在該做什麼，也不回顧歷史論證「以前也沒出事，放輕鬆」。它要你先想像一個好結局，然後從那裡倒著推回來。
這個問法是：現在是 2050 年，AI 已經為全球社會帶來了巨大的好處，而且大家公認如此。請問，發生了什麼事？
這叫做「回溯式思考」（backcasting），和一般的預測法方向相反。預測法從現在出發，試著推斷未來可能發生什麼。回溯式思考從你期望的未來出發，反過來推論現在需要做什麼。這個方法最早在 1970 年代的能源政策和永續發展規劃中被廣泛使用，邏輯很直觀：如果你知道目的地在哪裡，規劃路線會比在迷霧中摸索有效率得多。在 AI 辯論的語境裡，這個方法選擇特別值得注意。班吉歐的文章是從恐懼出發的：三種末日情境，然後論證為什麼我們需要急煞車。施密特的文章是從方案出發的：Democracy 2.0 的具體提案，然後論證為什麼這些方案可行。John Cochrane 是從歷史出發的：過去的技術恐慌全是杞人憂天，所以放輕鬆。這篇文章選了一條不同的路。
寫這篇文章的人叫 James Manyika，他的身分組合在這套文集的三十多位作者裡可能是最不容易歸類的。出生於辛巴威，在辛巴威大學拿到電機工程學位之後，他以羅德學者（Rhodes Scholar）的身分前往牛津，先後取得數學與電腦科學碩士和 AI 與機器人學博士。這個起步看起來是一條標準的學術路線，他也確實在牛津任教、到 MIT 做交換研究、在 NASA 噴射推進實驗室做過訪問科學家。
但接下來的轉折出人意料。他加入了麥肯錫，一做就是二十多年。其中十三年擔任麥肯錫全球研究院（McKinsey Global Institute, MGI）主席暨院長，主持了十幾份影響全球政策討論的報告，主題涵蓋自動化與就業、AI 對生產力的影響、全球發展中經濟體的技術擴散。那些你在達沃斯論壇上聽到的「AI 會取代多少工作」的數字，有很大一部分出自他團隊的研究。
2022 年，他離開麥肯錫加入 Google，擔任資深副總裁，負責研究、實驗室暨技術與社會部門，直接向執行長 Sundar Pichai 彙報。同年被任命為美國國家 AI 諮詢委員會副主席，2023 年又成為聯合國 AI 高級諮詢機構的共同主席，帶領制定全球 AI 治理建議。這三重身分讓他看問題的角度和同一套文集裡的其他人都不一樣。和施密特比，他多了十三年系統性研究全球經濟的底子，看事情不只從矽谷出發。和班吉歐比，他不是從實驗室轉向政策，而是在政策研究和產業之間來回了二十年。更關鍵的是他的辛巴威背景：在一個出生就意味著資源不平等的國家長大，讓他天然關注一個多數矽谷作者忽略的問題。AI 的好處如果只留在富裕國家，那算什麼好結局？
十個難題，五個群組
Manyika 把「2050 年好結局所需的條件」歸納為十個必須解決的硬問題，然後裝進五個群組。第一組是技術進步本身。AI 系統需要在複雜推理、記憶、事實準確性和可解釋性上取得根本突破。目前的模型仍然會幻覺、會偏差、會消耗巨量運算資源。他認為到 2050 年，訓練成本必須降低一個數量級以上，安全性和可信度必須達到今天無法達到的水準。這一組是基礎，沒有技術進步，後面四組都是空談。沒有太多爭議，但也沒有太多新意。
第二組是他最有發言權的領域：讓 AI 的好處真正被廣泛分享。他的 MGI 時期研究一直在回答同一個問題，即新技術帶來的生產力紅利最後落進了誰的口袋。在這篇文章裡，他的清單很具體：AI 必須幫助推進聯合國永續發展目標（食安、健康、氣候），必須讓全球南方的人也能受益，必須以「輔助工人」而非「取代工人」的方式被部署。他拿 AlphaFold 當正面案例。Google DeepMind 開發的這個蛋白質摺疊預測工具解決了生物學界五十年的懸案，開放存取資料庫被 190 個國家超過兩百萬名科學家使用，其中包括大量針對被忽略疾病的研究。這是 AI 作為全球公共財的最佳範例。但他強調的重點不是 AlphaFold 本身的技術成就，而是它背後的制度設計：開放存取、跨國共享、以公共利益為目標。這種結果不會自動發生，它需要刻意的投資決策和技術擴散政策。
第三組談負責任的開發和部署。治理不能只防堵風險，也必須支持創新。開放科學和安全顧慮之間存在真實的張力。超高度競爭的市場動態可能讓安全被犧牲來換取速度。他呼籲建立「適應性治理框架」和「協調的國際標準」。如果你讀過班吉歐在第二卷那篇的措辭（「國際禁令」「硬體層級管控」），你會注意到 Manyika 的語調溫和得多。同樣在談治理，一個前頂級管顧和一個轉行的學者，修辭風格的差距一目了然。
第四組走進更深的水域：社會制度和人類自我認知的共同演化。教育體系需要根本性轉型。「人類」在 AI 時代意味著什麼，需要重新討論。哪些領域應該保留給人類、哪些可以讓 AI 介入，這些邊界將被持續爭辯。不同社群可能會採取完全不同的 AI 融合方式。這一組最哲學，也最難操作化。Manyika 自己也承認，這裡沒有明確的技術解方，需要的是持續的社會對話。
第五組是對齊（alignment）。隨著 AI 的能力和自主性提升，確保 AI 行為符合人類價值的難度會指數級增長。人類價值本身就是多元的、矛盾的、隨文化而異的。多代理系統的複雜性讓對齊更加困難。低機率但高嚴重性的災難風險不能被忽略。五個群組，十個問題，結構清晰，面面俱到。如果這是一份提交給董事會的策略報告，你會給它高分。但也正是這個特質，暴露了他最大的問題。
框架師、警報者和放鬆派
把 Manyika 的文章和同一套文集裡的其他人放在一起讀，一組有意思的對比浮現了。
先看對齊問題。班吉歐在第二卷花了大量篇幅討論失控的可能性，描繪了三種末日情境，論證 AI 的自我保護目標可以在訓練過程中自然浮現。他的核心技術主張是將智能與代理性分離，開發「不自主行動」的 AI 系統。我們在導讀班吉歐那篇時詳細討論過這些論證。相較之下，Manyika 把對齊放在五個群組的最後一組，佔的篇幅也最少。如果你問班吉歐，他大概會說 Manyika 嚴重低估了這個問題的急迫性：對齊沒解決，前面四組再完美都沒有意義，因為你連活到 2050 年的機會都不確定。班吉歐的「AI 同時是全球公共財和全球風險」的雙重框架，本質上就是對 Manyika 這種「五個面向均衡處理」策略的一種隱性批評。
再看治理。施密特在第一卷提出了「民主 2.0」的具體方案：全國性的虛擬市民大會、AI 匯總公民意見的平台、作為審議夥伴的聊天機器人。他甚至引用了臺灣 Pol.is 平台作為正面案例。我們在導讀施密特兩篇文章時指出，他的問題不在方案本身，而在利益衝突：一個同時經營無人機公司和投資數十家 AI 新創的人，開出的 AI 治理處方箋很難完全中立。和施密特比，Manyika 的利益糾葛沒那麼尖銳（他是 Google 高層，但沒有個人投資帝國）。不過結構性的問題是相似的。你在 Google 工作，同時寫文章主張 AI 治理應該「同時防堵風險和支持創新」，讀者有理由追問：這個「同時」的平衡點，是不是剛好落在對 Google 最有利的位置？
最有趣的對比可能是 Cochrane。Manyika 花了整篇文章建構精密框架，告訴你 2050 年的好結局需要哪些條件。胡佛研究所的芝加哥學派經濟學家 John Cochrane 用一句話就把這種努力打發了：放輕鬆。歷史上每一次技術恐慌都被證明是杞人憂天，預防性監管注定失敗，讓市場競爭自己解決問題就好。他舉了從馬爾薩斯到明朝禁海的歷史案例來佐證，態度鮮明到了挑釁的程度。Manyika 的框架假設政府、學界、產業和公民社會能夠協調合作來解決十個硬問題。Cochrane 會說這種假設本身就是最大的幻想：政府介入科技發展的歷史紀錄糟透了，你為什麼還要設計更多政府介入的框架？
三種截然不同的態度：Manyika 的系統性樂觀、班吉歐的結構性恐懼、Cochrane 的歷史性放鬆。我的判斷是，Manyika 的優勢在全面性。他是這套文集裡唯一一個同時處理技術、經濟、治理、社會和對齊五個面向的作者。但全面性的代價是優先順序的缺失。如果你只能解決三個問題，先解哪三個？他從來沒有被逼到那個角落。
2050 年的臺灣在哪裡
Manyika 反覆強調的一個主題是：AI 的好處必須被全球共享，不能只留在幾個富裕國家的科技公司手中。他拿 AlphaFold 的全球使用數據當證據，主張 AI 有潛力成為縮小全球不平等的工具。這個主張的說服力來自他的辛巴威背景和十三年的 MGI 全球研究，不是客套話。
但「全球共享」這個框架套到臺灣身上，會出現一個他沒有預見的弔詭。臺灣不在 AI 利益分配光譜的弱勢端，也不在強勢端。臺灣是製造基礎設施的國家。全世界最先進的 AI 訓練晶片，從 NVIDIA 的 H100 到 B200，幾乎全部出自台積電的廠房。班吉歐在他的文章裡直接點名了先進晶片製造的瓶頸作為全球 AI 治理的物理槓桿，我們在那篇導讀中也分析了這對臺灣的意義。Manyika 沒有觸及這一層。他從需求端（誰受益、誰受害）而非供給端（誰造工具、誰有談判籌碼）來思考 AI 的全球分配問題。這是一個典型的顧問盲區：看市場、看使用者、看政策，卻沒看到生產端的地緣政治份量。
他的第四組「社會制度的共同演化」對臺灣倒是有更直接的啟示。AI 正在改變「什麼知識有價值」的定義，教育體系和勞動市場都需要跟著轉型。臺灣過去三十年在半導體產業的成功，某種程度上就是教育政策和產業政策精確配合的結果。問題是，同樣的精確配合能不能在 AI 時代被複製？而且要在更短的時間內完成。Manyika 的 2050 視野裡，成功的社會是那些及早開始調整的社會。留給臺灣的窗口，或許比他想像的更窄。
一份完美待辦清單的極限
Manyika 的文章可能是整套《數位主義者文集》三十五篇中，架構最完整、覆蓋面最廣的一篇。他既不像班吉歐那樣被恐懼驅動，也不像 Cochrane 那樣被歷史信心驅動。他的方法論冷靜、系統、專業。讀他的文章，你會覺得 AI 的未來是一個可管理的專案：把十個問題都放進看板、分配資源、設定里程碑，2050 年的好結局就是可以達成的。
這正是他最大的盲點。回溯式思考的前提是好結局存在，而且只有一種。現實中，不同群體對「好結局」的定義根本不一樣。班吉歐的好結局是 AI 不會消滅人類。Cochrane 的好結局是政府不要來搗亂。施密特的好結局是 AI 讓美國保持全球領先。開發中國家的好結局是 AI 不要又變成一個被富國壟斷的資源。這些好結局之間存在真實的衝突，不是一個更精密的框架可以調和的。
他的文章裡沒有出現的一個詞是「取捨」（trade-off）。在真實的政策世界裡，你不可能同時最大化創新速度和安全保障，不可能同時保護既有就業和提高生產力，不可能同時推動開放科學和防止技術被武器化。這些取捨才是最難的決策，而一份列出「十個硬問題」的清單，恰好繞過了所有的取捨。文章結尾呼籲「所有人」一起來處理這些問題：研究者、開發者、私部門、公部門、學界、公民社會、政府。修辭上無懈可擊，操作上等於什麼都沒說。誰來決定優先順序？意見衝突時誰有最終裁決權？資源有限時先投在哪裡？這些問題，一個做了十三年麥肯錫全球研究院院長的人應該比任何人都清楚。他選擇不回答，本身就是一個值得注意的答案。
📚 「數位主義者文集」導讀系列