AI 碰上僵化瀑布：政府為什麼消化不了新科技
Code for America 創辦人 Jennifer Pahlka 在《數位主義者文集》中提出「僵化瀑布」概念：善意的規則經過官僚層層解讀後變得越來越僵化，最終癱瘓政府的行動能力。當 AI 碰上這樣的體制，問題不在技術本身，而在接收端沒有能力消化。她的診斷對台灣的數位治理困境同樣適用。
本文為「數位主義者文集」導讀系列。原文：Jennifer Pahlka,〈AI Meets the Cascade of Rigidity〉，收錄於《數位主義者文集》第一卷《AI 與美國民主》。
一個資安天才被叫去賣電腦的故事
Jack Cable 是一位資安研究員。他贏得了五角大廈的漏洞懸賞競賽，打敗六百多位參賽者。這樣的人才，美國國防部理應搶著要。但當他投遞聯邦政府職缺時，人資部門篩選履歷的承辦人看不懂他的技術背景，直接把他刷掉了。建議？先去 Best Buy 賣幾年電腦，累積「相關經驗」再來。
這不是個案。美國聯邦政府的公務員遴選制度，原本是為了防止任用私人、確保公平而設計的。立意很好。但經過層層官僚的嚴格解讀，這些規則變成了一道迷宮，只有熟悉內部運作規則的人才知道怎麼通過。設計來防止「關係戶」的制度，最終獎勵的恰恰是有內部關係的人。Jennifer Pahlka 用這個故事帶出她的核心概念，也就是她花了二十年政府改革經驗提煉出來的診斷：「僵化瀑布」（Cascade of Rigidity）。
這篇收錄在《數位主義者文集》（The Digitalist Papers）第一卷的文章，標題叫做〈AI Meets the Cascade of Rigidity〉。Pahlka 的切入角度跟集子裡大多數作者截然不同。前 Google 執行長施密特（Eric Schmidt）談 AI 如何改變民主，網路法先驅雷席格（Lawrence Lessig）談制度設計如何約束 AI，圖靈獎得主班吉歐（Yoshua Bengio）擔心 AI 的安全風險。他們的目光都對準了 AI 本身。Pahlka 看的不是 AI 這個「發球者」，而是政府這個「接球者」。她的問題是：就算 AI 真的很厲害，一個僵化到連招聘流程都搞不定的政府，有辦法好好用它嗎？
不是 AI 專家，而是政府的「除錯者」
Jennifer Pahlka 不是 AI 研究員，也不是矽谷創辦人。她的專業，是搞清楚政府為什麼做不好事情，然後想辦法修。
她的職涯起點跟科技沒什麼關係。耶魯大學畢業後，她在舊金山的兒童福利機構當秘書，第一次近距離看見體制的裂縫如何傷害最脆弱的人。後來她在科技媒體圈工作了十多年，管理遊戲開發者大會（Game Developers Conference），跟 O'Reilly Media 合作經營 Web 2.0 和 Gov 2.0 系列研討會。2009 年，她創辦了 Code for America，一個把矽谷的工程師和設計師送進地方政府，用數位工具改善公共服務的非營利組織。十多年來，這個組織累計幫助超過一千一百萬人取得應有的政府福利，把加州食物救助計畫的申請時間從 45 分鐘壓縮到 10 分鐘以下。
2013 年到 2014 年間，她進入歐巴馬白宮擔任副技術長。任期內最重要的成果，是推動創建了美國數位服務團（United States Digital Service, USDS），一個在管理暨預算局底下專門搶救政府數位專案的精銳小隊。healthcare.gov 網站上線後的大崩潰，就是她任內經歷的震撼教育之一。
這裡有一個歷史的黑色幽默。她協助創建的 USDS，後來被川普政府改組為 DOGE（Department of Government Efficiency），也就是馬斯克主導的「政府效率部」。Pahlka 對此的態度很有層次。她認同政府需要現代化、科技可以減少浪費，但嚴厲批評 DOGE 的做法。她接受《Fortune》專訪時的區分值得記住：改善 IT 系統是一回事，未經國會授權就停止付款是另一回事。她稱之為「不負責任的轉型」。
2023 年出版的《Recoding America》是她的系統性診斷報告。書的副標題很直接：「為什麼政府在數位時代失靈，以及我們如何修復它。」「僵化瀑布」就是這本書的核心概念，而這篇文章把它推向了一個新的應用場域：AI 治理。
什麼是「僵化瀑布」
「僵化瀑布」描述的是一個在官僚體系中反覆出現的病理模式。政策制定者在高層寫下一套合理的、有彈性的規範，但隨著這些規範沿著官僚階層一路往下傳遞，每經過一層都會被更嚴格地解讀，裁量空間越縮越小。到了基層執行時，規則已經完全偏離了原始的立法意圖。
Pahlka 借用了軟體工程的「瀑布式開發」來比喻。瀑布式開發的特徵是從需求分析到設計、開發、測試，一路往下流，下游永遠不能把資訊回饋給上游。政府的政策執行也是這樣，一個開放迴路系統。第一線的人沒有管道告訴立法者：「你寫的東西落地後長這樣。」
她用 FISMA（聯邦資訊安全管理法）當主要案例。FISMA 設計了大約三百項安全控制措施，原意是讓各團隊根據自己系統的風險等級，選擇性地套用其中一部分。這是合理的設計，因為不是每個系統都需要相同程度的安全防護。但在一個以避險為最高指導原則的文化裡，沒有人敢做「選擇性套用」的判斷。萬一你跳過了某一項控制措施，後來出了事，責任算你的。結果每個團隊都硬套全部三百項，把部署時間拖長了數月甚至數年，反而擠壓了真正重要的安全測試和韌性建設。原本為了「更安全」而設計的制度，實際上讓系統變得更不安全。
這裡的關鍵機制是一個不對稱的結構。要推動一件事，需要每個環節都點頭；要擋下一件事，只需要任何一個環節說「不」。在這種結構裡，說「不」永遠比說「好」安全。每一層的承辦人都有理性的誘因去做更嚴格的解讀，因為嚴格可以自保。累積起來，善意的規則就變成了癱瘓系統的重量。
當 AI 治理撞進這道瀑布
理解了僵化瀑布的運作邏輯之後，Pahlka 把鏡頭轉向 AI。她分析的對象是拜登政府 2023 年 10 月的 AI 行政命令，以及後續管理暨預算局發布的執行指引。
這些指引包含了一系列看起來非常合理的要求：政府機關在部署 AI 系統之前，必須進行公眾諮詢、完成公平性影響評估、提供退出機制讓民眾可以選擇不被 AI 系統處理，還要建立申訴管道。每一項單獨來看都有道理。問題在於，它們要在一個已經被數十年累積的法規層層包裹的體制裡執行。
先看公眾諮詢。美國政府的「通知與評論」規則制定流程，根據政府問責署的統計，平均需要四年。四年。在一個 AI 模型幾個月就會過時的時代，光是走完合規程序，準備部署的技術就已經落伍了。更棘手的是，在極度避險的文化裡，一筆來自公眾諮詢的「負面回饋」就可能讓整個部署案停擺，因為沒有人願意承擔放行的風險。
再看退出機制和申訴管道。這些要求放在新的、高風險的 AI 應用上或許說得通。但行政命令沒有區分新舊和風險高低。美國郵政署從 1960 年代就開始用手寫辨識技術分揀信件，這算不算需要退出機制的「AI 系統」？如果一個已經運作了六十年、沒有人抱怨的系統突然需要提供退出選項，這到底是在保護誰？
最棘手的是規則之間的碰撞。25 個聯邦機關中有 21 個在進行公平性影響評估時遇到了資料問題。原因之一：要評估 AI 是否對特定族群造成歧視，你需要蒐集人口統計資料。但《隱私法》和《減少文書作業法》限制了政府蒐集這類資料的能力。一套規則要求你做公平性分析，另一套規則禁止你蒐集做分析需要的資料。這就是僵化瀑布的典型症狀：規則之間互相牽制，最後誰也動不了。
她開的處方：賦能，不是管制
Pahlka 的藥方不是「取消規則」，而是換一個提問方式。她主張把框架從「應該施加什麼限制」轉向「什麼東西阻礙了這個機關做好服務，我們可以移除哪些障礙」。用她的比喻：只研究安全氣囊和防撞結構，卻完全不教人開車，是不可能讓路上變安全的。
她用兩個聯邦案例來對比說明。正面案例是國稅局的 Direct File 試辦計畫，一個讓低收入納稅人免費線上報稅的工具。這個專案由國稅局內部團隊以迭代方式開發，上線後獲得九成使用者給出「優秀」或「優於平均」的評價。它成功的關鍵不是什麼先進的 AI 技術，而是有一群懂得問「使用者需要什麼」的公務員，加上管理層願意用小規模實驗取代大型外包採購。
反面案例是教育部的 FAFSA（聯邦學生經濟援助申請）改版。新版系統上線後遺失了七萬封來自無證件家長的電子郵件。問題出在僵硬的大型外包合約和缺乏迭代能力的專案管理。最諷刺的是，FAFSA 的設計初衷就是幫助弱勢學生取得大學補助。系統失靈的直接後果，是那些最需要幫助的家庭被擋在門外。
Pahlka 從這裡拉出一條更大的線：政府的數位能力不只是效率問題，而是民主正當性的問題。當政府承諾了什麼卻做不到，人民的信任就會流失。當夠多的信任流失，選民就會轉向強人政治。政府改革聽起來很「無聊」，但它守護著民主本身的地基。
對於 AI 的具體建議，她的觀點跟主流論述有一個重要的差異。多數人討論「政府的 AI 人才」時，想的是訓練模型、寫演算法的深度學習專家。Pahlka 認為政府更需要的是「使用者」，不是「開發者」。政府的 AI 挑戰不在於自己建模型，而在於能否聰明地使用市面上已有的工具。這需要的是對業務流程的理解、對使用者需求的好奇心，以及敢於做判斷的膽識，不需要博士學位。
跟集子裡其他人的對話
Pahlka 的論述放在《數位主義者文集》的脈絡裡，跟其他作者形成了有趣的張力。
施密特在他的文章裡勾勒了一個相對樂觀的圖景：AI 可以讓民主制度更有效率、讓決策更有數據支撐、讓公共服務更精準。Pahlka 等於是在回應：你說的這些我都同意，但你有沒有想過接收端根本沒有能力消化？施密特的論述假設了一個有能力執行的政府，Pahlka 花了整篇文章告訴你這個假設不成立。施密特是技術樂觀主義，Pahlka 是組織現實主義。沒有誰對誰錯，他們看的層次不同。
跟雷席格的關係更微妙。雷席格在他的〈Protected Democracy〉裡主張，面對 AI 帶來的風險，制度設計是最重要的防線。Pahlka 不會反對這個原則，但她會追問：你設計的制度，落地後會長成什麼樣子？雷席格是法學教授，他的思考框架是「什麼規則是對的」。Pahlka 是實務工作者，她的問題是「對的規則，在錯的組織文化裡，會變成什麼」。兩個人價值觀相近，差別在於對執行層有多少信心。
最值得玩味的對照是芝加哥學派經濟學家 John Cochrane。他在集子裡寫了一篇〈Just Relax〉，主張政府不需要急著對 AI 做什麼，市場會自己調節。Pahlka 跟 Cochrane 的起點看似接近，都認為政府的管制傾向有問題。但兩人走向完全不同的結論。Cochrane 說「管少一點就好」，Pahlka 說「管制的品質比數量重要，而品質取決於政府有沒有能力做出好的判斷」。Cochrane 信任市場，Pahlka 不是不信任市場，而是她見過太多市場解決不了的問題。那些被 FAFSA 系統遺失的七萬封信背後的家庭，不是市場會去服務的對象。
台灣的僵化瀑布在哪裡
Pahlka 寫的是美國聯邦政府，但「僵化瀑布」的邏輯對台灣讀者應該很有共鳴。
數位發展部的困境就是一個近距離的案例。唐鳳（Audrey Tang）卸任後，這個新成立的部會面臨嚴峻的定位問題：究竟是要當各部會的「數位顧問」，還是自己捲起袖子做產品？不管選哪條路，都會撞上行政院體系的既有分工和預算框架。一個部會要推動數位轉型，但它必須使用的採購制度、人事制度、預算制度，全都是為傳統業務設計的。改革者被塞進一套不是為改革設計的規則裡，這正是僵化瀑布的典型場景。
健保系統導入 AI 是另一個值得觀察的例子。台灣的全民健保資料庫是全球最完整的醫療資料集之一，用 AI 做疾病預測、用藥分析的潛力巨大。但要實際部署，得先過衛福部的個資規範、醫療倫理審查、健保署的給付制度、醫院的 IT 基礎建設等重重關卡。每一關的把關者都有合理的理由說「再等等」。沒有一個人是壞人，但累積起來的效果就是什麼都推不動。Pahlka 的診斷框架在這裡完全適用：每一層的善意規範疊加在一起，形成了整體的癱瘓。
台灣跟美國有一個有趣的對照。美國有 Code for America 從外部施壓，台灣有 g0v（零時政府）社群從草根發起公民科技運動。路徑不同：Code for America 是非營利組織，跟政府談合作；g0v 是去中心化的開源社群，從太陽花運動後成為公民參與的推手。但兩者面臨同樣的瓶頸：做出好用的原型很容易，讓政府體制「吸收」這些原型，難如登天。唐鳳從 g0v 進入政府，可以說是試圖從內部打破僵化瀑布。她的經驗也證明了這條路有多崎嶇。
最無聊的革命
Jennifer Pahlka 在這篇文章裡做的事，放在整個文集的脈絡裡有一種特殊的價值。當其他作者都在討論 AI 的能力、風險和機會時，她把注意力放在一個大家不太想談的問題上：就算你手上有最強的工具，如果使用者的雙手被綁住了，工具再強也沒用。
她的論述不性感。沒有指數成長的曲線，沒有存在性風險的警告，沒有對烏托邦的許諾。但如果她是對的，那麼 AI 治理最重要的戰場，不在國會山莊的聽證會上，不在矽谷的實驗室裡，而是在某個聯邦機關的承辦人桌上。那個人正在決定：要不要把全部三百項安全控制措施都打勾，因為打勾最安全。
Pahlka 要推動的，或許是一場最無聊的革命。不是打造新科技，而是修理舊管道。有多少人願意為了修管道的故事買單？她二十年來的工作證明了一件事：那些願意蹲下來修管道的人，往往比站在台上揮手的人改變得更多。
📚 「數位主義者文集」導讀系列