AI 參與創作，什麼時候該告訴觀眾？

本文整理自 Podcast《AI and the Future of Work》2026 年 4 月播出的單集。

{{< apple-podcast "tw/podcast/384-when-ai-creates-art-what-stays-human-with-jake/id1476885647?i=1000761099553" >}}

---

脈絡不同，感受就不同

如果有人告訴你一首歌是在醫院病房裡寫的，你再聽那首歌的時候，感受會和知道它在錄音室裡寫的完全不同。即使聲波一模一樣，旋律、節拍、音色毫無差異，人類的大腦就是會因為知道了背後的故事而產生不同的情緒反應。Emergence Capital 合夥人 Jake Saper 在 Podcast《AI and the Future of Work》中提出了這個觀察。他本人是一位在矽谷有十二年資歷的企業軟體投資人，同時也是一個活躍的跨曲風歌手。這個雙重身份讓他對藝術的本質有切身的理解。

在 Saper 的定義裡，藝術是壓縮的人類經驗，是一種把生命體驗從一個神經系統傳遞到另一個神經系統的嘗試。在這個框架下，脈絡不是可有可無的附加資訊，而是藝術體驗的核心組成。人類天生就是製造意義的機器，而來源和背景會改變意義本身。我們不是在真空中體驗藝術，我們帶著自己的認知和情境去接收每一件作品。

這就帶出了一個在 AI 時代無法迴避的問題：當 AI 越來越深度地參與創作過程，觀眾有沒有權利知道？什麼情況下必須揭露，什麼情況下可以不說？Saper 的回答不是一刀切的，他認為答案取決於信任在那個場景中扮演什麼角色。這個區分乍聽之下很簡單，但仔細拆開來看，它其實提供了一個實用的判斷框架。

信任攸關時，必須揭露

Saper 的立場很明確：當信任是核心要素的時候，透明度不是選項而是義務。他舉了幾個具體場景，新聞報導、紀錄片、教育材料、委託創作。這些情境有一個共同特徵：觀眾或客戶之所以接受這些內容，前提是他們相信內容的真實性和來源。如果那個信任建立在錯誤的基礎上，傷害就不是抽象的。一篇用 AI 生成但被當成人類記者採訪的新聞報導，損害的是整個新聞媒體的公信力，而不只是那一篇文章的可信度。

他特別強調了「有真實性主張」這個概念。如果一個紀錄片宣稱呈現的是真實事件，觀眾有權知道哪些部分是 AI 生成或輔助的。如果一篇新聞報導的內容有 AI 參與撰寫或改寫，讀者有權被告知。不是因為 AI 參與本身就意味著品質低落，而是因為不揭露會侵蝕觀眾對內容來源的信任基礎。一旦那個信任被消耗了，要重建就非常困難。

他在訪談中也觸及了一個更根本的問題。「我覺得我在 2026 年必須說出這句話本身就很瘋狂，」他坦言，「但從事實的層面來說，某個事件到底有沒有發生，這是一個正常運作的社會最基本的共識。我們必須盡一切努力維護這個共識。」AI 生成內容的大量出現正在挑戰社會對事實的共識，而在新聞和紀錄片這類領域，揭露 AI 的參與程度是維護這個共識的最低要求。技術面和政治面和文化面的變革都需要到位，但揭露是目前最容易執行、也最沒有爭議的一步。

娛樂領域可以更彈性

但 Saper 不是一個全面要求揭露的激進派。在純娛樂的場景裡，他覺得可以更寬容。理由很直接：人類使用工具輔助娛樂創作的歷史悠久。從攝影機到 Photoshop 到 Auto-Tune，科技一直在改變娛樂的生產方式，而觀眾對此早已習以為常。AI 是這個光譜上的最新一環，不是本質上截然不同的東西。一首用了 Auto-Tune 的流行歌不會被視為「不誠實」，同樣的邏輯在某種程度上也適用於 AI 輔助的創作。

他建議的做法是把 AI 參與的資訊當成一種「輕量級的後設資料」，讓在乎的人可以查到，但不需要每次都高調宣布。就像電影片尾會列出所有的特效工作室和後製流程，但觀眾不會在看電影的時候被強制告知每一幀畫面的製作方式。重點是資訊要可取得，而不是非要塞在觀眾面前。創作者在這個過渡期選擇主動揭露，不只是道德考量，也是在幫觀眾建立對 AI 參與創作的認知框架。

Saper 預測，隨著時間推移，大眾對 AI 參與的敏感度會降低。就像現在沒有人在意一首流行歌有沒有用 Auto-Tune，未來人們也不會太在意一幅畫或一首歌有多少 AI 的輔助。人們會更在意的是這個作品有沒有觸動自己。他用了一個他很珍視的詞：「共鳴」。作為歌手，當他走進一個空間聽到聲音的共鳴，那是讓表演變得更好的東西。他希望未來的人們能更敏銳地感知什麼內容和自己的內在產生了共鳴，而不是花太多時間糾結於它是誰或什麼創造的。不過他也清楚地補了一句：在這個過渡期，揭露仍然是重要的，因為脈絡會改變體驗，而 AI 的參與就是脈絡的一部分。

創意歸市場、危險歸監管

透明度的問題其實是一個更大議題的切面：當 AI 代理人越來越有能力，社會應該在哪裡畫線？Saper 的回答是分場景處理。在創意和低風險的領域，讓市場機制去調節。如果夠多人覺得 AI 生成的虛擬歌手「沒有靈魂」或感覺不對勁，那些嘗試自然會被市場淘汰。同樣的邏輯也適用於企業中的 AI 代理人。如果員工覺得被一堆有名有姓的機器人同事包圍很不舒服，買方就會拒絕，供應商得調整做法。他自稱「骨子裡的資本主義者」，相信這些問題在創意領域可以透過市場自我修正。

但在有可能造成嚴重實體傷害或經濟災難的場景裡，他認為必須有明確的防護機制。飛機不能因為 AI 代理人的判斷失誤而墜落，金融市場不能因為 AI 的自主操作而崩盤。目前這個問題的迫切性還不是最高，因為 AI 代理人的能力仍然有限。「如果你用過那些代理人，你會知道它們經常壞掉，很脆弱。」但他預測在接下來 18 到 24 個月內，代理人會越來越可靠，願意放手讓它們做更大任務的人也會越來越多。到那時候，在業者想要突破界線和必要的安全護欄之間，會出現巨大的張力。他的建議是用一個簡單原則來劃線：如果某件事出錯可能導致災難性後果，就需要監管；如果出錯的代價只是一個不好的產品或一段沒人喜歡的內容，交給市場處理就好。

他引用了 AI 教父傑佛瑞．辛頓（Geoffrey Hinton）的一段話來收束這個討論。辛頓在一場演講中提出了一個令人五味雜陳的想法：我們應該把 AI 建造成像母親一樣的存在。讓它把人類視為一個比自己弱小、需要被保護和照顧的對象，就像母親看待自己的孩子。辛頓的邏輯是，一旦 AI 的智能超越人類，它理論上可以控制我們，所以最好的結果是讓它「想要」保護我們。但當被追問具體要怎麼做到這件事，辛頓的回答是三個字：「我不知道。」Saper 形容這是「一個既令人安慰又深度令人不安的答案」。我們知道方向應該是什麼，但還不知道路怎麼走。

我的觀察

Saper 把透明度問題拆成兩個維度來思考，一個是「信任有沒有被動到」，另一個是「出錯的代價有多高」。這個框架最大的好處是避免了非黑即白的極端立場。在辯論 AI 創作揭露的時候，最沒有生產力的做法就是要求所有場景都用同一套規則。一篇新聞報導和一首流行歌的脈絡完全不同，對待它們的方式也應該不同。

不過，他提到的「過渡期」觀點特別值得注意。2026 年是一個 AI 已經無所不在但還沒完全被常態化的時間點。在這個過渡期裡，揭露的意義比十年後大得多。就像早期電影觀眾還不知道「特效」是什麼概念，現在的觀眾也還在學習「AI 輔助」到底意味著什麼。在這個階段，主動揭露不只是道德責任，更是幫助觀眾建立新鑑賞能力的一種方式。至於辛頓那個沒有答案的答案，也很值得記住。我們知道需要護欄，但還不知道怎麼建。光是承認這個事實，可能就是目前最誠實的起點。Saper 自己也說了，當他面對這些存在性的焦慮時，會回到藝術的創作和欣賞中尋找慰藉。也許在這個充滿不確定的時代，藝術正是我們最需要的脆弱空間。