Cory Doctorow 預測人工智慧（AI, Artificial Intelligence）泡沫破裂，但看到開源存活的希望

知名科幻作家、行動者與記者 Cory Doctorow 對當前人工智慧（Artificial Intelligence, AI）產業發出嚴厲警告，將其形容為一個注定會劇烈崩潰的金融泡沫。然而，在他所預測的創業公司倒閉與資料中心關閉的殘骸中，Doctorow 預見提供實用工具給創作者與開發者的開源 AI 模型（開源 AI 模型，open-source AI models）將展現韌性並存活下來。

在本週發表的一篇綜合分析中，Doctorow 主張，當前圍繞生成式 AI（生成式AI，Generative AI）的狂熱，驅動力較少來自技術的實用性，而更多來自「成長型股票（growth stocks）」與壟斷科技巨頭的財務需求。雖然對該產業龐大資本投資的短期前景看似黯淡，但長期預測顯示，焦點將轉向去中心化、在地運行的 AI 工具，這些工具為使用者服務，而非使他們屈從。

「AI 泡沫」的運作機制

Doctorow 的批判從支撐矽谷（Silicon Valley）金融結構開始。他提出，當前的 AI 繁榮是「成長型股票（growth stocks）」悖論的直接產物。已在搜尋、廣告與行動領域取得主導市場份額的大型科技壟斷者，面臨成長危機。為了維持投資者要求的高本益比（price-to-earnings，PE），這些公司必須不斷發明並吹捧新的「成長故事」。

在 Doctorow 看來，AI 是一系列此類敘事中的最新一環，跟元宇宙（metaverse）、NFTs（NFTs）與加密貨幣（cryptocurrency）等趨勢類似。投入到 AI 基礎設施的數千億美元不一定反映技術的即時獲利能力，而是用來說服市場，讓這些成熟公司看起來仍能實現指數型成長。

如分析所述，危險在於這種投機性投資創造出一個在數學上無法持續的泡沫。當市場最終修正——意識到技術無法如宣稱般大規模取代勞動力時——這些公司的估值將暴跌，導致廣泛的產業收縮。

「反向人機合體（Reverse Centaur）」問題

Doctorow 論點中的核心主題是兩種人機互動模式之間的區別：「人機合體（Centaur）」與「反向人機合體（Reverse Centaur）」。這個框架有助於解釋為何當前企業部署的 AI 常讓人感到被剝削，而非被賦能。

Table 1: The Centaur vs. The Reverse Centaur

Doctorow 警告，當前企業策略專注於創造「反向人機合體（Reverse Centaur）」。目標不是讓工人更有能力，而是將勞動力去技能化，讓高薪專業人員（如放射科醫師或資深開發人員）可被替代或其薪資被壓低。在這種模式中，人類之所以被保留，主要是作為一個「問責承接者」——當自動化系統不可避免地犯下災難性錯誤時，必須有人可以被指責。

全面取代勞動力的迷思

儘管有激進的行銷宣稱 AI 將取代大量勞動力，Doctorow 主張，技術以現有形式根本無法有效做到這點。他以放射科為主要例子。雖然 AI 可以在 X 光影像中辨識模式，但推動其採用的商業模式並非專注於準確性或病患結果，而是以降低成本為目標。

風險在於用統計上令人印象深刻但易於產生幻覺（hallucinations）的自動系統取代專家的人類判斷。在軟體開發領域，這表現為看似可用的 AI 產生程式碼，但內含微妙且危險的錯誤——例如「幻覺式」的程式庫根本不存在，或更糟的是，被惡意人士聲稱存在以危害系統。

該分析指出，若 AI 要真正達到投資者期望的對企業價值，必須取代高薪勞動力。然而，這正是錯誤代價最高且需要最多人類監督的職位。這種「勞動力替代的承諾」與技術限制的現實之間的不一致，是泡沫的主要壓力來源。

版權與公共領域

AI 的一個最重要的法律戰場是版權（copyright）。Doctorow 對於越來越多呼籲制定新版權法以涵蓋 AI 訓練資料的聲音，持相反看法。他認為，擴大版權、禁止以公共資料作為訓練資料，反而只會助長已控制大量內容目錄的大型媒體壟斷者的權力。

相反地，Doctorow 支持 US Copyright Office 一貫的立場：AI 生成作品因缺乏人類作者而無法取得版權保護。這一法律原則具有深遠影響：

• 公共領域預設： 純由 AI 生成的內容落入公共領域（public domain）。這表示若一家大型影業或出版社使用 AI 生成劇本或圖像，他們無法阻止他人複製與再散布該作品。
• 對人類創意的激勵： 為了取得版權保護，公司必須僱用人類藝術家與作家，將創作意圖注入作品。這種法律架構自然鼓勵「人機合體（Centaur）」模式，讓人類將 AI 當作工具而非被其取代。

透過將 AI 輸出保留在公共領域，法律系統減少了企業完全自動化創意流程的誘因，因為他們將失去作為其商業模式基礎的智慧財產權。

搶救殘骸：開源的未來

雖然市場崩潰的預測令人不安，但 Doctorow 的展望並非完全悲觀。他將此與 2000 年代初網路泡沫與電信詐欺做類比。像 WorldCom 這類公司因詐欺與管理不善而倒閉，但它們鋪設在地的光纖基礎設施仍留在地底，最終成為現代網際網路的動力。

類似地，Doctorow 預測當 AI 泡沫破裂時，充斥的有害金融資產與無用炒作將被剝除，留下有價值的殘存物。

將在崩潰中存活的事物：

• 硬體可得性： 大量高效能 GPU（GPU）可能會湧入二級市場，使強大運算資源對科學家、獨立研究者與數位藝術家來說變得可負擔。
• 技術人才： 將出現一代在應用統計與模型優化方面具有深厚專業知識的開發者。
• 開源模型（open-source models）： 或許最重要的是，產業將留下能在筆電與智慧型手機等商品硬體上運行的高效能、開源模型。

Doctorow 設想一個未來，「大型 AI（Big AI）」——運行於集中式、耗能資料中心的龐大基礎模型（基礎模型，foundation models）——將退居後方。取而代之的，將是「小型 AI（Small AI）」：在地的外掛與工具，執行特定且有用的任務，且不涉及監控或訂閱費。

這些倖存工具很可能處理實用性任務，例如：

• 本地音訊與影片轉錄。
• 圖片描述與無障礙功能。
• 文件摘要。
• 基本圖片編輯與去背。

這些應用擺脫了必須創造兆美元回報的壓力，將作為真正的公用工具運作——作為提升生產力的「外掛」，而無需要求重構整個經濟或使勞動力屈從。

結論

Doctorow 提供的觀點挑戰了當前 AI 敘事的必然性。通過將技術與圍繞它的金融投機分離，他指出一條更有利於開放韌性而非企業壟斷的前進道路。對 AI 社群而言，訊息很清楚：泡沫或許會破裂，但真正賦能使用者的工具只要建立在開放與人類掌控的基礎上，就能存活。

當產業面對這些預測時，開發者與創作者的焦點很可能從追逐下一個龐大估值，轉向構建可持續、在地且以人為本的工具，這些工具將定義後泡沫時代的全新景觀。