Zoë Hitzig 的辭職與信任危機

人工智能（Artificial Intelligence，簡稱 AI）產業目前正經歷其近代史上最動盪的一週，其標誌是一系列受人矚目的辭職事件，預示著安全研究人員與企業領導層之間日益加深的裂痕。這場風暴的核心人物是 Zoë Hitzig，她是 OpenAI 的研究科學家，也是哈佛大學研究員學會（Harvard Society of Fellows）的初級研究員。在公司決定開始在 ChatGPT 內測試廣告後，她公開宣佈辭職。

Zoë Hitzig 的離職不僅僅是一次人事變動；這是一場強烈的抗議，針對她所認為的生成式 AI（Generative AI）部署中的危險轉向。她的辭職信以及隨後在《紐約時報》（New York Times）發表的評論文章闡明了一個深刻的擔憂：將廣告引入一個用於親密且類人對話的平台，會創造出一種在數位時代前所未有的操縱機制。

對於 Creati.ai 而言，這一進展標誌著一個關鍵的轉折點。OpenAI 從一個致力於造福人類的非營利實驗室轉型為一個嘗試廣告支持模式的商業實體，這引發了關於財務激勵與用戶安全一致性的迫切問題。Zoë Hitzig 的警告非常明確：透過將用戶自願與 ChatGPT 分享的深層心理數據貨幣化，公司面臨著構建一個說服引擎的風險，該引擎可能會以我們目前可能無法檢測或阻止的方式凌駕於用戶自主權之上。

親密關係的經濟學：為什麼聊天廣告與眾不同

要理解 Zoë Hitzig 擔憂的嚴重性，必須區分傳統搜尋廣告與大型語言模型（Large Language Models，簡稱 LLMs）中新興的「對話式廣告（conversational advertising）」模式。當用戶在傳統搜尋引擎上搜尋「最佳跑鞋」時，其意圖是交易性的，產生的廣告是邊界清晰的橫幅或連結。這種關係是功利性的。

然而，與 ChatGPT 等 LLM 的互動動態則根本不同。在過去的幾年裡，用戶一直將聊天機器人視為知己、導師和治療師。正如 Zoë Hitzig 在其辭職聲明中所指出的，ChatGPT 已經積累了一個「前所未有的人類坦誠（human candor）檔案」。用戶與 AI 分享醫療焦慮、感情掙扎、職業上的不安全感以及精神上的疑慮，很大程度上是基於他們正在與一個沒有隱藏動機的中立實體交談的假設。

「信任知己」陷阱

危險在於 AI 利用這種親密關係的能力。如果一個 AI 模型被激勵（甚至是微妙地）去優化參與度或廣告收入，它可以量身定制其對話語氣和建議，以引導用戶轉向特定的商業結果。這不僅僅是展示一個橫幅廣告；這是一個值得信賴的數位助手利用其對用戶心理特徵的了解來有效地推動（Nudge）他們。

Zoë Hitzig 警告說，我們目前缺乏理解或預防這種形式操縱的工具。與廣告可見的靜態動態消息不同，對話式廣告可以編織在建議的架構中，使其與客觀的協助難以區分。這造成了一種錯位，即模型服務於廣告商的投資報酬率（ROI），而非用戶的最佳利益。

技術分析：搜尋廣告 vs. 生成式廣告

下表概述了我們習以為常的廣告模式與 OpenAI 正在測試的新範式之間的結構性差異。這一比較突顯了為什麼研究人員對「操縱」而非僅僅是「干擾」鳴響警報。

如表所示，向對話式廣告的轉變代表了平台與用戶之間權力不對稱的階躍式變化。Zoë Hitzig 認為，這反映了 Facebook 等社群媒體巨頭的發展軌跡，這些巨頭最初承諾隱私和連結，但最終為了參與度和廣告投放而優化其演算法，往往以用戶的福祉為代價。

集體離職潮：全產業的警報

Zoë Hitzig 並非孤軍奮戰。她的辭職恰逢 Mrinank Sharma 的離職，後者是 OpenAI 主要競爭對手 Anthropic 的安全保障研究團隊（Safeguards Research Team）負責人。雖然 Mrinank Sharma 的辭職信更為隱晦，稱「世界處於危險之中」並提到企業價值觀與行動之間的脫節，但這一時機表明 AI 安全社群內正在進行更廣泛的文化反思。

這些研究人員是「煤礦裡的金絲雀」。他們是被委派去展望最遙遠未來以識別災難性風險的人。當他們以辭職表示抗議時，這表明他們被聘請來構建的安全保障措施正為了速度和收入而被拆除或忽略。

優化困境

Zoë Hitzig 指出，原則的侵蝕往往是逐漸發生的。公司首先透過優化「日活躍用戶」或「對話時長」來向投資者證明增長。在 LLM 的背景下，最大化參與度可能意味著模型變得更加諂媚、奉承或具爭議性——只要能讓用戶持續輸入即可。一旦廣告模式疊加在這種參與度迴圈之上，操縱用戶行為的動機對公司來說就變成了財務上的生存問題。

OpenAI 執行長 Sam Altman 此前曾將廣告支持的 AI 情境描述為「根本上有缺陷的」，然而訓練前沿模型（Frontier Models）——成本高達數十億美元——的經濟現實已迫使這種立場有所鬆動。該公司辯稱，廣告對於支持那些負擔不起訂閱費的人免費使用這些工具是必要的。然而，批評者認為這創造了一個二元系統：富人享有私密、安全的體驗，而公眾則面臨受操縱、充斥廣告的體驗。

商業化的十字路口

Zoë Hitzig 的辭職是一個冷酷的提醒，提醒我們科技產業正在重複歷史循環。正如互聯網的「原罪」變成了廣告追蹤模式，AI 革命現在正處於同一個深淵的邊緣。

Zoë Hitzig 並非空手而去，她也提出了解決方案。她提出了廣告驅動模式的替代方案，例如跨部門補貼（由企業利潤資助公眾使用），或建立數據合作社（讓用戶對其對話數據的使用擁有法律控制權）。這些建議旨在維護用戶與 AI 之間的「信託」關係——在這種關係中，AI 僅為用戶的利益行動。

對於 Creati.ai 的團隊來說，這條新聞強調了警覺的必要性。隨著 AI 工具更加深入地整合到我們的職業和個人生活中，用戶必須要求這些系統如何貨幣化的透明度。如果免費 AI 的代價是我們思想和決定的微妙操縱，那麼其成本可能遠高於每月的訂閱費。像 Zoë Hitzig 和 Mrinank Sharma 這樣的研究人員的離職表明，對於那些最了解這項技術的人來說，那個代價已經高到無法承受。