OpenAI 在歐洲爲 ChatGPT 和 Codex 添加不可見文本水印

OpenAI 於週一宣佈，已針對歐盟地區的用戶開始對其 AI 系統 ChatGPT 和 Codex 生成的文本進行標註，這是爲了遵守於8月2日生效的《歐盟人工智能法案》所規定的透明度要求。

這些規則要求人工智能公司以其他系統可讀取的形式標註機器生成的內容，違反第50條的規定將面臨高達1500萬歐元或全球年營業額3%的罰款。該功能將在未來幾周內逐步向所有計劃中的符合條件的賬戶開放，但僅限歐盟範圍內。

據TechCrunch報道，從即日起，任何位置的開發者均可通過API爲特定模型啓用此功能，儘管在客戶主動激活之前，該功能將保持未激活狀態。

我們正在擴展內容溯源方法，以響應歐盟監管要求，涵蓋文本生成內容，同時承認當前文本水印技術存在顯著侷限性。

我們的工具已幫助驗證圖片或音頻文件是否由我們……

— OpenAI (@OpenAI) 10月5日，2026

textGrain 將水印隱藏在模型的用詞選擇中

OpenAI 的 textGrain 系統的工作原理是：當 ChatGPT 面臨多個同樣合適的詞語選項時，會對其選擇進行輕微引導。在足夠長的文本中，這些微小決策會累積形成一種統計模式，肉眼無法察覺，但可通過專用軟件檢測出來。

由於水印直接嵌入在文字本身中，而非存儲在文件元數據裏，因此即使文本被複制粘貼到其他位置，水印仍可被檢測到。

OpenAI 與賓夕法尼亞大學和耶魯大學的研究人員共同開發了該系統。其技術論文指出，TextGrain 使用密鑰對可能的下一個詞進行排序，並微妙地偏向某些選擇。當這些選擇足夠多時，擁有相同密鑰的軟件可以識別出該模式，從而判斷該文本可能由 OpenAI 模型生成或處理過。

OpenAI 表示，該水印不包含任何可識別生成文本用戶的信息。該公司還稱，在其測試中，啓用 textGrain 後並未導致 GPT-6 Astra 的性能出現明顯下降。

輕度編輯會顯著削弱水印檢測效果

OpenAI 也公佈了該系統的侷限性。在其測試中，僅將 10% 的詞彙替換爲同義詞，就使檢測率從約 92% 降至 66%。此外，在短段落、數學答案和翻譯文本中，水印更難被檢測出來。

鑑於這些侷限性，OpenAI 目前將限制其檢測工具的使用範圍，僅限授權研究人員和專業機構使用。該公司還指出，無法檢測到水印並不能證明文本是由人類撰寫的。這可能是因爲文本過短、經過大量編輯，甚至是由其他公司的模型生成的。

水印可以表明某段文字的部分內容是由 OpenAI 系統生成或處理的，但無法反映其中投入了多少人類判斷、編輯或創意。

– OpenAI

Anthropic 選擇全球範圍的水印策略，而 OpenAI 則先從歐洲開始實施

今年8月，Anthropic 開始在全球範圍內對 Claude 的輸出內容進行水印標記。起初，這似乎比僅在歐洲實施水印的 OpenAI 政策更爲廣泛，但背後的原因是技術性的：Anthropic 當時尚未具備限制區域水印的技術系統。

兩家公司均已與包括 Google、Meta、Microsoft 和 Mistral 在內的約190家其他組織一道，於今年7月簽署了歐盟《關於人工智能生成內容透明度準則》。因此，它們的水印舉措是對自8月2日起生效的同一項歐盟透明度要求的響應。

Anthropic 的這一推廣計劃仍遭到部分用戶的批評，他們認爲用戶提供了想法、指令和判斷，而 Claude 主要只是協助寫作。

據《華爾街日報》報道，OpenAI 早在多年前就創建了一種文本水印系統，但出於擔心用戶可能轉向不使用水印的其他 AI 系統的顧慮，他們選擇不公開該系統。

如果您正在閱讀這篇文章，說明您已經領先一步。請繼續通過我們的通訊保持關注。