← AI 動態
The Decoder
歐盟新規上路！OpenAI 為 ChatGPT 加上隱形文字浮水印
為了符合歐盟 AI 法案，OpenAI 將在 ChatGPT 產出內容中加入隱形的「textGrain」文字浮水印。不過全球的 API 用戶仍可選擇關閉，且修改部分文字即可破解防護。
OpenAI
隱形浮水印
AI治理
因應歐盟 AI 法案要求人工智慧供應商必須標示生成內容，OpenAI 推出名為「textGrain」的防偽技術。這項技術會在模型選擇字詞時，嵌入人類肉眼無法看出的統計訊號，讓機器能自動辨識這是否為 AI 生成的文字，作用原理類似 Google 開發的 SynthID 技術。
然而，這項政策仍存在彈性空間與技術盲點。首先，不同於競爭對手 Anthropic 的強制啟用，OpenAI 允許全球使用 API 的開發者自行選擇是否關閉浮水印。其次，雖然 textGrain 的初始辨識率高達 95%，但測試顯示，只要使用者將生成文本中約四分之一的字詞手動替換或修改，辨識率就會大幅暴跌至 17%，顯示目前的文字浮水印仍容易遭到破解。
這項技術的推進凸顯了「AI 治理」與技術防護的挑戰。隨著 AI 內容無所不在，如何辨識真偽成為防範假新聞與學術造假的關鍵。對一般大眾而言，這意味著未來在網路上直接複製貼上 AI 生成的內容，將越來越容易被系統偵測與標記。