OpenAI 推出 textGrain,直接回應《歐盟 AI 法案》的要求:生成式 AI 的輸出必須能以機器可讀的方式辨識。從原理上來說,textGrain 會微調模型選擇 token 的方式,讓生成的文字序列帶有可偵測的統計模式。這種浮水印對讀者不可見,預計由 OpenAI 選擇性開放存取權限的偵測器來辨識。對產品與法遵團隊而言,眼前的意義很明確:業界現在有了可用於標示模型參與文字生成的成熟機制,但其特性與法律效力有限,而且會因情境而異。
實證評估顯示,textGrain 在理想條件下表現良好:文章越長、用詞越靈活,偵測率就越高。在採取保守的誤報率目標時,對篇幅較長且不受限的文字,偵測率可接近 95%;但對較短、約 200 個 token 的段落,則會降至約 80%,而在數學等用詞選擇受限的領域,偵測率更低。編輯或部分改寫會大幅降低可偵測性:只要將一定比例的詞換成同義詞,偵測表現就可能從強轉弱。這些特性也讓它在實際應用與法遵情境中,存在可預期的盲點。
OpenAI 的推行計畫在法規義務與技術審慎之間取得平衡。全球 API 客戶可以選擇啟用帶有浮水印的輸出;在歐盟,符合資格的 ChatGPT 與 Codex 輸出則會自動加入 textGrain。OpenAI 暫不公開偵測器,而是先向通過核准的研究人員與專業機構開放,讓他們研究其效能與限制。這種限制偵測器存取權限的做法,反映出誤報或漏掉浮水印可能誤導執法或平台內容審核的風險,也再次凸顯:偵測結果應搭配其他訊號一併判讀。
實際上,文字的來源追溯比影像或音訊更困難,因為文字很容易編輯、壓縮、翻譯與改寫,而這些操作都會迅速削弱統計訊號。影像浮水印與檔案憑證即使遇上中繼資料遭移除或檔案重新壓縮,也可能保留下來;文字則沒有固定的「容器」,語意也能在不留下持久來源資訊的情況下被重新改寫。決策者應注意,浮水印必須納入多層次的來源追溯架構:中繼資料、使用者揭露、行為訊號與平台控管,都是 textGrain 仍不可或缺的配套。


