OpenAI 推出 textGrain,直接回应了《欧盟人工智能法案》的要求:生成式 AI 的输出必须能够以机器可读的方式加以识别。从原理上说,textGrain 会调整模型选择词元的方式,使生成的文本序列呈现可检测的统计模式。读者看不到这种水印,只有 OpenAI 选择性开放访问权限的检测器才能识别。对产品和合规团队而言,眼下的结论很明确:业界现在有了一种成熟机制,可以标示 AI 模型参与生成的文本,但其特性和法律效力有限,且取决于具体情境。
实证评估显示,textGrain 在理想条件下表现良好:文本越长、用词越灵活,检测率越高。在较为保守的误报率目标下,长篇且不受词汇限制的文本检测率接近 95%;对于只有 200 个词元的短文本,检测率则降至约 80%,在数学等用词受限的领域还会明显更低。编辑和局部改写会大幅降低可检测性:只需将一小部分词语替换为同义词,检测效果就可能从强变弱。这些特性意味着,在现实应用和法律合规中,检测难免存在可预见的盲区。
OpenAI 的实施方案在监管义务与技术审慎之间寻求平衡。全球 API 客户可以选择启用带水印的输出;在欧盟,符合条件的 ChatGPT 和 Codex 输出则会自动添加 textGrain。OpenAI 暂不向公众开放检测器,而是先向获批的研究人员和专业机构提供访问权限,以便他们研究其性能和局限。这种受限访问模式体现了对误报或漏检可能误导执法或平台内容审核的担忧,也说明检测结果应结合其他信号一并解读。
实际上,文本来源标记比图像或音频更难实现,因为语言很容易被编辑、压缩、翻译和改写,而这些操作会迅速削弱统计信号。图像水印和文件凭证即使在元数据被剥除或文件重新压缩后仍可能保留;文本却没有固定的“容器”,语义也可以被改写,且不留下持久的来源记录。对决策者而言,关键在于将水印纳入多层来源管理体系:元数据、用户披露、行为信号和平台控制仍然不可或缺,可与 textGrain 相互补充。


