OpenAIによるtextGrainの導入は、生成AIの出力を機械可読な形で識別可能にするというEU AI法の要件に直接対応するものです。textGrainは、モデルがトークンを選ぶ際に調整を加え、検出可能な統計的パターンを文章に埋め込みます。ウォーターマークは読者には見えず、OpenAIが選定した相手に提供する検出ツールによって読み取れるよう設計されています。プロダクトやコンプライアンスの担当者にとって重要なのは、テキストへのモデルの関与を示す業界水準の仕組みが登場した一方で、その特性や法的な効力には限界があり、状況に左右されるという点です。

実証評価では、理想的な条件下でtextGrainは良好な性能を示しています。文章が長く、語彙の選択に幅があるほど検出率は高まります。誤検出を抑える設定では、長く表現の自由度が高い文章の検出率は90％台半ばに達する一方、200トークン程度の短い文章では約80％に低下し、数学のように使える語句が限られる分野ではさらに大きく下がります。編集や部分的な書き換えも検出を大きく難しくします。単語の一部を類義語に置き換えるだけで、検出性能が高い状態から低い状態へ落ちることがあります。こうした特性は、実利用や法令遵守において予測可能な検出漏れを生みます。

OpenAIの運用計画は、規制上の要請と技術面での慎重さの両立を図っています。世界中のAPI利用者はウォーターマーク付き出力を任意で有効にできる一方、EU域内では対象となるChatGPTおよびCodexの出力にtextGrainが自動的に付与されます。検出ツールを一般公開するのではなく、当初は承認を受けた研究者や専門機関にアクセスを認め、性能と限界の検証を進める方針です。誤検出やウォーターマークの見逃しが、法執行やプラットフォームのモデレーションを誤らせるおそれがあるため、この限定的な提供方法が採られています。また、検出結果はほかの情報とあわせて判断すべきことも示しています。

テキストの来歴確認が画像や音声より難しいのは、言語が簡単に編集、圧縮、翻訳、言い換えられ、統計的なシグナルがすぐに損なわれるためです。画像のウォーターマークやファイル認証情報は、メタデータの削除や再圧縮後も残ることがあります。一方、テキストには固定された「容器」がなく、意味を保ちながら書き換えられても、持続的な来歴情報が残るとは限りません。意思決定者にとっての要点は、ウォーターマークを多層的な来歴管理の一部として組み込むことです。メタデータ、ユーザーへの開示、行動シグナル、プラットフォーム側の管理策はいずれも、textGrainを補うために引き続き必要です。