「AIテキストの不可視ウォーターマーク」をめぐるニュースで最も誤解されやすいのは、規制上の要件とベンダーの製品計画を同じものとして扱ってしまうことだ。EUは一部のAI生成コンテンツを識別可能にする方針をすでに定めており、特定の場面では明確かつ目に見える表示も求めている。ただし、OpenAIの公式ページ「EU text provenance」は、記事執筆時点でも本文を取得できなかった。そのため、どのChatGPTやCodexのテキストに、どのようなマークを付けることをOpenAIが決めたのかは、現時点で確認できない。
AIでカスタマーサポートの文面、コードの説明、マーケティングコピーを作成するチームにとって、この区別は重要だ。コンプライアンスの方向性は整理できるが、OpenAIが具体的にどう実装するかを見出しやうわさから補うことはできない。両者を混同すると、実現する可能性のある計画を、すでに導入された機能として書いてしまう。
EUはすでにAI生成コンテンツの識別を求めている
欧州委員会による「人工知能法」（AI Act）の説明は明確だ。生成AIの提供者は、AI生成コンテンツを識別できるようにしなければならない。ディープフェイクに加え、公共の利益に関する事項を市民に知らせる目的で公開される特定のAI生成テキストには、明確で目に見える表示も必要になる。
この透明性ルールは2026年8月2日から適用される。焦点は、コンテンツを識別できるか、また特定のコンテンツが一般の人々に明示されているかどうかにある。この概要ページでは、すべての企業が特定の一つの技術を採用しなければならないとは定めていない。
言い換えれば、法律が先に定めているのは「どのような結果を達成すべきか」であり、「統計的ウォーターマークで実現しなければならない」と規定しているわけではない。企業は機械可読なマーク、検出メカニズム、その他のコンプライアンス手段を採用できるが、その措置が十分に有効で、適用される状況に適していることを示す必要がある。
欧州委員会は「AI生成コンテンツの透明性に関する実務規範」も公表している。対象は大きく二つある。提供者向けには、音声、画像、動画、テキストの出力に機械可読なマークを付け、AIによって生成または操作されたコンテンツだと識別できるようにすること。導入者向けには、ディープフェイクや特定のAI生成テキストを公開時に表示することだ。
ここで省いてはならない区別がある。実務規範は任意で採用するコンプライアンス手段である一方、Article 50が定める透明性要件そのものは法的義務だ。欧州委員会によると、実務規範に署名して従う提供者や導入者は、その措置を使って遵守を示せる。別の方法を選ぶ企業は、自社の措置が同等に適切であることを示さなければならない。実務規範がAI Actや、透明性義務に関する欧州委員会の指針に取って代わることはない。
OpenAIがどのテキストを対象にするかは未確認
OpenAIの関連ページのタイトルは「EU text provenance」を示しているが、本文は現在、公開ページから読むことができない。したがって、次の重要な点を確定した製品情報として扱うことはできない。対象がChatGPT、Codex、それとも他の製品なのか。範囲が地域、モデル、言語、テキストの種類のどれで区切られるのか。計画が研究、テスト、計画、導入のどの段階にあるのか。外部機関がどのように検出するのか、研究者が関連ツールにアクセスできるのか、といった点だ。
特に、「一部のテキスト」を「すべてのChatGPTの回答」に広げてはならない。また、「すべてのCodexのコードにマークが付く」と直接書くこともできない。この一つの限定が、限定的なコンプライアンス対応なのか、企業の日常的な業務フローを変える製品更新なのかを左右する可能性がある。
同様に、どの出力にマークが付くのか、コピーや編集後もマークが残るのか、追跡可能性があるのかも、現時点では判断できない。短いテキスト、翻訳文、人手で編集したテキスト、人間とAIが混在して作成したテキストが同じ検出範囲に入るのかは、OpenAIが公開する検証可能な説明やテスト結果が必要だ。EUの規則から逆算することはできない。
「不可視のウォーターマーク」という言葉を慎重に使うべき理由もそこにある。少なくとも、記事ページに「AI生成」と直接表示するものとは異なり、ファイルのメタデータと必ずしも同じものでもない。しかし、OpenAIの本文がない現状では、具体的にどの仕組みを採用しているのかを断定できない。まして、精度、書き換えへの耐性、誤検知率を推測することもできない。
製品チームはまだ見出しを要件定義書に入れるべきではない
現時点で企業ができるのは、EUの透明性義務をコンテンツガバナンスの計画に組み込むことだ。どのAI生成コンテンツを識別可能にする必要があるのか、一般向けのどのテキストが目に見える表示の対象になり得るのかを明確にし、ベンダーのコンプライアンス説明を確認する工程を残しておく。
ただし、OpenAIが読める形の公式説明を公開するまでは、それを根拠に利用規約を変更したり、顧客に「すべての出力にウォーターマークが付く」と約束したり、ある検出機能がすでに利用可能だと要件に書いたりすべきではない。プラットフォームやメディアも、「AIが生成した可能性」と「内容が事実かどうか」を区別する必要がある。前者は出所を識別する問題であり、後者にはなおファクトチェックが必要だ。
最も確実に言えるのは次のことだ。AI生成コンテンツに対するEUの透明性要件は明確だが、OpenAIがChatGPT、Codex、その他のテキスト出力にどの範囲と方法で適用するのかは、本文を取得できないこの公式ページからは、現時点で確認できない。導入や調達の前に、ベンダーには三つを確認したい。適用範囲、検出と誤検知に関する説明、そして編集や書き換え後もマークが有効かどうかだ。
出典
- 欧州委員会：AI Actの説明
- 欧州委員会：AI生成コンテンツの透明性に関する実務規範
- 欧州委員会：AI Act Article 50
- OpenAI：EU text provenance（記事執筆時点で本文を取得できず、製品の詳細はこれを根拠に確認していない）
