AnthropicがAIサービス「Claude」の生成テキストに導入した「不可視のウォーターマーク」が、一部利用者の反発を招いている。BetaNewsは8月22日（現地時間）、「Claude's watermark leads paying users to cancel」において、Anthropicが導入した不可視のウォーターマークを理由に解約者が相次いでいると報じた。一方、Anthropicは導入後に解約が増加したとの報告は受けていないとして、その影響を否定している。
導入から2週間で有償利用者が解約
導入から2週間で、少なくとも4人の有償利用者がウォーターマークを理由にアカウントを解約したと投稿。利用者は業務上の責任、顧客との契約に関するリスク、オプトアウトできない機能をAnthropicが導入したことなどを解約の理由に挙げた。これら解約画面が共有されると、これらに続く形でClaudeとの契約を解除したと主張する投稿が数十人規模に膨らんだという。
特に業務でClaudeを利用するユーザーにとって問題となるのが、自分が作成した文章をClaudeで校正・編集した場合でも、ウォーターマークが付く可能性がある点だ。業務で使用する文章に意図せずウォーターマークが付くことへの懸念も、反発の背景にある。
ウォーターマークの仕組みと特徴
Anthropicは8月14日、ウォーターマークに関する技術資料を公開した。このウォーターマークは生成物の品質および内容に影響を与えることはなく、読者は判別できないとされる。
仕組みは、Claudeが次の単語を選ぶ際のランダム性を利用し、生成テキストに統計的なパターンを持たせるというものだ。テキスト生成では直前のテキストから次に登場する単語を予測し、この動作を繰り返すことで文章を作り出している。
テキスト生成では、直前までの文章をもとに次に続く単語の候補を予測し、その中から一定のランダム性を伴って単語を選択する。ウォーターマークではこの乱数生成器を、特定の処理に差し替える。Anthropicは「鍵とそれより前のいくつかの単語を使用して決定する」と述べ、鍵と直前のいくつかの単語を使って、次の単語を選択する際のランダム性を制御する。
つまり、Anthropicが管理する鍵を使えば、文章中の単語選択に現れる統計的なパターンを調べ、Claudeが文章生成に関与した可能性を検出できる。Anthropicによると、ウォーターマークを確実に除去するには、すべての単語を置き換えるような完全な書き直しが必要になるという。
なお、生成物が短い場合や、選択肢が乏しい条件ではウォーターマークは正常に機能せず、検出は困難になることが示唆された。コードでは正確な出力が求められる部分が多いため、通常の文章に比べてウォーターマークが少なくなる。ただし、コメントなど複数の表現を選択できる部分では適用される場合がある。
EU AI法への対応と適用範囲
導入の背景には「EU AI法（European Artificial Intelligence Act）」がある。同法50条（Article 50）では生成AI事業者に対し、透明性確保を理由とするウォーターマークの実装を次のとおり求めている。
「合成音声、画像、動画、またはテキストコンテンツを生成する汎用AIシステムを含むAIシステムの提供者は、AIシステムの出力が機械可読形式でマークされ、人工的に生成または加工されたものとして識別可能となるように確保しなければならない」
Anthropicは、2026年8月2日以降にEUで提供を開始するClaudeモデルについて、提供開始時から機械可読なマーキングに対応するとしている。それ以前に提供されたモデルについても順次対応を進める。また、マーキングはEU域内に限らず、対応モデルが提供される世界各地で適用する方針だ。
対象はClaude Platform API、Claudeアプリ、Claude Code、Claude Cowork、Claude Tagに加え、AWS、Google Cloud、Microsoft Foundry経由で利用するClaudeにも及ぶ。
画像などの生成物に対しては、テキストとは異なる識別方式が採用された。SVG、PNG、JPGなどには、デジタルコンテンツの作成や編集履歴を記録する業界標準「C2PA」に基づく電子署名付きメタデータを付与する。ただし、フォーマット変換やスクリーンショットなどの操作を行うと、メタデータが失われる可能性がある。
ウォーターマークの導入はAnthropicだけの取り組みではない。Googleは2023年からAI生成画像に導入し、その後テキスト、音声、動画にも対象を広げた。OpenAIもChatGPTやAPIなどで生成する画像にSynthIDを導入し、7月31日には対応する音声にも対象を広げた。
検出の限界と利用者の懸念
一方、ウォーターマークが検出されたからといって、その文章をClaudeが作成したと断定できるわけではない。
人間が書いた文章をClaudeが軽く校正しただけの場合、変更箇所が少ないため、ウォーターマークを検出できないことがある。一方、翻訳のようにClaudeが全文の単語を選択する場合には、元の文章を人間が作成していてもウォーターマークが付与される。
このため、ウォーターマークから分かるのは「Claudeが文章生成に関与した可能性」であり、Claudeが全文を生成したのか、人間が作成した文章を編集・翻訳しただけなのかまでは判別できない。
さらに現時点では、一般利用者が自分の文章からウォーターマークを検出するための仕組みは提供されていない。Anthropicは今後、利用者や第三者向けに検出APIを提供する計画だが、本稿執筆時点では検討段階とされている。
つまり、利用者側から見れば、自分の文章にウォーターマークが付いているかを確認する手段がない一方、第三者による将来の検出対象となる可能性がある。こうした不透明さが、業務利用者を中心とした今回の反発につながったとみられる。
Anthropicは、ウォーターマーク導入後に解約が増えたとの報告は受けていないとし、その影響を否定している。
