AI生成の証拠「透かし」がユーザー追跡の「スパイマーク」と化している

近年よく目にするようになった「ウォーターマーク」という言葉はメディアが本物であることを確認したりメディアの所有権を主張したりするために用いられる可視の「透かし」を指します。しかし、AIを用いて画像・動画制作ソフトを開発するArtCraftの創業者であるブランドン・トーマス氏は、よく似た別物として我々の知らないうちにデジタルコンテンツを追跡可能にする「スパイマーク」と呼ぶべき新たな技術が登場しているとし、スパイマークによってプライバシーが侵害される恐れがあるとの懸念を表明しています。

Spymarks, not Watermarks - brand
https://brand.io/article/spymarks/

スパイマークは物理的またはデジタル媒体に埋め込まれた、目に見えない追跡信号です。ユーザーの知らないうちに、あるいは同意なしに、コンテンツの利用状況を追跡することを目的としています。スパイマークは単なる目に見えるウォーターマークとは異なり、プライバシーを侵害する可能性のある追跡メカニズムを内包しています。

本来の「ウォーターマーク」という言葉は歴史的に、「真正性を証明する印」「紙幣のセキュリティ機能」「著作権表示」といった悪意のない目的で使われてきました。しかし近年では隠された追跡信号としての意味合いも強くなり、プライバシーリスクが曖昧になりつつあります。「スパイマーク(Spymark)」という新しい言葉を用いるのは、プライバシーリスクという問題の存在を明確にし、プライバシーへの懸念を前面に出す目的があります。「Spy」は秘密の監視や非自発的な開示を、「mark」は埋め込まれた信号を意味するため、言葉を変更することにより「友好的なウォーターマーク」と「プライバシーリスクが懸念される新技術」を区別し、プライバシーへの懸念を言葉自体に組み込むことができるというわけです。トーマス氏は「スパイマーク」という名前を与えた理由について一言で「スパイマークはプライバシーのルンペルシュティルツヒェンである」と述べています。

GoogleのSynthIDは画像・音声・テキスト・ビデオに「人間には感知できない」秘密の隠し信号を埋め込むスパイマークの一例です。隠し信号にはユーザーの身元情報(氏名・IPアドレス・生年月日・住所・所属政党など)に対応するデータベース識別子をエンコードすることができます。SynthIDの画像用変種であるSynthID-Oは、512x512ピクセルの画像に64ビットのデータベース識別子とエラー訂正用の72ビットを格納できる容量を持ちます。

SynthIDに限らず、OpenAIをはじめとする多くのテクノロジー企業もAI生成コンテンツの識別を目的としたスパイマークシステムを開発しており、機能的に単純なウォーターマーキングを超えた堅牢な追跡メカニズムを備えています。ソーシャルメディア・コンテンツ制作ツール・スマートフォンなどにスパイマークアルゴリズムが搭載され、ユーザーが公開するあらゆるものにスパイマークが埋め込まれる可能性は十分考えられます。

スパイマークの例として、画像の場合は周波数領域での不可視な変更により、ユーザーにリンクされたデータベースIDなどの追跡情報を運ぶことができます。オリジナルとスパイマーク入りの画像を比較できるようにしてみましたが、目で見ても違いはわかりません。

しかし実際には以下のように差分、すなわちスパイマークが仕込まれています。

スパイマークは「メタデータ」の一種であるともいえますが、ユーザーが存在を知ることや制御することに対して制限があり、目的がユーザーにとって完全に敵対的なものである点は明確な差異と言えます。画像のEXIFタグやMP3ファイルのID3タグといった一般的なメタデータは標準化されており検査・編集・削除が可能であるという特徴があります。

一方、スパイマーク信号はメディアの深層に埋め込まれており、ユーザーからは見えずファイル編集後も残存する可能性があります。さらに、スパイマークはファイルに関する有用な情報を提供するのではなく、ユーザーにとって不透明で無用な追跡識別子をエンコードします。スパイマーク信号はメタデータの削除や一部の編集でも消えることはないため、埋め込まれたファイルは追跡可能であり続けます。

スパイマークは、内部告発者や自身の発言や所属のために迫害されたくない人々にとって特に深刻な問題となります。すべてのデバイスやソーシャルメディア投稿が認証されスパイマークが付与される未来は、ファイルや投稿が追跡可能になりコンテンツの拡散経路を容易に再構築できるようになることを意味します。つまり、特定の個人や「危険な思想」の拡散経路を追跡することが容易になり、ジョージ・オーウェルの「1984年」で描かれた監視社会のようなディストピアに近づく可能性があります。

スパイマークの問題に対処するためには、スパイマークの実態を正確に認識すること、すなわち「あなたとあなたが関わるすべての人々をスパイするために使用されるスパイツール」として認識することが重要である、とトーマスは述べています。