検索 ≡

AIの用語を、実際に触って確かめて書いています

用語辞典

電子透かし

一言でいうと
コンテンツそのものに出どころなどの情報を埋め込む技術。AIが作ったものを見分ける手段の1つ。

正式名称

英語では digital watermarking と書きます。米国立標準技術研究所(NIST)の報告書「NIST AI 100-4」は、AIが作ったコンテンツへの対策を扱う中で、電子透かしを説明しています[1]。

何をする仕組みか

NISTの報告書は、電子透かしを次のように説明しています(和訳)[1]。

電子透かしとは、画像・テキスト・音声・動画といったコンテンツに情報を埋め込むことで、ふつうは取り除きにくい形で行う

— NIST AI 100-4

同じ報告書によると、透かしの特徴は、情報をコンテンツそのものに書き込む点です。画素や単語などを通じて書き込み、メタデータの欄のような別の経路は使いません[1]。

埋め込む情報の例として、報告書はコンテンツの出どころ、所有者の情報、タイムスタンプ、固有のIDを挙げています[1]。報告書は電子透かしを、メタデータの記録と並ぶ、出どころを記録する手法の1つに位置づけています[1]。

見える透かしと見えない透かし

NISTの報告書は、透かしを2種類に分けて説明しています[1]。

  • 見える透かし:受け取った人が直接とらえられるもの。例は、画像や動画に重ねた半透明のロゴです[1]。ストックフォトの見本に出る透かしも、よく知られた使い方として挙がっています[1]。
  • 見えない透かし:コンテンツにわずかな変化を加えて入れるもの。人には気づきにくく、機械が読み取ります[1]。

見えない透かしは、検出器で見つける必要があります。報告書は、検出器には誤検出と見逃しがゼロではない確率で起きると書いています[1]。誤検出は「無いのに検出する」、見逃しは「有るのに検出しない」ことです[1]。

生成AIとの関係

総務省『令和6年版 情報通信白書』は、生成AIによる著作権などの侵害への対策の文脈で、技術面の取組を挙げています。その1つが「生成AI生成物であることの表示を可能とする電子透かしの実用化」です[3]。

総務省・経済産業省の『AI事業者ガイドライン(第1.1版)』には、次の項目があります[2]。

技術的に可能な場合は、電子透かしやその他の技術等、AI 利用者及び業務外利用者が、AI が生成したコンテンツを識別できるようにするための、信頼できるコンテンツ認証及び来歴のメカニズムを開発し、導入する

— AI事業者ガイドライン(第1.1版)

製品の例が、GoogleのSynthIDです。同社の開発者向けドキュメントは「SynthID は、Google DeepMind のテクノロジーです。」と説明しています[4]。AIが作った画像・音声・テキスト・動画に透かしを直接埋め込み、識別する仕組みです[4]。

よくある誤解

「透かしがあれば、AIが作ったかどうかを確実に見分けられる」わけではありません。

GoogleはSynthIDのテキスト向け機能について、「ウォーターマークの検出は確率的です」と書いています[4]。AIが作った文章を徹底的に書き換えたり、別の言語に翻訳したりすると、判定の信頼度が大きく下がる可能性があるとも説明しています[4]。

NISTの報告書は、出どころを記録・表示する手法全般について、信頼性に役立つことはあっても保証はしないと書いています[1]。場合によっては信頼性を損なうこともある、としています[1]。

たとえるなら

手紙の隅に、特別なインクで小さな印を押しておくようなものです。ふつうに読む分には気づきませんが、専用のライトで照らすと印が浮かびます。ただ、手紙を丸ごと書き写されると、印は写しには残りません。

出典

  1. 米国立標準技術研究所(NIST)「NIST AI 100-4 Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency」
  2. 総務省・経済産業省『AI事業者ガイドライン(第1.1版)』
  3. 総務省『令和6年版 情報通信白書』第4章第1節
  4. Google AI for Developers「SynthID: 透かしを入れて LLM で生成されたテキストを検出するためのツール」

出典

4件
  1. 米国立標準技術研究所(NIST)「NIST AI 100-4 Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency」nvlpubs.nist.gov
  2. 総務省・経済産業省『AI事業者ガイドライン(第1.1版)』soumu.go.jp
  3. 総務省『令和6年版 情報通信白書』第4章第1節soumu.go.jp
  4. Google AI for Developers「SynthID: 透かしを入れて LLM で生成されたテキストを検出するためのツール」ai.google.dev

次に読む

用語

クローラー

Webのページを自動で巡回して集めるプログラム。検索エンジンの索引づくりなどに使われる。

用語

ブラウザ

Webのページを取ってきて表示するソフトウェア。Chrome や Safari など。

用語

サーバー

ネットワークの上で、頼まれた情報やサービスを返す側。頼む側はクライアントと呼ぶ。

こういう用語を週1回まとめて