浅井敏雄[1]
近時, Chat GPT, Midjourney等, 生成AIの驚異的性能が注目されるとともに, 本物と区別できないディープフェイク等の問題が懸念され, これに対する対策の一つとして, AI 生成物であることを明示する取組が世界的に提案されている。 例えば, 2023年10月30日の「広島AIプロセスに関するG7首脳声明」では, AI開発者に対し, 「技術的に可能な場合は, 電子透かし(watermarking)やその他の技術等, ユーザーがAIが生成したコンテンツを識別できるようにするための, 信頼できるコンテンツ認証及び来歴のメカニズムを開発し, 導入する」という原則(国際指針7, 国際行動規範7)の遵守を求めている。 また, 同日付の米国の「AIの安全, 安心, 信頼できる開発と利用に関する大統領令」[2]では, 関係省庁に対し, AIが生成した合成コンテンツ[3]について以下の事項を命じている。(1) コンテンツの認証とその出所・由来の追跡, 透かし(watermarking)[4]等による合成コンテンツのラベリング, 合成コンテンツの検出等に関する基準・技術等について報告書を作成すること(4.5(a)), (2)コンテンツ認証と合成コンテンツ検出に関するガイダンスを策定すること(4.5(b)), (3) [今後作成すべき]連邦政府によるAI利用についてのガイダンスに, 生成AIからの出力に透かしその他のラベルを付けるための合理的な措置を講ずべき旨を明記すること(10.1(b)(C))。 米国に並ぶ生成AI大国になると思われる中国においても, 近時の法令等で, ラベリング等AI 生成物であることを明示する取組について規定されており, 本稿では, その概要を解説する。なお, 本稿において, [ ]内は筆者による補足である。|
【目 次】 (各箇所をクリックすると該当箇所にジャンプ) |
1. AI関連三法における関連規定
(1) AI関連三法 中国においては, AIに関し, 近時以下の3つの行政法規(以下「AI関連三法」)が制定されている。各法の適用範囲は, それぞれ以下の通りであるが, いずれも生成AIに適用され得る。 1) 「インターネット情報サービスアルゴリズム推奨管理規定」(互联网信息服务算法推荐管理规定)(2022年3月1日施行)(以下「アルゴリズム推奨管理規定」)(英訳：DIGICHINA) 【適用範囲】本規定は, 中国境内[本土内]において, アルゴリズム推奨技術を利用したインターネット情報サービス(以下「アルゴリズム推奨サービス」)を提供する場合に適用する(2条1項)。アルゴリズム推奨技術の利用とは, 生成・合成型, 個別的推奨型, ランキング・選定型, 検索フィルタリング型, スケジューリング・意思決定型等のアルゴリズム技術を利用し, 利用者に情報を提供することを意味する(2条2項)。 2) 「インターネット情報サービス深度合成管理規定」(互联网信息服务深度合成管理规定)(2023年1月10日施行)(以下「深度合成管理規定」) 【適用範囲】本規定は, 中国境内[本土内]において, 深度合成技術を応用してインターネット情報サービス(以下「深度合成サービス」)を提供する場合に適用する(2条)。 深度合成技術とは, 深層学習(ディープラーニング), 仮想現実等の生成合成型アルゴリズムを利用して, テキスト, 画像, 音声, ビデオ, 仮想シーン等のネットワーク情報を生成する技術を意味する(23条)。 3) 「生成式人工知能サービス管理暫定弁法」(生成式人工智能服务管理暂行办法)[5](2023年8月15日施行)(以下「管理暫定弁法」) 【適用範囲】本弁法は, 生成式人工知能技術を利用し, 中国境内[本土内]の公衆に対し, テキスト, 画像, 音声, 動画(ビデオ)等のコンテンツを生成するサービス(以下「生成式人工知能サービス」)を提供することに対し適用される(2条1項)。生成式人工知能技術とは, テキスト・画像・音声・動画等のコンテンツを生成する能力を有するモデルおよび関連技術を意味する(22条1項)。 (2) AI関連三法における関連規定 AI関連三法には, AI 生成物であることを明示する取組に関連し以下のような規定がある。 ① アルゴリズム推奨管理規定上の関連規定 アルゴリズム推奨サービス提供者は, ...アルゴリズムにより生成された合成情報に, 目立つラベル／マーク(「标识」。以下「ラベル」または「ラベリング」)がないことを発見した場合, 目立つラベルを付けなければ, その送信を継続してはならない(9条１項)。(注)「标识」：標記する・目印を付けるの意味。英訳はlabelingまたはmarkingであろう。 ② 深度合成管理規定上のAI生成物明示関連規定 深度合成サービス提供者は, 当該サービスを利用して生成または編集した情報コンテンツに, 利用者の利用に影響を与えない範囲でラベルを付す技術的措置を講じ, かつ, 法律・行政法規・国の関連規定に従いログ情報を保存しなければならない(16条)。 深度合成サービス提供者は, 以下の深度合成サービスを提供し公衆の混同または誤認を生じさせるおそれがある場合, 生成または編集された情報コンテンツの合理的な位置・領域に目立つラベルを付して公衆に深度合成の状況を知らせなければならない(17条1項)。 (a) 知的対話, 知的文章作成等, 自然人を模倣して文字を生成しまたは編集するサービス (b) 人の声・音等の音声を合成生成し, または個人識別特性を著しく改変する編集サービス； (c) 顔生成・顔置換・顔操作・姿勢操作等, 人物の画像・ビデオを生成しまたは個人識別特性を大幅改変する編集サービス (d) 没入型擬似シーン等を生成または編集するサービス (e) その他情報の内容を生成または著しく改変する機能を有するサービス。 深度合成サービス提供者は, 前項に規定するもの以外の深度合成サービスを提供する場合, [深度合成サービス利用者に]目立つラベルを付す機能を提供し, かつ, 深度合成サービス利用者に目立つラベル付けをすることができることを知らせなければならない(17条2項)。 如何なる組織・個人も, 技術的手段を用いて上記深度合成ラベルを消去・改ざん・隠匿してはならない(18条)。 ③ 管理暫定弁法上のAI生成物明示関連規定 生成式人工知能サービス提供者は, 深度合成管理規定に従い, 画像・動画等の生成コンテンツにラベルを付けなければならない(12条)(*)。2. ラベリング実践ガイドにおける関連規定
全国情報安全標準化技術委員会(TC260)は, 2023年8月25日に「ネットワーク安全標準実践ガイド-生成式人工知能サービスのコンテンツのラベリング方法」(TC260-PG-20233A 网络安全标准实践指南—生成式人工智能服务内容标识方法(v1.0-202308))(「実践ガイド」)[6]を公表した。以下に実践ガイドの概要を示す。 (1) 実践ガイドの制定・適用範囲等 実践ガイドは, TC260事務局が制定・公表した標準関連技術文書で, 管理暫定弁法の生成コンテンツのラベリング要件[前記(*)]を実装するものであり, 生成式人工知能サービス提供者等が生成コンテンツのラベリングを適切に行うよう指導する目的で, 文書(テキスト), 画像, オーディオ(「音频」：声・音), 動画(「视频」：ビデオ)の4種類の生成コンテンツのラベリング方法を示す。実践ガイドは, 生成式人工知能サービス提供者がこれら生成コンテンツを公衆に提供する際のラベリングに適用される。 (2) 可視的透かしラベルと不可視的透かしラベル 可視的透かしラベル(「显式水印标识」)とはインタラクティブインターフェースまたは背景に追加される半透明の文字(テキスト)を意味する。可視的透かしラベルは, 文書パターン分布密度・表示パラメータ等の調整により, 通常の利用には影響を及ばさず, しかし, 透明度を90％に設定すること等により, 明確に見分けることができるものでなければならない。(2.1) 不可視的透かしラベル(「隐式水印标识」)とは, 画像[以下, 「画像」には「文書(テキスト)」も含まれると思われる], オーディオまたは動画の生成コンテンツを加工することにより付加されるラベルで, 人間が直接知覚することはできないが, 技術的手段により当該生成コンテンツから検出・抽出できるものを意味する。(2.2) (3) AI生成物表示領域でのラベリング(3.1) 生成コンテンツが表示(出力)される領域の下または利用者による入力領域の下に, 「人工知能により生成」または「AIにより生成」等の情報を含む告知(「提示」：指摘する・教える)文を継続的に表示する。または, 表示領域の背景に告知文を含む可視的透かしを均等に追加する。 (4) 画像・動画への告知文でのラベリング(3.2) 画像または動画の生成コンテンツについては, 告知文は, 画像・動画の画面内, できれば画面の隅に配置する。告知文は, その占める面積が画面の0.3％以上かまたはその高さが20ピクセル以上でなければならない。 (5) 画像・動画・オーディオへの不可視的透かしでのラベリング(3.3) 画像・動画・オーディオの生成コンテンツには, 以下の方法で不可視的透かしラベルも追加しなければならない。不可視的透かしラベルには, 少なくともサービス提供者の名称を含めなければならないが, コンテンツ ID(サービス提供者が生成コンテンツに割り当てる一意の番号)等の他の内容を含めてもよい。 a) 画像の不可視的透かしラベルは, 空間領域透かし(空域水印)または変換領域透かし(变换域水印)により実現する。[7]不可視的透かしが付けられたオリジナルの生成画像は, 少なくとも384×384ピクセル解像度の任意連続50%以上の面積に完全なラベリング情報[サービス提供者の名称, コンテンツ ID, +「AIにより生成」?]が含まれなければならない。 b) 動画の不可視的透かしラベルは, 時空領域透かし(时空域水印)または変換領域透かし(变换域水印)により実現する。不可視的透かしラベルを含むオリジナル生成動画について, 任意連続5秒以上の動画コンテンツに完全なラベリング情報が含まれなければならない。 c) オーディオの不可視的透かしは, 時間領域透かし(时域水印)または変換領域透かしにより実現し, 不可視的透かしが付けられたオリジナルの生成オーディオについて, 任意連続10秒以上のオーディオコンテンツに完全なラベリング情報が含まれなければならない。 d) サービス提供者は, そのサービスにより生成されるコンテンツから不可視的透かしラベルを検出・抽出するためのインターフェースまたはツールを備えなければならない。 (6) 出力ファイルのメタデータでのラベリング(3.4) 画像・動画・オーディオの生成コンテンツの出力ファイルのメタデータにラベリングのための拡張フィールドを追加し, そこに, 以下の形式でサービス提供者名, コンテンツ生成時刻, コンテンツID等の情報を含めなければならない。AIGC：{"ServiceProvider": value1, "Time": value2，"ContentID"：value3}
(注1)サービス提供者名(ServiceProvider), その値value1のタイプは文字列で32文字以下。
(注2)コンテンツ生成時刻(Time), その値value2のタイプは文字列, ミリ秒単位の精度, 時間形式はyyyy-MM-dd HH:mm:ss.SSS。
(注3)コンテンツID(ContentID), その値value3のタイプは文字列で32文字以下。
(7)人によるサービスからAIによるサービスへの移行場面での混乱防止ラベリング(3.5) 自然人が提供するサービスから人工知能が提供するサービスに移行する場合に利用者が混乱する可能性があるときは, 「人工知能があなたにサービスを提供する」または「AIがあなたにサービスを提供する」等の告知文または告知音声によりラベリングしなければならない。3. 安全基本要求(案)における関連規定
全国情報安全標準化技術委員会(TC260)は, 2023年10月11日に「生成式人工知能サービス安全基本要求(意見募集稿)」(生成式人工智能服务安全基本要求(征求意见稿))(以下「安全基本要求(案)」)[8]を公表し同月25日までの期限で意見募集した。 安全基本要求(案)は, 管理暫定弁法に従い, 同弁法に定める生成式人工知能サービスの提供者が従うべき安全基本要件を規定するものであるが, その「7 安全措置の要求」のd)に以下のような要件が規定されている。 「画像, 動画等のコンテンツのラベリングについては, 実践ガイドに従い以下のラベリングを行わなければならない： 1) 表示領域でのラベリング； 2) 画像・動画への告知文字でのラベリング； 3) 画像・動画・オーディオへの不可視的透かしでのラベリング； 4) ファイルのメタデータでのラベリング； 5) 特殊サービス場面でのラベリング。」以 上
【注】 [1] 【本稿の筆者】UniLaw企業法務研究所代表 [2] 【AIに関する米大統領令】 “Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence”. (参考) 塚本宏達, 殿村桂司, 今野由紀子, 丸田颯人(共著)「AIに関する米国大統領令の公表と日本企業への影響」2023年11月, NO&T Technology Law Update テクノロジー法ニュースレター No. 43／NO&T U.S. Law Update 米国最新法律情報 No.105 [3] 【合成コンテンツ】「合成コンテンツ」(synthetic content)とは, 画像, 動画, オーディオクリップ, テキスト等, AI を含むアルゴリズムにより大幅に改変または生成された情報を意味する(大統領令3(ee))。 [4] 【透かし】「透かし」(watermarking)とは, [AIからの]出力の真正性(authenticity)または出所・由来(provenance), 改変もしくは伝達(conveyance)の同一性もしくは特性を検証する目的で, 写真, ビデオ, 音声クリップまたはテキスト等の出力を含め, AIにより創出された出力に一般的に除去が困難な情報を埋め込む行為を意味する(大統領令3(gg))。 [5] 【「生成系人工知能サービス管理暫定弁法(生成式人工智能服务管理暂行办法)」】 (英訳)China Law Translate "Interim Measures for the Management of Generative Artificial Intelligence Services" 2023/07/13. (参考) 浅井敏雄「中国「生成人工知能サービス管理暫定弁法」の制定とその解説」2023/07/21, パソナ。 [6] 【実践ガイド】 (参考) Xuezi Dan & Yan Luo “Labeling of AI Generated Content: New Guidelines Released in China” August 31, 2023, Covington & Burling LLP. [7] 【透かし】 (参考) Wikipedia「電子透かし」：「電子透かしには知覚可能型と知覚困難型の2つがある...」. 棟安 実治「情報伝達のための電子透かし技術―印刷画像への情報埋込」電子情報通信学会 基礎・境界ソサイエティ Fundamentals Review 2008年 2巻 2号 p.53-62：「電子透かしは, 人間の視覚的特性を利用して知覚されにくい形で画像を変形することにより, 何らかのデータを埋め込む技術である. 手法の分類法には様々な見方があるが,ここでは空間領域利用型と周波数領域利用型の2種類に分けて考えることにする. 空間領域利用型は画素値を直接加工して意味を持たせる方法であり, 周波数領域利用型はいったん周波数領域に変換してから周波数領域でその係数を変更することにより意味を持たせる方法である.」(p.54) [8] 【安全基本要求(案)】 (参考) AnJie Broad Law Firm - Samuel Yang, Chris Fung and Bill Zhou "China Proposes National Standards on Generative AI Security" November 2 2023, Lexology