浅井敏雄[1]
近時、Chat GPTをはじめ、いわゆる生成AIの驚異的性能が注目されるとともに、その利用に伴う正確性・安全性・著作権・個人情報・秘密情報等に関する問題にいかに対応するかが世界中で議論されている。この問題に関し、中国では、2023年4月11日に、国家インターネット情報弁公室(CAC)が、「生成系人工知能サービス管理弁法意見募集稿」[2]（以下「意見募集稿」）を公表し、国家政権転覆等のコンテンツ生成禁止等、その中国特有の内容が注目されていたところ、2023年7月10日、CAC等中央7部門（省庁）は、共同で、「生成人工知能サービス管理暫定弁法（生成式人工智能服务管理暂行办法）」[3](以下「本弁法」)を制定・公布した。本弁法は2023年8月15日施行される（弁法24条）。生成AIに対する国家政策・規制の在り方についてはEUのAI規則案等、国際的な議論が続いているところ、中国は他国に先駆けてAI規制を導入したが、その内容は国家安全の確保等、中国独特である。以下、本弁法の内容を紹介し解説する。（本稿のPDFはこちら）| 【目 次】 (各箇所をクリックすると該当箇所にジャンプします) 1 法目的・根拠法 2 定義・適用範囲 3 規制の原則 4 サービス提供の原則 5 国の責務 6 サービス提供者の一般的義務 7 生成AI開発上の義務：訓練データラベル付けに関する義務 8 生成AIサービス提供上の義務 9 世論属性サービスの安全評価および届出 10 苦情申立・通報制度／監督検査／処罰・法的責任 11 その他 |
1 法目的・根拠法
本弁法は、生成系人工知能の健全な発展と規範に従った利用を促進し、国家の安全と社会公共の利益を保護し、公民、法人その他の組織の合法的権益を保護するため、中国サイバーセキュリティ法、中国データセキュリティ法、中国個人情報保護法、中国科学技術進歩法、その他の法律・行政法規に基づき制定される（1）。【解 説】
意見募集稿に比べ「中国科学技術進歩法」も追加され、技術進歩への配慮も強調された（後記3の通り、「発展と安全の同等の重視」も明記）。なお、本弁法の名称に「暫定（暂行）」があるのは、生成AIは今までにないものなので、中国政府としても、とりあえず本弁法を制定したが、その内容は将来変更の必要があるかもしれないと考えたからであろう。2 定義・適用範囲
本弁法は、生成系人工知能技術を利用し、中国境内[本土内]の公衆に対し、テキスト、画像、音声、動画（ビデオ）等のコンテンツを生成するサービス（以下「生成系人工知能サービス」）を提供することに対し適用される(2条1項)。本弁法は、中国境内の公衆に生成式人工知能サービスを提供しない場合には適用されない(2条3項)。 生成系人工知能技術とは、テキスト、画像、音声、動画等のコンテンツを生成する能力を有するモデルおよび関連技術を意味する(22条1項)。 [本弁法による規制を受ける]生成系人工知能サービスの提供者（「提供者」）とは、生成系人工知能技術を利用して生成系人工知能サービスの提供（プログラム可能なインターフェース等の提供による生成系人工知能サービスの提供を含む）を行う組織または個人を意味する(22条2項, 7条)。 中国境外[本土外]から境内[本土内]に提供される生成系人工知能サービスが、法律・行政法規および本弁法の規定に従っていない場合、国家ネットワーク情報部門[CAC]は、技術的その他の必要な措置を講じるよう、関係機関に通知しなければならない（20条）。 国が、新聞（ニュース）・出版、映画・テレビ制作、文学・芸術創作等の活動のための生成系人工知能サービスの利用について他の規定を定めている場合には、当該規定を適用する(2条2項)。【解 説】
「生成系人工知能サービス」としては、典型的にはChatGPT、Midjourney等の最近の高度生成AIが想定されているであろうが、上記の「生成系人工知能技術」の定義から、「生成系人工知能サービス」には、従来のチャットボット、単なる画像加工等のアプリ等も含まれる可能性がある（このように広く定義されている理由は、おそらく規制当局の観点から取りこぼしのないようにということであろう）。従って、これらのサービスの提供者も本弁法の適用を受ける可能性に留意しなければならない。 「中国境内[本土内]の公衆に対する」サービスであるから、中国境外（本土外）向けのサービス提供には適用されないが、中国境外（本土外）から中国境内（本土内）に提供される生成系人工知能サービスには本弁法が適用され、それを前提として、そのサービスに係る法令違反に対し、技術的措置（例えば外国サービスのブロッキング）、提供者入国時の処罰等が想定されていると思われる。 本弁法は、生成系人工知能サービスの提供者（「提供者」）を規制するが、この提供者には、「プログラム可能なインターフェース等」（例：API）の提供による提供を含むとされているから、生成AIの開発・提供元である提供者だけでなく、他人（開発・提供元）が開発・提供する生成AIを、API等を介してそのまままたは加工等して提供する者(以下「再提供業者」)も規制される。 「公衆」を不特定多数の社会一般の人々の意味と解すると、企業に限定して提供するサービスには適用されない可能性がある。 「公衆に生成式人工知能サービスを提供しない場合には適用されない」としたのは、公衆への提供については本弁法により厳格に規制するが、公衆に提供しない限り（例えば、自社内または企業間だけでの開発・利用の場合）、厳格に規制することなく、生成AIの開発を促進するということであろう。 新聞（ニュース）・出版等向けサービスに関し別途規制の可能性が示唆されているが、これは、これら分野向けに関してはより強力な言論統制等が必要と中国政府が認識しているからではないか。3 規制の原則
国は、発展と安全の同等の重視およびイノベーション推進と法による統治（ガバナンス）の結合原則を堅持し、生成系人工知能のイノベーションと発展を奨励するための効果的措置を講じ、生成系人工知能サービスに対し寛容的(包容)かつ慎重な分類・等級付け[分级]監督を実施する(3条)。【解 説】
上記は、意見募集稿にはなく新たに追加された規定である。意見募集稿が規制に重点を置いていたのに対し、本弁法では、産業推進・国際競争力強化等の観点から、「発展と安全の同等の重視」等、生成AIサービスの規制と産業推進のバランスも図ろうとしているように思われる。 また、「分類・等級付け[分级]監督」から、中国サイバーセキュリティ法(21条)におけるネットワーク安全等級保護制度のような等級別規制が想定されているように思われ、そうだとすれば、同法に関してと同様、今後、関連の行政法規・国家標準が続々と制定される可能性がある（実際、CACが「分類や等級付けの規制規則・指針を策定する」方針であることが報じられている[4]）。4 サービス提供の原則
生成系人工知能サービスの提供と利用は、法律・行政法規を遵守し、社会道徳・倫理を尊重し、かつ、以下を遵守しなければならない(4条)。 (1) 社会主義の核心的価値観を堅持するものとし、国家政権転覆・社会主義体制転覆を煽動し、国家の安全・利益に危害を与え、国家イメージを損ない、国家分裂を煽動し、国家統一・社会安定を破壊し、テロ・過激主義を宣伝し、民族憎悪・民族差別・暴力・わいせつポルノ、虚偽有害情報等の法律・行政法規で禁止されているコンテンツを生成してはならない。 (2) アルゴリズムの設計、訓練データの選択、モデルの生成・最適化、サービス提供等の過程において、民族・信仰・国籍・地域・性別・年齢・職業・健康等による差別を防止するための効果的な措置を講じなければならない。 (3) 知的財産権・商業道徳を尊重し、商業秘密[営業秘密]を保護するものとし、アルゴリズム、データ、プラットフォーム等を利用して独占または不正競争をしてはならない。 (4) 他人の合法的権益を尊重し、他人の心身の健康に危害を与え、または他人の肖像権・名誉権・栄誉権・プライバシー権・個人情報権益を侵害してはならない。 (5) そのサービスのタイプの特性に基づき、生成系人工知能サービスの透明性を向上させ、生成コンテンツの正確性と信頼性を向上させるための効果的な措置を講じなければならない。【解 説】
【本条の義務主体】例えば第7条では、「提供者は、」として義務主体が明示されているが、本条では明示されていない。しかし、内容からすれば、本条の義務主体は提供者であることは明らかであるように思われる。 【上記(1)：国家政権転覆等のコンテンツ生成禁止】この内容は、中国サイバーセキュリティ法12条2項とほぼ同じである。ChatGPTのような生成AIの出力は利用者の入力に大きく依存し、入力を工夫すれば悪用も可能である[5]。従って、上記(1)の国家政権転覆等のコンテンツ生成禁止に関しては、その遵守のためには強力なフィルタリング機能が必要で、仮に強力なフィルタリング機能を施したとしても、完全な遵守は困難ではないか。 【上記(3)：知的財産権の尊重／上記(4)：個人情報権益等の侵害禁止】ChatGPT等の生成AIの訓練データとしてインターネット上のデータを無差別に収集・利用することについては、他人の著作権・個人情報等の侵害の問題に関し法的な議論がなされている。仮に侵害が成立するとすれば、本弁法上、訓練データとしてインターネット上のデータを無差別に収集・利用することは禁止され、個人情報については本人の同意取得等が要求される結果となる。しかし、本弁法は、前記の通り、「生成系人工知能のイノベーションと発展を奨励」すること（3条）も意図しているので、本条が、本当にそのような結果を意図したものか・現実的かは不明である。 【上記(5)：生成コンテンツの正確性等】意見募集稿(4条4号)では、生成コンテンツは真実かつ正確でなければならないとされていたところ、本弁法では、本サービスの透明性と生成コンテンツの正確性・信頼性を向上させるための効果的な措置を講じなければならないと修正され、必ず正確でなければならないことまでは要求されていない。従って、何とか遵守可能であるようにも見える（このように、本弁法では意見募集稿の非現実的な規定がいくつか修正されている）。5 国の責務
(1) 生成系人工知能技術の各業界・各分野での革新的応用を奨励し、積極的・健全・高品質のコンテンツを生成し、利用場面の最適化を探求し、[生成系人工知能]利用の環境体系（エコシステム）を構築する（5条1項）。 (2) 業界団体・企業・教育科学研究機関・公共文化機関・関係専門機関等が、生成系人工知能技術の革新・データ資源構築・変換応用・リスク防止等において協力することを支援する（5条2項）。 (3) 生成系人工知能のアルゴリズム、フレームワーク、[半導体]チップ、関連ソフトウェアプラットフォーム等の基盤技術の自主革新を奨励し、対等かつ互恵的立場で国際交流・協力を行い、生成系人工知能に関する国際ルールの制定に参画しなければならない（6条1項）。 (4) 生成系人工知能インフラと公共訓練データ資源のプラットフォームの構築を推進しなければならない。コンピューティング資源の共同共有を推進し、コンピューティング資源の利用効率を向上させなければならない。公共データの分類・等級の秩序ある公開開放を推進し、高品質の公共訓練データ資源を拡大しなければならない。安全で信頼性の高い[半導体]チップ、ソフトウェア、ツール、コンピューティング・データ資源の採用を奨励しなければならない。（以上6条2項）。 (5) CAC、および、発展改革、教育、科学技術、工業情報化、公安、ラジオ・テレビ、新聞出版等の各部門[省庁]は、各自の職責に基づき、法令に従い、生成系人工知能サービスに対する管理を強化しなければならない(16条1項)。 (6) 国家の関係主管部門は、生成系人工知能技術の特性および関連産業・分野におけるサービス応用に対し、イノベーションの発展に適合する科学的な監督方法を完備し、相応の分類・等級監督規則またはガイドラインを制定しなければならない(16条2項)。【解 説】
【上記(1)～(4)の行為主体】5条・6条では行為主体が明示されていない。しかし、内容からすれば、両条の行為主体は国（政府）であり、国の責務・政策を規定したものと思われる。 【上記(3)】外国の規制等にも左右されない自主革新を奨励し、また、国際ルールの制定参画により生成AI分野においても中国が世界を主導するということであろう。6 サービス提供者の一般的義務
生成系人工知能サービスの提供者（以下「提供者」）は、法令に従い事前訓練・最適化訓練等の訓練データの処理を行うとともに、以下の事項を遵守しなければならない（7条）。 (1) 出所（来源）が合法的なデータおよび基盤モデルを使用しなければならない。 (2) 知的財産権に関し、他人が法令に従い有する知的財産権を侵害してはならない。 (3) 個人情報に関し、本人の同意取得その他法律・行政法規に定める条件に従わなければならない。 (4) 訓練データの品質を向上させ、訓練データの真実性・正確性・客観性・多様性を強化するための効果的な措置を講じなければならない。 (5) 中国サイバーセキュリティ法、中国データセキュリティ法、中国個人情報保護法等の法律・行政法規その他の関連規定および関係主管部門の関連監督要件に従わなければならない。【解 説】
【上記(1):出所の合法性】意見募集稿（7条1項）では、提供者が事前訓練データと最適化訓練データの出所の適法性について責任を負うものとされていた。しかし、出所の適法性について「責任を負う」とは具体的にいかなることか良く分からないし義務の範囲が広すぎるように思われる。おそらくそのことから、本弁法では、義務の内容を、出所が合法的なデータおよび基盤[生成系人工知能]モデルを使用することに変更したものと思われる。従って、提供者が生成AIの開発・提供元でなく再提供業者である場合には、開発・提供元に出所の合法性（例：データが公共公開のものであること、本人同意があることまたは自ら合成したデータであること等）を確認しまたは契約で保証させること等が必要と思われる。 【上記(2)・(3)】前記4の本弁法4条の解説参照。 【上記(5)】「関係主管部門の関連監督要件」が言及されていることから、今後、関係主管部門、具体的には、本弁法の共同制定部門であるCAC、発展改革、教育、科学技術、工業情報化、公安、ラジオ・テレビ、新聞出版等の各部門から部門規則（省令レベル）が制定・公布されることも予想される。7 生成AI開発上の義務：訓練データラベル付けに関する義務
提供者は、生成系人工知能技術の研究開発において[訓練]データのラベル付け（タグ付け）（标注）を行う場合、以下の事項を遵守しなければならない（8条）。 (1) 本弁法の要件を満たす明確・具体的かつ運用可能なラベル付けのルールを定めなければならない。 (2) データのラベル付けの品質評価およびラベル付けされたコンテンツの正確性のサンプル検証を実施しなければならない。 (3) ラベル付け担当者に対し、法令の尊重・遵守意識を向上させるために必要な研修を行い、ラベル付け担当者が定められた方法でラベル付けを実施するよう監督指導しなければならない。【解 説】
データのラベル付け（またはデータ注釈）は、機械学習モデルを開発する際の前処理段階の一部で、画像、テキストファイル、ビデオ等のロウ（生）データに正確にラベル付けすることにより機械学習モデルに正確な予測（出力）を実現させる[6]。このため、本弁法上、生成AIサービス提供者は、上記のような、ラベル付けルール策定、ラベル付けの品質評価・サンプル検証、従業員研修・指導を行わなければならない。8 生成AIサービス提供上の義務
提供者は、生成系人工知能サービスの提供に際し、以下の義務を負う。 (1) 提供者は、法令に従い、ネットワーク情報コンテンツ生産者としての責任を負い、ネットワーク情報の安全（セキュリティ）義務を履行しなければならない。個人情報に関わる場合、法令に従い個人情報処理者としての責任を負い、個人情報保護義務を履行しなければならない。（以上9条1項） (2) 提供者は、生成系人工知能サービスに登録する利用者（「利用者」）と契約を締結し、双方の権利義務を明確にしなければならない（9条2項）。 (3) 提供者は、そのサービス適用の利用者層・利用場面・用途を明確にして公開し、利用者が生成系人工知能技術を科学的かつ合理的に理解し法令に従い利用するよう指導するとともに、未成年の利用者が生成系人工知能サービスに過度に依存しまたはこれに中毒しならないよう効果的な措置を講じなければならない（10条）。 (4) 提供者は、法令に従い、利用者の入力情報および利用記録を保護する義務を履行するものとし、不必要な個人情報を収集してはならず、利用者の身元を特定できる入力情報・利用記録を違法に保存してはならず、利用者の入力情報・利用記録を違法に他人に提供してはならない（11条1項）。（意見募集稿11条の利用者の入力情報・利用状況に基づくプロファイリング禁止は本弁法では削除） (5) 提供者は、法令に従い、本人からの個人情報の照会閲覧・複写・訂正・補充・削除等の請求を速やかに受理し対応しなければならない（11条2項）。 (6) 提供者は、「インターネット情報サービス深度合成管理規定(互联网信息服务深度合成管理规定)」に従い、画像・動画等の生成コンテンツにマークを付けなければならない（12条）。 (7) 提供者は、利用者の正常な利用を確保するため、安全、安定かつ継続的にサービスを提供しなければならない（13条）。 (8) 提供者は、違法コンテンツを発見した場合、速やかに生成停止・送信停止・消去除去等の対応措置を講じ、モデル最適化訓練等の是正措置(*)を講じ、かつ関係主管部門に報告しなければならない（14条1項）。（(*)については意見募集稿(15条)では「3か月以内」との期限が付いていたが本弁法では削除） (9) 提供者は、利用者が生成系人工知能サービスを利用して違法行為を行っていることを発見した場合、法令に従い、警告・機能制限・サービスの提供停止・終了等の対応措置を講じ、関連記録を保存し、かつ関係主管部門に報告しなければならない（14条2項）。 (10) 提供者は、苦情・通報の仕組みを確立・改善し、容易に苦情・通報することができるポータルを設置し、対応手続・対応期限を公表し、公衆の苦情・通報を適時に受理・処理し、結果をフィードバックしなければならない（15条）。【解 説】
【上記(1)：ネットワーク情報コンテンツ生産者としての責任】「ネットワーク情報コンテンツ生産者（网络信息内容生产者）」の用語は、CACが制定し2020年3月1日施行された「ネットワーク情報コンテンツ環境統治規定（网络信息内容生态治理规定）」[7]に登場し、要旨以下のような責任に関する定めがある。 (a) 法令・公序良俗遵守、国益・公益・他人権益侵害禁止（4条） (b) 習近平の新時代の中国の特色ある社会主義思想の宣伝／中国の特色ある社会主義の正確な解釈等のコンテンツの制作・公開等が奨励されること（5条） (c) 国家の安全に危害を及ぼすコンテンツの制作・公開等の禁止（前記4(1)と同様の内容）（6条） (d) 誇大表現のコンテンツ、ゴシップ・スキャンダル等の好ましくない情報の制作・公開の防止義務（７条） (e) 侮辱・中傷・脅迫・風説流布・他人のプライバシー侵害等による他人権益侵害禁止（21条） (f) トラフィックの偽造・乗っ取りその他ネットワーク環境秩序破壊行為の禁止（23条） (g) 党旗・党章、国旗・国章等の利用による違法マーケティングの禁止(25条） (h) 本規定違反に対する民事責任、刑事責任、関係主管機関による処罰（40条） ChatGPTのような生成AIにより生成されるコンテンツは、利用者の入力に大きく依存するが、本法においては、AIの利用者の責任は直接的には規定されていない。それにもかかわらず、上記の規定によると、生成AIにより生成（出力）されるコンテンツに関する問題については、提供者が、そのコンテンツの生産者としての責任を負うことになるように読める。しかし、それで、果たして現実的・実行可能か否か疑問も生じるところである。しかし、この点からも、提供者としては強力なフィルタリング機能等、出力をコントロールする措置を講じなければならない。 【上記(1)：ネットワーク情報の安全（セキュリティ）義務】中国サイバーセキュリティ法（中华人民共和国网络安全法）[8]第4章（ネットワーク情報の安全）に関連する義務が規定されている。内容としては、本弁法に定めるものと重複しているものが多い。 【上記(1)：個人情報処理者としての責任】中国個人情報保護法（中华人民共和国个人信息保护法）[9]によれば、個人情報処理者は例えば以下のような義務を負う。 (i) 個人情報の安全（セキュリティ）を保障するために必要な措置を講じなければならない（9条）。 (ii) 個人情報の収集・利用・提供その他全ての処理に関し、本人の同意その他法的根拠がなければならない(13条)。 (iii) 個人情報を処理する前に, 本人に対し, 目立つ方法で, 明確かつ理解し易い表現で, 偽りなく, 正確かつ完全に, 処理目的その他所定事項を通知(告知)しなければならない(17条1項)。 (iv) 個人情報を他の個人情報処理者に提供する場合, 本人に対し, 提供先の名称・処理目的等所定事項を通知し, かつ, 本人の個別の同意を得なければならない(23条)。 (v) 個人情報の境外への移転（＊）は、その必要性が真にあり、かつ、所定の条件（安全評価合格、個人情報保護認証取得または標準契約書締結と、個別同意・個人情報保護影響評価等）を満たさなければ禁止される（38条1項）。（＊）例えば、境外から境内へのサービス提供、境内から境外にある生成AIへのアクセス等に伴い移転が生じ得ると思われる。 (vi) 一定の行為（機微個人情報の処理、自動意思決定のための利用、処理委託、他への提供、公開、境外への提供、その他の本人の権益に重大な影響を与える処理）を行う場合、事前に、個人情報保護影響評価を行わなければならない(55条）。 もし、上記義務を厳格に遵守しようとすれば、訓練データとしては、本人に対し事前に生成AI提供に利用すること等所定事項を告知した上同意を得たものしか利用できないように思われる。また、生成AIの出力として特定の個人の個人情報が出力されることが上記(iv)の個人情報の提供とみなされる場合があるとすれば、その個人について事前に通知・同意取得をしておかなければならない。また、個人情報の境外への移転も所定の要件を満たす必要がある。また、生成AIサービスの提供に関しては、個人情報保護影響評価が要求される場合が多いであろう。 【上記(2)：登録利用者との契約】「生成系人工知能サービスに登録する利用者（「利用者」）」の文言だけからは、生成AIサービスを利用するにはアカウント登録等の登録が要求されるのか否か明確でない。しかし、この定義された「利用者」に関し定めている他の規定が「登録」利用者だけに適用されるとは思われないから、生成AIサービスを利用するにはアカウント登録等の登録が要求されるということであろう。従って、提供者は、そのサービスを利用する者に対し、予め登録をさせ、かつ、利用規約への同意をチェックボックスへのチェック等により得ることにより、双方の権利義務を明確にしなければならない。なお、意見募集稿(9条)には、「生成型人工知能サービスの提供においては、中国サイバーセキュリティ法に従い、その利用者に対し真実の身元情報提供を義務付けなければならない」との規定があったが本弁法ではこの規定が削除されている。しかし、中国サイバーセキュリティ法（24条1項）では、ネットワーク運営者(生成AIサービス提供者は当然含まれるであろう)は、情報提供を含むサービスの提供について、利用者と契約を締結する際に、利用者に真実の身分情報(身份信息)を要求しなければならないと規定されている。従って、この削除により、真実の身元情報提供が不要となったのかは不明である。 【上記(3)：利用者層等の公開、利用者への指導、未成年者の過度に依存防止等】提供者は、これを遵守するために、その提供する生成AIサービスに関し、Webサイト等で利用ガイドを提供することや、利用規約中に規定すること等が必要であろう。 【上記(4)：利用者の入力情報・利用記録の保護等】このうち、「利用者の身元を特定できる入力情報・利用記録を違法に保存」すること、および、「利用者の入力情報・利用記録を違法に他人に提供」することに関しては、いかなる保存または提供が「違法」になるのか明確でない。中国サイバーセキュリティ法(21条3号)により、ネットワーク運営者は、ネットワーク・ログ[ここでは生成AIサービスへのアクセス記録]を最低6か月間保存し（更に同28条により公安部・国家安全部による犯罪捜査・国家安全保障活動への協力の一環としてこれを提供し）なければならない。また、上記(8)・(9)の違法コンテンツおよび利用者の違法行為の発見・報告をするにはそのための保存が必要であろう。従って、その保存は違法ではない。とすれば、違法な保存・提供とは、これら以外の保存・提供であって、そのことに関し利用者の同意を得ていないものということであろう。逆に言えば、利用者の入力情報・利用記録の保存・提供（再提供業者から開発・提供元への提供を含む）については、利用登録時に利用規約・プライバシーポリシー等により事前同意を得ておく必要があることになる。 【上記(5)：本人からの個人情報照会閲覧等の請求対応】利用者の身元を特定できる入力情報・利用記録も個人情報に該当するから利用者からの請求に対応しなければならない。 【上記(6)：生成コンテンツに対するマーク付け】「インターネット情報サービス深度合成管理規定(互联网信息服务深度合成管理规定)」(以下「深度合成管理規定」)は、中国国内において深度合成技術[生成合成アルゴリズムを利用して、テキスト・画像・音声・映像・仮想シーン等インターネット情報を生成する技術：23条]を利用してインターネット情報サービスを提供する」行為を適用対象とする（2条）。深度[ディープラーニング]合成サービスの提供者は、サービスを利用して生成・編集された情報コンテンツについてその利用者の利用に影響を与えないよう技術的手段によりマークを付け(16条)、また、音声・顔画像等の合成サービスを提供する場合には、公衆の混同・誤認防止のため生成・編集されたコンテンツに目立つマークを付け、深度合成[物であること]を明示しなければならない（17条）。9 世論属性サービスの安全評価および届出
世論属性または社会動員能力を有する生成系人工知能サービスを提供する場合、国の関係規定に従い安全評価を行い、かつ「インターネット情報サービスアルゴリズム推奨管理規定（互联网信息服务算法推荐管理规定）」に従い、アルゴリズムの届出および変更・取消届出手続を行わなければならない（17条）。【解 説】
【安全評価】上記の「国の関係規定」とは、具体的には、意見募集稿（6条）にあった「世論属性または社会動員能力を有するインターネット情報サービス安全評価規定（具有舆论属性或社会动员能力的互联网信息服务安全评估规定）」（2023年1月10日施行）を指すと思われる。同規定5条では、[フォーラム・ブログ・チャットルーム等の]公衆の世論表明または特定活動に参加する大衆を動員する機能を有する「世論属性または社会動員能力を有するインターネット情報サービス」に関し、同サービスの提供者は、以下の事項に重点を置いて、安全審査を行わなければならないと規定されている。 (a) 安全管理責任者、情報審査人員または安全管理機構の設置状況 (b) 利用者の本人確認・登録情報の保存措置 (c) 利用者のアカウント・操作時間等に関するログ情報および利用者の投稿記録の保存措置 (d) コミュニケーショングループ等のサービス機能における違法・有害情報の防止措置および記録保存措置 (e) 個人情報保護、違法有害情報の拡散・社会動員機能制御不能リスクを防止するための技術的措置 (f) 苦情・通報制度の構築・運用状況 (g) ネットワーク情報部門による監督管理に対する技術・データ関連支援・協力体制の構築状況 (h) 公安部門・国家安全機関による国家安全・犯罪捜査等に対する技術・データ関連支援・協力体制の構築状況。 【アルゴリズムの届出】「インターネット情報サービスアルゴリズム推奨管理規定（互联网信息服务算法推荐管理规定）」(以下「アルゴリズム推奨管理規定」)は、中国境内[本土内]においてアルゴリズム推奨技術 [生成・合成、パーソナライズされた推奨、ソート・選択、検索・フィルタリング、スケジューリング・決定等のアルゴリズム技術]を応用したインターネット情報サービス（「アルゴリズム推奨サービス」）を提供することに適用される（2条）。世論属性または社会動員能力を有するアルゴリズム推奨サービスの提供者は、サービス提供の日から10業務日以内に、インターネット情報サービスアルゴリズム届出システムを通じ、サービス提供者名、サービス形態、応用分野、アルゴリズムの種類、アルゴリズム自己評価報告、公表する内容等の情報を記入し、届出手続を行うものとし、届出情報の変更は、変更日から10業務日以内に変更手続を行わなければならない（24条）。なお、「深度合成管理規定」（19条）でも、世論属性または社会動員能力を有する深度合成サービス提供者は、この「アルゴリズム推奨管理規定」24条に従い届出および変更・取消届出の手続を行わなければならないと規定されている。10 苦情申立・通報制度／監督検査／処罰・法的責任
(1) 利用者は、生成系人工知能サービスが法律・行政法規または本弁法の規定に従っていないと判断した場合、関係主管部門に苦情を申立て、通報する権利を有する（18条）。 (2) 関係主管部門は、その職責に従い、生成系人工知能サービスの監督検査を行うものとし、提供者は、法令に従い協力し、要求に応じ、訓練データの出所、規模、類型、ラベル付けルール、アルゴリズムのメカニズム等について説明し、必要な技術・データその他のサポートと支援を提供しなければならない（19条1項）。生成系人工知能サービスの安全評価および監督検査に携わる関連機関および人員は、法令に従い、職務遂行上知り得た国家秘密、商業秘密、個人のプライバシーおよび個人情報を秘密にしなければならず、これを漏えいしまたは他人に違法に提供してはならない（19条2項）。 (3) 提供者が本弁法の規定に違反した場合、関係主管部門は、「中国サイバーセキュリティ法」、「中国データセキュリティ法」、「中国個人情報保護法」、「中国科学技術進歩法」等の法律・行政法規の規定に基づきこれを処罰しなければならない。法律や行政法規に規定がない場合、関係主管部門は、その職責に基づき、警告を発し、通知・戒告し、一定期間内に是正するよう命じなければならない。是正が拒否されまたは情状が重大な場合には、関係サービスの提供停止を命じなければならない（以上21条1項）。[違反が]治安管理違反行為に該当する場合には、法令に従い、治安管理上の処罰を行い、犯罪に該当する場合には、法令に従い刑事責任を追及する（以上21条2項）【解 説】
【上記(2)：監督検査、技術・データ提供等】意見募集稿(17条)では、より無限定の情報提供義務が規定されていた。しかし、本弁法の規定上も、提供者の最重要秘密情報であるアルゴリズム、ソースコード等に関しどこまで関係主管部門（公安部、国家安全部も含まれる）の開示要求がなされ得るか懸念される。 【上記(3)：「中国サイバーセキュリティ法」等に基づく処罰】「中国サイバーセキュリティ法」等に定めるどの違反行為に該当するかによるが、例えば、「中国個人情報保護法」（66条2項）では、違反行為の情状が重大な場合について、違法所得没収、5,000万元以下または前年売上高の5％以下の罰金、事業停止、営業許可・事業許可取消、責任者（個人）に対する罰金・一定期間の高級管理職等への就任禁止等が規定されている。11 その他
(1) 法律・行政法規が、生成系人工知能サービスの提供について関係する行政許可の取得義務を規定している場合、提供者は、法令に従い許可を取得しなければならない(23条1項)。 (2) 生成系人工知能サービスへの外商投資については、外商投資関係法律・行政法規の規定に従わなくてはならない(23条2項)。以 上
【注】 [1] 【本稿の筆者】UniLaw企業法務研究所代表／IAPP CIPP/E (Certified Information Privacy Professional/Europe) [2] 【「生成系人工知能サービス管理弁法意見募集稿」】 （原文）生成式人工智能服务管理办法（征求意见稿） [3] 【「生成系人工知能サービス管理暫定弁法（生成式人工智能服务管理暂行办法）」】 （英訳）China Law Translate "Interim Measures for the Management of Generative Artificial Intelligence Services" 2023/07/13. 意見募集稿との比較表もある。本稿執筆に当たってはこれらも参考とした。 [4] 【CACの「分類や等級付けの規制規則・指針を策定する」方針】 ロイター「中国、生成ＡＩ産業の暫定規則公表 サービス開始へ前進」2023年7月13日 [5] 【生成AI悪用の可能性】 例えば、吉川 孝志『AI同士が対話して高度なマルウエアをつくり出す、「自律型エージェント」の脅威』2023.07.19、日経XTECH [6] 【[訓練]データのラベル付け（タグ付け）（标注）】 (参考) IBM「データ・ラベリングとは」 [7] 【「ネットワーク情報コンテンツ環境統治規定（网络信息内容生态治理规定）」】 (参考) 山本 賢二「ネットワーク情報コンテンツ環境ガバナンス規定 : 网络信息内容生态治理规定」 ジャーナリズム&メディア : 新聞学研究所紀要 / 日本大学法学部新聞学研究所 編 (16):2021.3 p.49-75. P,60-68に規定全文の和訳がある。 [8] 【中国サイバーセキュリティ法（中华人民共和国网络安全法）】 （和訳）ジェトロ掲載の(北京市)大地法律事務所仮訳：「ネットワーク安全法」 [9] 【中国個人情報保護法（中华人民共和国个人信息保护法）】 （和訳）Miura & Partners 『中国最新法令UPDATE Vol.4：「中国個人情報保護法」の全文和訳』September 5 2021, Lexology