読売新聞記事「『人治』不信の国民性 警戒 中国 体制維持へＡＩ規制」（2023年4月28日朝刊8頁、グローバルエコノミー欄）で取材を受けました。
国家インターネット情報弁公室が2023年4月11日に公表し、意見募集（意見提出期限：2023年5月10日）を開始した「生成型AIサービス管理弁法（意見募集稿）」（原文：生成式人工智能服务管理办法（征求意见稿））を取り上げた記事です。
ご参考まで取材時に作成した本弁法案分析メモを下記に掲載します。
１．生成型AIの開発・運用に関し、社会主義核心価値観体現、政権転覆防止、国家分裂や民族対立の扇動防止、フェイク情報生成防止、知的財産保護、不正競争防止、心神・肖像権・名誉・プライバシー等への損害防止（第4条）、ユーザーの過剰依存（第10条）、ユーザーへの持続的利用保障（第14条）、ユーザーの悪用防止（第19条）等極めて多角的な観点から規制を加える世界的に見ても最先端の規制案（記事2段目で採用）。
２．ここ数年で中国共産党・中国政府が急速に導入した、ネット上の世論に影響を与えるサービスに対する一連の規制である「具有舆论属性或社会动员能力的互联网信息服务安全评估规定」（2018年11月15日制定、同30日施行）、世論属性等を有するインターネット情報サービス安全評価規定）、「互联网信息服务算法推荐管理规定」（2021年11月16日制定、2022年3月1日施行、2022年アルゴリズムレコメンデーション管理規定）、「互联网信息服务深度合成管理规定」（2022年11月3日制定、2023年1月10日施行、インターネット情報サービスディープ合成管理規定）等の起草経験に基づき起草。また、それらの規定の適用を生成型AIに拡張する形で事前安全評価・届出・表示規制（第6、16条）、ユーザーの身分情報提供要求（第9条）を義務付け。
３．生成型AIの開発・改良過程（第7条 事前学習、改良学習、第8条 人為的タグ付け（原文：人工标注）等）、利用形態及び影響に関する広範な研究と正確な認識に基づきルールがデザインされている印象（2023年4月30日修正：「自動的タグ付け」を「人為的タグ付け」に修正。「アノテーション」の意味）。
４．タイミングとして2023年3月にChat GPT-4が公開され、世界的に話題となった直後の草案公表という印象があるが、上記の2022年11月のディープ合成管理規定（意見募集稿は2022年1月28日公表）制定後にChat GPTの利用が開始されたことから、その後の展開に対応すべく既に昨年末から起草作業が進んでいた可能性がある。一見すると11月規定と基本的な規制対象は大きく変わらないような印象だが、11月規定がディープフェイクを主な規制対象としており、ユーザーに本物と誤認させることの防止に重点を置いているのに対し、今回の規定案はむしろAIだと分って利用するユーザーに対する影響の管理に重点を置いているように見える。本規定案では「AI生成コンテンツの真実性・正確性」（第4条第4号）が要求されている。また、11月規定にも「学習データ管理」との文言はあったが、本規定案では事前学習データ及び改良学習データの「真実性、正確性、客観性及び多様性の保証」（第7条第4号）とより具体的な要求が導入されている。
５．AIアルゴリズム等の基礎技術の「自主イノベーション・・・を支持」とあり、かつ「安全で信頼可能なソフトウエア、ツール及びデータの優先利用の奨励」も明記（第3条）されていることから、生成型を含むAIを国内で発展させる明確な政策的意思が見える。しかし、本管理弁法は中国共産党中央宣伝部直結の国家インターネット情報弁公室の起草ルールであることから、純粋な国内産業保護・育成政策というより、むしろ世論工作上の要請を中心に起草されていると考えられる。「安全で信頼可能」との用語から外国のソフトやデータで開発・運用された生成型AIは「世論工作上、安全でも信頼可能でもない」との認識が前提となっていると考えられるが、国内の生成型AIに対しても厳格な規制を構成しており、産業育成との色合いは薄い。
６．より具体的には「社会主義核心価値観の体現」義務（第4条第1号）、「学習データの真実性、正確性、客観性、多様性の保証」の要求（第7条第4号）、「ユーザーの選択等に影響を与えるデータソース、アルゴリズム等の必要情報の提供」義務等により、外国企業がサービス提供する生成型AIだけでなく、外国企業が開発し国内企業がサービス提供する生成型AI[1]、国内企業が外国におけるデータを使って開発した生成型AI、国内企業が国内データを使って開発した生成型AIのいずれに対しても裁量的な規制が可能。
７．既存の罰則の適用（第20条第1項）に加え、既存の規定がない場合も警告、命令の権限、罰則の創設（第20条第2項）、苦情申立処理メカニズム、通報等の社会監督（第13、15、18条第2項）で遵守を担保。
なお、記事には上記メモ以外にも取材時の発言を参考に執筆された箇所が含まれます。
規制案に関連して、国家インターネット情報弁公室サイトに掲載された下記の記事も参考になります。
饶高琦（北京语言大学中国语言政策与标准研究所研究员）「规范生成式智能服务，充分释放技术红利」2023年04月17日 光明日报
[1] 「中国当局、チャットGPT停止 アリババやテンセントに指示、体制批判を警戒か」日本経済新聞電子版2023年2月23日2:00。
Fujio Kawashima's Blog 