中国における「生成型AIサービス管理弁法（意見募集稿）」の発表について

中国における「生成型AIサービス管理弁法（意見募集稿）」の発表についてニュースレターを発行いたしました。
PDF版は以下からご確認ください。

→中国「生成型AIサービス管理弁法（意見募集稿）」の発表

中国「生成型AIサービス管理弁法（意見募集稿）」の発表

2023年4月
One Asia Lawyers Group
中国大湾区プラクティスチーム

1．はじめに

　生成型AIサービスは、人々の生活やビジネスにおける生産性に大きな変化をもたらす一方で、アルゴリズムの偏りや情報漏洩、コンテンツの改ざんなどのセキュリティリスクも存在し、また、過去の経験からは導くことができない想定外の権利侵害その他の危険が発生する可能性も指摘されており、世界各国の政府が一定の枠組み作りに動き始めています[1]。

　このような情勢において、中国の国家インターネット情報弁公室（国家互联网信息办公室）は、2023年4月11日、「生成型AIサービス」に関する枠組みを示す「生成型AIサービス管理弁法（意見募集稿）」（以下、単に「意見募集稿」）を発表しました[2]。これは、中国におけるいわゆる「データ3法」（「ネットワーク安全（サイバーセキュリティ）法」[3]、「データセキュリティ法」[4]及び「個人情報保護法」[5]）の下位法令という位置づけとなっています（「意見募集稿」第1条）。

2．中国政府の基本的スタンス

　「意見募集稿」においては、「生成型AI」を「アルゴリズム、モデル及びルールに基づいてテキスト、画像、音声、映像、コード等のコンテンツを生成する技術」であると定義づけています（第2条第2項）。この点、中国国内では基本的には利用可能ではない状況ですが、近時、大きな話題となり活用が進んでいる「ChatGPT」もこの定義に該当すると言えます。

　そして第3条においては、「国は、AIアルゴリズム、フレームワーク等の基礎技術の自主的な革新、普及及び応用並びに国際協力を支持し、安全かつ信頼できるソフトウェア、ツール、コンピューティング及びデータ資源の優先的な利用を奨励する。」と規定しており、基本的には、生成型AIの正当な発展・有効な利用に対してポジティブな態度をとっていることが伺われます。

3．生成型AIサービスが具備すべき要件

　一方で、生成型AIにおいては、その利用の仕方によっては国家機密や重要な個人情報が容易に漏洩するといった重大なセキュリティリスクや、不正確な情報をいかにも説得力のある表現で提供するケースも少なくないなど、特に、回答の真偽やメリットを判断できない場合等には、ユーザーを誤った方向に導いてしまう危険性が存在している状況とも言えます。また、自殺の仕方や化学兵器の作り方等といった、潜在的に重大な結果をもたらす質問に答えることもできてしまいます。

　そこで、このような「濫用」を規制し、生成型AIの安全な利用を図るため、「意見募集稿」第4条においては、「法律の遵守」「社会道徳及び公序良俗の尊重」といった抽象的な要件のほか、生成型AIサービスの提供にあたっては次の要件を満たすべきものとされています。

　(1) 生成型AIを用いて生成されるコンテンツは、社会主義の核心的価値を体現しなければならず、国家権力の転覆、社会主義体制の転覆、国家分裂の扇動、国民統合の阻害、テロリズム、過激主義の促進、民族憎悪、民族差別、暴力、わいせつ・ポルノ情報、偽情報、経済秩序や社会秩序を乱す可能性のある内容を含んではならない。
　(2) アルゴリズム設計、学習データ選択、モデル生成・最適化、サービス提供等の過程において、人種、民族、信条、国、地域、性別、年齢、職業等による差別を防止するための措置を講じる。
　(3) 知的財産権及びビジネス道徳を尊重し、アルゴリズム、データ、プラットフォーム等の利点を利用して不正競争を行ってはならない。
　(4) 生成型AIを用いて生成されるコンテンツは、真実かつ正確でなければならず、虚偽の情報の生成を防止するための措置を講じなければならない。
　(5) 他人の適法な利益を尊重し、他人の心身の健康への害悪、肖像権・名誉権・個人のプライバシーへの損害、知的財産権への侵害を防止する。 個人情報およびプライバシー・企業秘密の不法な取得、開示、利用を禁止する。

　上記のうち、(1)は中国特有の価値観に基づく部分が含まれると見受けられるものの、他の項目においては、およそ各国共通の問題意識に基づく事項であると思われます。

　また、一般的にAIの能力が事前に学習させるデータの質・量に依拠するという特性に鑑み、生成型AI製品に使用される事前学習データ及び最適化学習データソースは次の要件を満たさなければならず、生成型AIサービスの提供者（以下、単に「提供者」）がその合法性について責任を負うものとされます（第7条）。

　(1) 中華人民共和国のネットワークセキュリティに関する法律及びその他の法令の要件に適合すること。
　(2) 知的財産権を侵害する内容を含んでいないこと。
　(3) データに個人情報を含む場合には、個人情報の主体の同意を得、又は法律・行政法規の定めるその他の事情を満たすこと。
　(4) データの真正性、正確性、客観性、多様性を保証できること。
　(5）生成型AIサービスに関する国家インターネット情報部門のその他の規制要件

4．生成型AIサービス提供者の義務

　「意見募集稿」においては、提供者は、上記の学習データに関する義務のほか、主に次のような義務を負うものとされます。

　また、生成型AIサービスの提供にあたっては、利用者は、「ネットワークセキュリティ法」に基づき、実際の身元情報の提供が義務付けられることになります（第9条）。これは、近時の中国における各種サービス提供の趨勢に沿ったものと言えます。

5．違反時の罰則

　「意見募集稿」によれば、提供者が本弁法に違反した場合には、各種データ3法その他の法律・行政法規の関連規定に基づき処罰されることになりますが、それらの法律や行政法規に規定がない場合でも、当局が本弁法自体に基づき、警告、通報、批判を行い、一定期間内に是正を命じ、是正を拒否した場合や状況が深刻な場合は、当該AIサービス提供の停止・終了を命じ、1万元以上、10万元以下の罰金を科すこともできるとされている点には注意が必要と言えます（第20条）。

6．まとめ

　近年、5Gサービスが既に広く普及している中国においては、インターネットやAIの活用範囲が益々拡大しており、そのような状況に伴い、脚注でもご紹介したようなインターネット関連の規定が多数、制定される動きがみられています。

　「意見募集稿」についても、今後、各種フィードバックを受けて修正される可能性があるものの、上記の通り、中国におけるAIサービスの利便性を認めつつ、その危険性を考慮した規制内容となっており、中国政府のスタンスが垣間見られるものではないかと思料されます。また、「意見募集稿」の扱う内容に鑑みて、今後、比較的早期に正式な法令が発布されることも想定されます。

　なお、この意見募集稿に対するフィードバックは、2023年5月10日まで可能となっており、ウェブサイト上やEメール、郵便の方法によって行うことができます（脚注2に記載のウェブサイトをご参照ください。）。

[1] 例えば、英国政府は2023年3月に初のAI白書を発表し、AIガバナンスのための5つの原則を示しました（https://www.gov.uk/government/news/uk-unveils-world-leading-approach-to-innovation-in-first-artificial-intelligence-white-paper-to-turbocharge-growth）。また、イタリア個人データ保護庁は3月31日、「ChatGPT」の使用を禁止し、開発会社OpenAI社によるイタリア人ユーザー情報の処理を制限し、調査案件を開設したと発表しました（https://www.bbc.com/news/technology-65139406）。更に米国商務省は最近、新しい人工知能モデルがリリース前に認証プロセスを受けるべきかどうかなど、関連する説明責任措置に関する正式な公開協議を開始しました（https://www.washingtonpost.com/technology/2023/04/11/biden-commerce-department-ai-rules/）。

[2] http://www.cac.gov.cn/2023-04/11/c_1682854275475410.htm

[3] 2016年11月7日第12期全国人民代表大会常務委員会採択、2017年6月1日施行

[4] 2021年6月10日公布、同年9月1日施行

[5] 2021年8月20日第13期全国人民代表大会常務委員会採択・公布、同年11月1日施行

[6] 「世論の属性又は社会動員能力を有するインターネット情報サービスの安全評価にかかる規定」（国家インターネット情報弁公室、2018年11月30日施行）、「インターネット情報サービスアルゴリズム推薦管理規定」（国家インターネット情報弁公室・工業情報化部・公安部・国家市場監督管理総局令第9号、2022年3月1日施行）

[7] 「インターネット情報サービス深層合成管理規定」（国家インターネット情報弁公室・工業情報化部・公安部令第12号、2023 年 1 月 10 日施行）