最近では、国家サイバースペース委員会、国家発展改革委員会、教育省、科学技術省、工業情報化省、公安省、国家電波総局を含む7部門が設置された。 , 映画テレビは、2023年8月15日から発効する「生成型人工知能サービスの管理に関する暫定措置」（以下「暫定措置」といいます）を正式に発表しました。このニュースが出るとすぐに、これは我が国における生成型人工知能の分野における規制および規範の枠組みの形成を意味し、業界の発展を指導および監督する上で重要な役割を果たし、イノベーションをより効果的に促進することができます。生成人工知能技術の応用。
実際、「暫定措置」は今年4月11日に意見募集の草案として壇上に上がった。しかし、当時はあくまで意見募集の段階であり、最終的な文書ではなかったことから、「暫定措置」の正式な草案については、依然として説明し、強調する必要がある。 Sa姉妹のチームは、読者や友人が重要なポイントを理解できるように、今日の記事の「暫定措置」を解釈および分析します。また、読者や旧友の皆様のご参考までに、「暫定措置」の原文を記事末尾に添付し、本文後の「原文を読む」をクリックすると入手できます。
01
「暫定措置」と「意見募集案」の違い
「生成型人工知能サービス管理措置（意見募集草案）」（以下、「意見募集草案」という。）と比較すると、中国サイバースペース局が発行した「生成人工知能サービス管理暫定措置」は依然として残っている。全体的なスタイルは基本的に同じであり、一貫していますが、規定の内容に大幅な調整が加えられています。 Sa 姉妹のチームは、いくつかの重要な変更を分析します。
(1) 規制対象
| 「暫定措置」 | 「コメント草案」 |
| 第 2 条 本措置は、中華人民共和国領域内で公衆にサービスを提供するための生成型人工知能製品の研究、開発、利用に適用されます。本措置でいう生成型人工知能とは、アルゴリズム、モデル、ルールに基づいてテキスト、画像、音声、ビデオ、コード、その他のコンテンツを生成する技術を指します。 | 第 2 条 本措置は、中華人民共和国領域内で公衆にテキスト、画像、オーディオ、ビデオ、その他のコンテンツを生成するサービス（以下、生成人工知能サービスといいます）を提供するための生成人工知能技術の使用に適用されます。 ）。ニュース出版、映画やテレビの制作、文学や芸術の創作などの活動に従事するための生成型人工知能サービスの使用に関して州が他の規制を設けている場合は、それらの規制が優先されます。生成人工知能技術を開発および応用するが、国内公衆に生成人工知能サービスを提供しない業界団体、企業、教育および科学研究機関、公共文化機関、および関連専門機関は、これらの規定の対象にはなりません。対策。 |
今回の「暫定措置」は、「意見募集案」と比較して、まず規制対象を調整し、規制対象がより明確かつ対象を絞ったものとなっている。 「暫定措置」の第 2 条によると、この法律は中華人民共和国の領域内で公衆にサービスを提供するために生成人工知能技術を使用する者にのみ適用され、研究を行う者には適用されなくなります。人工知能技術を開発したり、国内公衆に人工知能サービスを提供したりする。これは、サービスプロバイダーの要件によって生成人工知能の開発を制限するのではなく、生成人工知能の研究と応用に対する国の支援と奨励を反映しています。
(2) 産業の発展
| 「暫定措置」 | 「コメント草案」 |
| 第 5 条 さまざまな業界や分野で生成人工知能技術の革新的な応用を奨励し、前向きで健康的で前向きな高品質のコンテンツを生成し、応用シナリオを探索して最適化し、アプリケーションエコシステムを構築します。業界団体、企業、教育科学研究機関、公立文化機関、関連専門機関が生成人工知能技術革新、データリソースの構築、変換と応用、リスク防止に協力できるようサポートします。第 6 条 生成人工知能アルゴリズム、フレームワーク、チップ、サポートソフトウェアプラットフォームなどの基礎技術の自主的な革新を奨励し、平等かつ互恵的な基盤に基づいて国際交流と協力を実施し、生成人工知能に関する国際ルールの策定に参加する。人工知能。生成型人工知能インフラストラクチャと公共トレーニングデータリソースプラットフォームの構築を促進します。コンピューティングパワーリソースの共同共有を促進し、コンピューティングパワーリソースの利用効率を向上させます。公共データの分類と分類の秩序ある公開を促進し、高品質の公共トレーニングデータリソースを拡大します。安全で信頼できるチップ、ソフトウェア、ツール、コンピューティング能力、データ リソースの導入を奨励します。 | 第 3 条 国家は、人工知能のアルゴリズムやフレームワークなどの基礎技術の自主的な革新、促進と応用、国際協力を支援し、安全で信頼性の高いソフトウェア、ツール、コンピューティング、データリソースの優先使用を奨励する。 |
「暫定措置」では、業界団体、企業、教育科学研究機関、公立文化機関、関連専門機関が共同構築に基づいて人工知能を開発するために協力することを奨励することが提案されている。それは、「公共データ」と「人工知能インフラストラクチャ」の組み合わせを提案し、データの分類と分類を前提とした高品質の公共トレーニングデータリソースを拡張します。これは、生成人工知能の開発に対する国の楽観的な姿勢を反映しています。企業間のデータ障壁と膨大な公開データの遊休は、生成人工知能の開発における 2 つの重要な問題です。上記の規制が実装できれば、人工知能トレーニング用のデータベースが大幅に拡張され、我が国の人工知能の構築と開発が大幅に促進されることが期待されます。
(3) プラットフォームの責任
| 「暫定措置」 | 「コメント草案」 |
| 第 9 条 プロバイダーは、法的にネットワーク情報コンテンツ制作者の責任を負い、ネットワーク情報セキュリティ義務を履行するものとします。個人情報に係る場合には、法令に従い個人情報処理者が責任を負い、個人情報保護義務を果たします。プロバイダーは、サービスを登録する生成型人工知能サービスのユーザー (以下、ユーザー) とサービス契約を締結し、両当事者の権利と義務を明確にする必要があります。 | 関連コンテンツはありません |
また、本条では個人情報処理業者の責任も強調しており、紛争が生じた場合に責任が不明確になることを避けるため、サービスを登録するユーザーとサービス契約を締結し、双方の権利と義務を明確にするよう求めています。
(4) 未成年者の保護
| 「暫定措置」 | 「コメント草案」 |
| 第 10 条 プロバイダーは、自社のサービスの対象人口、場面、用途を明確にして開示し、法律に従って科学的かつ合理的に生成人工知能技術を理解して使用できるようにユーザーを指導し、未成年ユーザーが過度に依存しないように効果的な措置を講じなければなりません。または生成人工知能に耽溺することもできます。 | 第 10 条 プロバイダーは、サービスの該当するグループ、機会、用途を明確にして開示し、ユーザーが生成されたコンテンツに過度に依存したり、耽溺したりすることを防ぐために適切な措置を講じなければなりません。 |
この「暫定措置」では、人工知能サービスプロバイダーの義務が強化され、ユーザーが生成型人工知能技術を科学的かつ合理的に理解して使用できるように指導し、「ユーザー」から「許可されていない「成人ユーザー」まで依存症を防ぐための効果的な措置を講じることが求められます）。 、一方で、それはよりターゲットを絞ったものであり、未成年者、依存症または依存症の保護に重点を置くという我が国の呼びかけに応えています。
(5) 廃棄措置
| 「暫定措置」 | 「コメント草案」 |
| 第14条 プロバイダーは、違法コンテンツを発見した場合、速やかに生成停止、送信停止、消去等の処分措置を講じ、是正のためのモデル最適化訓練等の措置を講じ、所轄官庁に報告しなければならない。プロバイダーは、ユーザーが生成型人工知能サービスを利用して違法行為を行っていることを発見した場合、法律に従って警告、機能の制限、サービスの提供の停止または終了などの措置を講じ、関連記録を保管し、そして関連する管轄当局に報告します。 | 第15条 運用中に発見され、本措置の要件を満たさない生成コンテンツについては、コンテンツフィルタリング、モデル最適化トレーニング等の措置を講じるほか、3ヶ月以内に再生成を防止するものとします。第19条 ネットワーク誇大宣伝、悪意のある投稿やコメント、スパムの作成、悪意のあるソフトウェアの作成、実装など、生成型人工知能製品の使用過程において、利用者が法令、企業倫理、社会道徳に違反していることをプロバイダーが発見した場合不当な営利目的のマーケティング等が発覚した場合には、サービスを停止または終了させていただきます。 |
この「暫定措置」は、プラットフォームの責任を明確にし、それに伴う処分措置を規定するものです。一方、プロバイダーがプラットフォーム上に違法なコンテンツがあることを発見した場合、元の規制に加えて、関連する管轄当局に報告する必要があり、関連する記録を保管し、関連当局に報告する必要があります。上記の規制の補足により、この報告書が監督システムに組み込まれ、監督の連鎖が改善され、違法行為の取り締まりに役立つとともに、ネットワーク監視に関連する他の法律および規制とのシステムの一貫性が維持されます。
02
プロバイダーのサービス仕様書 プロバイダー向け
「暫定措置」の第3章では、国内でサービスを提供する生成型人工知能サービスプロバイダーのサービス仕様を明らかにする。次の分類に焦点を当てたサービス仕様:
(1) ネットワーク情報セキュリティ義務（第9条、第11条）
プロバイダーが果たすべき「ネットワーク情報セキュリティ義務」は、民法、個人情報保護法、サイバーセキュリティ法、データセキュリティ法、電気通信・インターネット等の個人情報の保護に関する規定に準拠する必要があります。ユーザー: 権利、義務、および法的責任の総合的な解釈。特に：
(1) ネットワーク情報セキュリティ義務（第9条、第11条）
プロバイダーが果たすべき「ネットワーク情報セキュリティ義務」は、民法、個人情報保護法、サイバーセキュリティ法、データセキュリティ法、電気通信・インターネット等の個人情報の保護に関する規定に準拠する必要があります。ユーザー: 権利、義務、および法的責任の総合的な解釈。特に：
まず、「措置」には、ユーザーの入力情報や利用記録も情報保護の範囲に含めます。情報処理の「明確な目的」と「最小限の処理原則」は当然ここにも当てはまります、すなわち、 (1) 明確かつ合理的な目的、方法、範囲を有すること; 個人情報。
第 2 に、機密性の高い個人情報の処理には、より厳格な保護措置が適用されます。中国法における機密情報の定義は比較的幅広く、人間の尊厳の侵害を引き起こしたり、個人や財産の安全を脅かしたりする個人情報であり、これには生体認証、宗教的信念、特定のアイデンティティ、医療上の健康状態、金融口座、居場所などが含まれます。したがって、提供者は、機密個人情報の範囲を速やかに特定し、注意を払う必要があります。
さらに、海外では、サービスプロバイダーとユーザーがサービス契約を締結して、情報処理や知的財産の所有権を含む権利と義務を定める先例があります。ただし、文脈と組み合わせて、この記事は、サービス契約における情報処理の権利と責任を明確にすること、つまり、ユーザーがプロバイダーの情報処理行為に十分な情報を提供し、同意していることを確認することに重点を置く必要があります。
前述したように、プロバイダーがこの義務を履行しない場合、「ネットワークセキュリティ法」、「データセキュリティ法」、「個人情報保護法」およびその他の法律および行政法規に基づき、関連する罰則が科せられます。
(2) 人工知能が生成するコンテンツの特定（第12条）
生成人工知能技術が成熟するにつれて、AIGC の用途は拡大し続けています。しかし、AIGC を利用してフェイクニュースや詐欺を広めるリスクを過小評価することはできません。人間が作成した合成の多いコンテンツを特定して、誤用、乱用、不正行為を防止することは、間違いなくそれを排除する最も安価な方法です。この点、「暫定措置」では、「インターネット情報サービス深層合成管理規程」に準拠してロゴを実施することが明記されており、プロバイダーは、利用に影響を与えないロゴを追加するための技術的措置を講じることが求められています。同時に、公衆の混乱や誤認を引き起こす可能性のあるサービスについては、生成されたログの適切な位置および領域に目立つようにマークを付ける必要があります。または編集された情報コンテンツを作成し、詳細な統合を一般の人々に思い出させます。
(3) 未成年者の依存症対策（第10条）
「意見募集草案」で規定されている「成人ユーザー」とは異なり、「暫定措置」では未成年者の依存症予防のみが求められている。これは、「未成年者保護法」、「青少年非行防止法」、「インターネット情報サービスアルゴリズム推奨管理規則」（第18条）における未成年者のインターネット利用の防止に関する要件と一致しています。
(4) フィードバックの仕組み（第13条、第14条、第15条）
フィードバックの仕組みを設けることで、ユーザーの権利利益が保護されるだけでなく、プロバイダーの法的責任もある程度明確になります。具体的には、プロバイダーが苦情およびフィードバックのメカニズムを提供しなかった場合、プロバイダーが責任を負う必要があります。プロバイダーがメカニズムを提供したが行動しなかった場合でも、プロバイダーが引き続き責任を負います。関連するフィードバックにタイムリーに応答できないことを制限し、プロバイダーの責任は「不作為」とは異なるものであり、ある程度減免されるべきである。
03
生成人工知能産業の役割位置付け 業界にとって
生成人工知能業界には、プロバイダー、ユーザー、規制者、仲介者の 4 つの役割があります。
プロバイダーが監視の中核であることは間違いなく、世論属性や社会動員機能を持つ生成型人工知能サービスのプロバイダーには特に注意を払う必要があります。このようなプロバイダーに対しては、「暫定措置」第 17 条の規定に従い、関連する国の規制に従ってセキュリティ評価を実施し、「インターネット情報」に基づいてアルゴリズムの届出、変更、取消しの届出手続きを行う必要があります。 「サービスアルゴリズム推奨管理規程」プロバイダーがその過程で不正行為を行ったり、規定に従った手続きを怠ったりした場合には、警告、批判、罰金などの行政罰が科せられる可能性があり、ひどい場合にはウェブサイトの閉鎖や関連業務の取り消しを命じられることもあります。ライセンスを削除するか、ビジネスライセンスを取り消します。
また、プロバイダーにとって最も警戒すべきは、個人情報、データセキュリティ、ネットワークセキュリティに関する法的リスクであり、これら 3 つのリスクすべてにおいて、プロバイダーは関連するセキュリティ保護義務を履行し、個人情報、データ、ネットワークに対して一定の保護を提供することが求められています。サービスを提供する過程で、個人情報とデータのソースと処理が合法であることを確認し、国境を越えたデータに注意を払う必要があります。プロバイダーが国境を越えたサービスに関与する場合、関連する法令を遵守する必要があります。そうでない場合は、「暫定措置」第 20 条および第 21 条に基づき、所轄官庁が行政罰を科すことができると規定されており、重大な場合には犯罪となる可能性もあります。
これに基づいて、ユーザーは一定の監督責任を負います。 「暫定措置」の第 18 条では、ユーザーの苦情および報告の権利を明確にしており、生成人工知能サービスが関連規制を満たしていないことが判明した場合、ユーザーは関連管轄当局に苦情を提出または報告することができます。
これに基づいて、ユーザーは一定の監督責任を負います。 「暫定措置」の第 18 条では、ユーザーの苦情および報告の権利を明確にしており、生成人工知能サービスが関連規制を満たしていないことが判明した場合、ユーザーは関連管轄当局に苦情を提出または報告することができます。
規制当局や仲介業者については、主に監督や安全性評価などの機能を担っており、本質的には仲介者であり、業界の健全な成長を支援するという位置づけである。ただし、その位置付け上、その職務を遂行する過程において、一定の国家機密、商業機密、個人のプライバシー及び個人情報を知ることは避けられないため、「経過措置」第19条の規定に基づき、関係機関は、したがって、従業員は機密保持義務を他者に開示したり、違法に提供したりしてはならないという確実な義務を負っています。
04
最後に書いてあります 読者の方へ
近年、我が国の人工知能分野の立法化は集中的に進められており、それに対応する規制制度も基本的に形成されているが、立法化は規制の第一歩に過ぎず、業界の健全かつ安定した発展は法の共同努力と切り離せない。私の国における人工知能技術の応用は、法令順守に基づいて急速に発展し、成功する可能性があります。
Xiao Sa の法務チームは、学術ビジネスに基づいた法学の修士号と博士号のチームです。 「金融 + テクノロジー」業界で垂直的に深く培われた彼は、独自の研究上の優位性と革新的なビジネスにおける最前線の実践経験を持っています。
チームの創設者であるシャオ・サ氏は、中国インターネット金融協会の控訴委員会メンバーであり、中国銀行法研究協会の理事でもあり、第三者機関によるコンプライアンスの監督と評価の第一陣の専門家です。北京事件関係企業の講師、中国人民大学法学部修士課程実務講師、香港城市大学会員 法学部客員研究員、法学部非常勤講師中国政法大学法学院、中国社会科学院産業金融研究基地特別研究員、中国情報センター「中国ブロックチェーン産業白書」編集委員。工業情報技術省。仮想通貨規制に関するベストセラー本『ICOブラックホール』、共著に学術書『ネット金融犯罪の刑事ガバナンスに関する研究』などの著者。証券時報、人民日報海外版、財新、経済観察誌などに100本近くの署名記事を掲載。
法律を遵守し、金融関係者とテクノロジー関係者を「刑務所」から遠ざけましょう!
オフィスの電子メール:
全てのコメント