中国政府がAI技術の悪用に対し、大規模な取り締まりに乗り出しました。中国国家インターネット情報弁公室（CAC）が主導する「クリーンアップ・是正」と題された専門行動は、AIが生成する偽情報や「デジタル透かし」といった不正利用を標的にしています。既に第一段階で目覚ましい成果を上げており、1.4万件を超えるAI製品が処理され、大手テック企業もプラットフォーム管理を大幅に強化しています。この動きは、AIの健全な発展を目指す中国の強い意志を示すものとして注目を集めています。
中国政府、AI悪用対策で大規模な「クリーンアップ作戦」を展開
今年4月、中国国家インターネット情報弁公室（CAC）は、AI技術の悪用に対抗するため、全国規模で4ヶ月にわたる「クリーンアップ・是正AIアプリケーション」という専門行動を開始しました。特に問題視されたのは、AIを用いて古典的な作品を「改ざん」したり、「デジタル透かし」と呼ばれる手法で違法コンテンツを生成するといった行為です。この行動の第一段階で、既に顕著な進展が見られています。
「サイバーセキュリティ中国（网信中国）」の公式発表によると、これまでに合計で1.4万件以上の違反ウェブサイト、アプリケーション、AI製品が処理されました。さらに、違法・違反情報が600万件以上クリーンアップされ、2.6万件以上のアカウントが凍結または削除されています。また、違反AI商品が1300件以上、違反オープンソースデータセットが9件、それぞれ削除されたとのことです。
この専門行動の推進において、重点的なウェブサイトプラットフォームも、主体的な管理責任を継続して果たしています。AIコンテンツの生成、配信、審査といった各段階において、管理が大幅に強化されている状況です。
大手テック企業もAIコンテンツ管理を強化
中国政府の規制強化を受け、国内の大手テック企業も自社のAI関連サービスにおけるコンテンツ管理体制を急ピッチで整備しています。その具体的な取り組みは以下の通りです。
各社の具体的な対策事例
- ファーウェイ（Huawei）: アプリケーションストアにおいて、生成AIサービスに対し、登録時の記録提出、明確な識別表示、そして専門審査のプロセスを新たに導入しました。
- アリババ（Alibaba）: デジタル透かしの比較分析機能と、特定のキーワードに基づく遮断メカニズムを改善。これにより、違法・違反コンテンツの識別精度が飛躍的に向上しています。
- 知乎（Zhihu）: マルチモーダル審査モデルを構築し、多段対話における意図の反転など、複雑なシナリオでの交差審査を展開しています。
- テンセント（Tencent）: AIを用いたウイルス作成やフィッシングソフトウェアの拡散といった悪意ある行為を即座に識別し、阻止する対策を講じています。
- ディープシーク（DeepSeek）: データ収集および前処理の段階で、異常検出アルゴリズムを導入。悪意あるサンプルの隠蔽操作などを防ぐ取り組みを進めています。
まとめ：AIガバナンスの国際的議論を牽引する中国
今回の中国政府によるAIアプリケーションの取り締まりは、AI技術の健全な発展と社会の安全を両立させるための、中国におけるAIガバナンス強化の明確な現れです。特に、AIによる偽情報や不正利用が世界的な課題となる中、中国がこれほど大規模かつ迅速な行動を起こしたことは、その影響力の大きさを改めて示しています。
大手テック企業が政府の要請に応え、自社プラットフォームの管理責任を強化していることは、国家主導の規制と企業の自律的な取り組みが連携して進む中国ならではの動向と言えるでしょう。今後、AI技術がますます社会に浸透していく中で、中国のこうした規制の動きは、日本を含む世界の国々がAIガバナンスを議論する上で、重要なベンチマークとなる可能性を秘めています。
元記事: pconline
Photo by Matheus Bertelli on Pexels
