何が起こったか
中国のサイバースペース規制当局によると、AI関連のオンライン混乱を対象とした特別キャンペーンの第2段階で、違法・有害情報561万件以上が削除されました。49,000以上のアカウントが調査・処罰され、2,400以上のウェブサイト、アプリ、関連サービスが対応を受けました。
このキャンペーンは、虚偽情報の生成、暴力的・低俗なコンテンツの拡散、実在の人物のなりすまし、未成年者の権利侵害など、人工知能に関わる重大な害に焦点を当てています。地方当局には取り締まりの強化が指示され、プラットフォームには法令に違反するAI生成コンテンツを体系的に削除することが要求されました。
規制当局はまた、教育的効果を目的として、典型的な事例を公開しました。これには、AIを使って古典作品を「魔法のように改変」する行為、人工的な「デジタルゴミ」の生成、虚偽情報の配布、他人のなりすまし、暴力的・わいせつな素材の作成、未成年者への害が含まれます。さらに、AIを利用した「ネットウォーターアーミー」行為や、AI製品・モバイルアプリによる違反も事例として挙げられました。
なぜ重要なのか
この措置は、AIガバナンスが一般的なコンテンツモデレーションから、合成メディアや自動コンテンツ向けのカスタム制御へと移行していることを示しています。削除とアカウント処罰の規模の大きさは、AIの悪用が急速に広がっていること、そして規制当局がプラットフォームの説明責任をAIエコシステムの必須要素と見なしていることを示しています。
典型的な事例を公にリストアップすることで、当局は違反者を罰するだけでなく、どのような種類のAI生成コンテンツやサービスが許容されないかについて、ユーザーや企業に期待値を設定しています。
重要な事実
このキャンペーンは、AIアプリの混乱に焦点を当てた特別クリーンアップ活動の第2段階です。
報告時点で、違法・有害情報561万件以上が削除され、49,000以上のアカウントが対応を受け、2,400以上のウェブサイトとアプリが処理されました。
主な対象には、AI生成の虚偽コンテンツ、暴力・低俗コンテンツ、なりすまし、未成年者の権利侵害が含まれます。
典型的な事例には、AIによる古典の「魔法の改変」、フェイクニュース、なりすまし、有害コンテンツ、AI運営の「ウォーターアーミー」活動、AI製品・アプリによる違反が含まれます。
次に注目すべき点
今後の展開としては、サイバースペース当局がキャンペーンをより多くの種類のAIサービスに拡大するかどうか、そして現在構築中のプラットフォーム側のレビュー機構が恒久的なガバナンス層となるかどうかが挙げられます。
市場ウォッチャーはまた、規制当局が「合成コンテンツの混乱」を防ぐために、AI生成コンテンツのラベリングや検出に関するより詳細なルールを打ち出すかどうかにも注目するでしょう。