เกิดอะไรขึ้น
หน่วยงานกำกับดูแลไซเบอร์สเปซของจีนเปิดเผยว่า ระยะที่สองของปฏิบัติการพิเศษที่มุ่งจัดการความวุ่นวายทางออนไลน์ที่เกี่ยวข้องกับ AI ได้ลบข้อมูลที่ผิดกฎหมายและเป็นอันตรายไปแล้วกว่า 5.61 ล้านรายการ มีการตรวจสอบและลงโทษบัญชีผู้ใช้มากกว่า 49,000 บัญชี และมีการจัดการเว็บไซต์ แอปพลิเคชัน และบริการที่เกี่ยวข้องกว่า 2,400 แห่ง
ปฏิบัติการนี้มุ่งเน้นไปที่อันตรายสำคัญที่เกี่ยวข้องกับปัญญาประดิษฐ์ เช่น การสร้างข้อมูลเท็จ การเผยแพร่เนื้อหารุนแรงหรือหยาบคาย การแอบอ้างเป็นบุคคลจริง และการละเมิดสิทธิของผู้เยาว์ หน่วยงานท้องถิ่นได้รับคำสั่งให้เข้มงวดในการบังคับใช้กฎหมายมากขึ้น ขณะที่แพลตฟอร์มต่าง ๆ ถูกกำหนดให้ต้องกวาดล้างเนื้อหาที่สร้างโดย AI ซึ่งละเมิดกฎหมายและระเบียบข้อบังคับอย่างเป็นระบบ
หน่วยงานกำกับดูแลยังได้เปิดเผยกรณีตัวอย่างทั่วไปต่อสาธารณะเพื่อผลด้านการให้ความรู้ ซึ่งรวมถึงการใช้ AI 'แปลงโฉม' ผลงานคลาสสิก การผลิต 'ขยะดิจิทัล' ปลอมขึ้นมา การเผยแพร่ข้อมูลเท็จ การแอบอ้างเป็นผู้อื่น การสร้างเนื้อหารุนแรงหรือลามกอนาจาร และการทำร้ายผู้เยาว์ นอกจากนี้ยังมีกรณีที่เกี่ยวข้องกับพฤติกรรม 'กองทัพน้ำ' บนอินเทอร์เน็ตที่ขับเคลื่อนด้วย AI และการละเมิดกฎของผลิตภัณฑ์ AI และแอปพลิเคชันมือถือ
เหตุใดเรื่องนี้จึงสำคัญ
ปฏิบัติการนี้บ่งชี้ว่าการกำกับดูแล AI กำลังเปลี่ยนจากการควบคุมเนื้อหาแบบทั่วไปไปสู่มาตรการควบคุมที่ออกแบบเฉพาะสำหรับสื่อสังเคราะห์และเนื้อหาที่สร้างโดยอัตโนมัติ ขนาดที่ใหญ่ของการลบเนื้อหาและการลงโทษบัญชีผู้ใช้แสดงให้เห็นว่าการใช้ AI ในทางที่ผิดได้แพร่กระจายอย่างรวดเร็วเพียงใด และหน่วยงานกำกับดูแลมองว่าความรับผิดชอบของแพลตฟอร์มเป็นส่วนที่จำเป็นในระบบนิเวศของ AI
การเปิดเผยกรณีตัวอย่างทั่วไปต่อสาธารณะ นอกจากจะเป็นการลงโทษผู้กระทำผิดแล้ว ยังเป็นการกำหนดความคาดหวังต่อผู้ใช้และบริษัทต่าง ๆ ว่าเนื้อหาและบริการที่สร้างโดย AI ประเภทใดจะไม่ได้รับการยอมรับ
ข้อเท็จจริงสำคัญ
ปฏิบัติการนี้เป็นระยะที่สองของปฏิบัติการพิเศษกวาดล้างที่มุ่งเน้นความวุ่นวายจากการใช้งานแอป AI
ณ เวลาที่รายงาน มีการลบข้อมูลที่ผิดกฎหมายและเป็นอันตรายไปแล้วกว่า 5.61 ล้านรายการ มีการจัดการบัญชีผู้ใช้กว่า 49,000 บัญชี และมีการจัดการเว็บไซต์และแอปกว่า 2,400 แห่ง
เป้าหมายหลักได้แก่ เนื้อหาเท็จที่สร้างโดย AI เนื้อหารุนแรงและหยาบคาย การแอบอ้างเป็นผู้อื่น และการละเมิดสิทธิของผู้เยาว์
กรณีตัวอย่างรวมถึงการ 'แปลงโฉม' ผลงานคลาสสิกด้วย AI ข่าวปลอม การแอบอ้างเป็นผู้อื่น เนื้อหาที่เป็นอันตราย กิจกรรม 'กองทัพน้ำ' ที่ดำเนินการโดย AI และการละเมิดกฎของผลิตภัณฑ์และแอป AI
สิ่งที่ต้องจับตาต่อไป
ก้าวต่อไปอาจรวมถึงการที่หน่วยงานไซเบอร์สเปซจะขยายปฏิบัติการนี้ไปยังบริการ AI ประเภทอื่น ๆ เพิ่มเติมหรือไม่ และกลไกการตรวจสอบฝั่งแพลตฟอร์มที่กำลังถูกสร้างขึ้นในขณะนี้จะกลายเป็นชั้นการกำกับดูแลถาวรหรือไม่
ผู้ติดตามตลาดน่าจะจับตาดูกฎเกณฑ์ที่ละเอียดมากขึ้นเกี่ยวกับการติดฉลากหรือการตรวจจับเนื้อหาที่สร้างโดย AI เช่นกัน ขณะที่หน่วยงานกำกับดูแลพยายามป้องกัน 'ความวุ่นวายจากเนื้อหาสังเคราะห์'