무슨 일이 있었나
중국 인터넷 규제 당국에 따르면, AI 관련 온라인 혼란을 겨냥한 특별 캠페인의 2단계 조치를 통해 561만 건이 넘는 불법·유해 정보가 삭제됐다. 4만 9,000개가 넘는 계정이 조사 및 처벌을 받았으며, 2,400개가 넘는 웹사이트, 앱 및 관련 서비스가 조치 대상이 됐다.
이번 캠페인은 허위 정보 생성, 폭력적이거나 저속한 콘텐츠 유포, 실존 인물 사칭, 미성년자 권리 침해 등 인공지능과 관련된 주요 피해에 초점을 맞추고 있다. 지방 당국에는 단속 강화 지시가 내려졌고, 플랫폼들은 법과 규정을 위반하는 AI 생성 콘텐츠를 체계적으로 정리하도록 요구받았다.
규제 당국은 또한 교육적 효과를 위해 전형적인 사례들을 공개했다. 여기에는 AI를 이용해 고전 작품을 '마법처럼 바꾸는' 행위, 인위적인 '디지털 쓰레기' 생산, 허위 정보 유포, 타인 사칭, 폭력적이거나 음란한 자료 제작, 미성년자에 대한 피해 등이 포함된다. 이 밖에도 AI를 활용한 '인터넷 여론조작 부대' 행위와 AI 제품 및 모바일 애플리케이션의 위반 사례도 다뤄졌다.
왜 중요한가
이번 조치는 AI 거버넌스가 일반적인 콘텐츠 관리에서 합성 미디어와 자동화된 콘텐츠를 겨냥한 맞춤형 통제로 옮겨가고 있음을 보여준다. 대규모 삭제와 계정 제재는 AI 오남용이 얼마나 빠르게 확산되었는지를 나타내며, 규제 당국이 플랫폼의 책임을 AI 생태계의 필수 요소로 보고 있음을 시사한다.
당국은 전형적인 사례들을 공개적으로 나열함으로써 위반자를 처벌하는 데 그치지 않고, 어떤 종류의 AI 생성 콘텐츠와 서비스가 용인되지 않을지에 대해 이용자와 기업들에게 기준을 제시하고 있다.
핵심 사실
이번 캠페인은 AI 애플리케이션 혼란에 초점을 맞춘 특별 정리 조치의 2단계다.
보고 시점 기준으로 불법·유해 정보 561만 건 이상이 삭제됐고, 계정 4만 9,000개 이상이 처리됐으며, 웹사이트와 앱 2,400개 이상이 조치됐다.
주요 단속 대상에는 AI가 생성한 허위 콘텐츠, 폭력적·저속한 콘텐츠, 사칭, 미성년자 권리 침해가 포함된다.
전형적인 사례로는 AI를 통한 고전 작품 '마법 같은 변형', 가짜 뉴스, 사칭, 유해 콘텐츠, AI 운영 '여론조작 부대' 활동, AI 제품 및 앱의 위반 행위 등이 있다.
앞으로 지켜볼 점
향후에는 인터넷 규제 당국이 이번 캠페인을 더 많은 유형의 AI 서비스로 확대할지, 그리고 현재 구축 중인 플랫폼 측 검토 메커니즘이 영구적인 거버넌스 체계로 자리 잡을지 여부가 관건이 될 수 있다.
시장 관찰자들은 또한 규제 당국이 '합성 콘텐츠 혼란'을 방지하기 위해 노력하는 가운데, AI 생성 콘텐츠의 표시 또는 탐지에 관한 더 상세한 규정이 나올지 주목할 것으로 보인다.