Qué ocurrió
La segunda fase de una campaña especial dirigida contra el caos en línea relacionado con la IA ha eliminado más de 5,61 millones de piezas de información ilegal y nociva, según el regulador chino del ciberespacio. Más de 49.000 cuentas fueron investigadas y sancionadas, y se actuó sobre más de 2.400 sitios web, aplicaciones y servicios relacionados.
La campaña se centra en los principales daños relacionados con la inteligencia artificial, como la generación de información falsa, la difusión de contenido violento o vulgar, la suplantación de personas reales y la vulneración de los derechos de los menores. Se instruyó a las autoridades locales para reforzar la aplicación de la ley, y se exigió a las plataformas que purgaran de forma sistemática el contenido generado por IA que infringe leyes y reglamentos.
Los reguladores también dieron a conocer públicamente una serie de casos típicos con fines educativos. Estos incluyen el uso de IA para 'alterar mágicamente' obras clásicas, producir 'basura digital' artificial, difundir información falsa, suplantar a otras personas, elaborar material violento u obsceno, y perjudicar a menores. Otros casos adicionales abarcaron el comportamiento de 'ejércitos de agua' en internet impulsados por IA y las infracciones cometidas por productos y aplicaciones móviles de IA.
Por qué importa
La acción indica que la gobernanza de la IA está pasando de una moderación general de contenidos a controles diseñados a medida para los medios sintéticos y el contenido automatizado. La gran escala de las eliminaciones y las sanciones a cuentas muestra la rapidez con la que se ha extendido el uso indebido de la IA, y que los reguladores consideran la responsabilidad de las plataformas como una parte obligatoria del ecosistema de la IA.
Al hacer pública una lista de casos típicos, las autoridades no solo sancionan a los infractores, sino que también establecen expectativas para los usuarios y las empresas sobre qué tipos de contenido y servicios generados por IA no serán tolerados.
Datos clave
La campaña es la segunda fase de una acción especial de limpieza centrada en el caos de las aplicaciones de IA.
Según el informe, se eliminaron más de 5,61 millones de piezas de información ilegal y nociva, se actuó sobre más de 49.000 cuentas y se gestionaron más de 2.400 sitios web y aplicaciones.
Los principales objetivos incluyen el contenido falso generado por IA, la violencia y el contenido vulgar, la suplantación de identidad y la vulneración de los derechos de los menores.
Los casos típicos incluyen 'alteraciones mágicas' de obras clásicas mediante IA, noticias falsas, suplantación de identidad, contenido nocivo, actividad de 'ejércitos de agua' operados por IA, e infracciones cometidas por productos y aplicaciones de IA.
Qué observar a continuación
Los próximos pasos podrían incluir si las autoridades del ciberespacio amplían la campaña a más tipos de servicios de IA, y si los mecanismos de revisión del lado de las plataformas que se están construyendo ahora se convierten en una capa permanente de gobernanza.
Es probable que los observadores del mercado también estén atentos a normas más detalladas sobre el etiquetado o la detección de contenido generado por IA, a medida que el regulador trabaja para prevenir el 'caos del contenido sintético'.