Qué ocurrió
El CTO de Anheng Information, Liu Bo, afirmó que la velocidad de iteración de la IA se ha convertido en el principal reto de seguridad de la industria, y señaló que la mayoría de los agentes de IA actuales todavía se usan solo en entornos personales o experimentales de pequeña escala. Las aplicaciones que realmente operan dentro de sistemas de producción, añadió, apenas están comenzando.
Liu Bo describió dos áreas emergentes de riesgo de seguridad a medida que los datos se mueven a través del entrenamiento de modelos, las llamadas de inferencia y la ejecución de agentes. Una es la dificultad técnica de defenderse de ataques externos en este nuevo entorno; la otra involucra cuestiones de privacidad en torno a la infraestructura de datos y los conjuntos de datos de alta calidad, especialmente bajo requisitos como que los datos sean 'utilizables pero invisibles' y 'utilizables pero no disponibles'.
En respuesta, Anheng está construyendo un enfoque de 'IA más seguridad dinámica de datos' en lugar de depender de reglas estáticas. Al combinar IA con UEBA, la empresa afirma que puede etiquetar e identificar datos automáticamente, localizar datos sensibles o importantes, y determinar quién los está utilizando y si esas acciones cumplen con la normativa.
Por qué importa
La principal preocupación de Liu Bo es que la tecnología de IA está evolucionando mucho más rápido de lo que los sistemas de seguridad pueden seguir. Los marcos de agentes todavía están cambiando, y los riesgos van desde operaciones maliciosas y envenenamiento de datos hasta simples errores operativos. Las tareas de cadena de razonamiento larga pueden hacer que los agentes fallen o actúen de forma incorrecta, mientras que los atacantes también pueden tomar el control de los agentes con fines maliciosos.
Debido a que el marco técnico de los agentes aún no se ha estabilizado, los proveedores de seguridad deben responder rápidamente y ofrecer nuevas soluciones para cada nuevo riesgo. Liu Bo subrayó la necesidad de iterar con rapidez antes de que los agentes de IA se implementen de forma generalizada.
Datos clave
El CTO de Anheng Information, Liu Bo, identifica la rápida iteración de la IA como el principal reto de seguridad.
La mayoría de los agentes de IA todavía están en uso personal o experimental a pequeña escala, y las implementaciones en producción apenas comienzan.
Anheng propone un sistema de 'IA + seguridad dinámica de datos', que usa IA y UEBA para automatizar la identificación de datos, el etiquetado y el monitoreo de cumplimiento normativo.
Liu Bo prevé que la adopción más amplia de agentes de IA ocurrirá entre 2027 y 2029.
Qué observar a continuación
Liu Bo espera que los agentes de IA entren en aplicaciones de mayor escala alrededor de 2027 a 2029. Hasta entonces, sostiene que los proveedores de seguridad deberían ofrecer un plan integral de seguridad de IA que aborde los problemas principales antes de que los clientes pongan en marcha agentes, y luego seguir actualizándolo a medida que evolucionen la tecnología de agentes y sus riesgos.