发生了什么

安恒信息CTO刘博在近日的发言中指出,从客户应用情况看,当前多数智能体仍停留在个人或小规模实验阶段,真正进入生产系统的应用“才刚刚开始”。

刘博表示,随着数据在模型训练、推理调用和智能体执行等环节中依次流转,安全风险出现新变化:一方面要应对外部攻击的技术挑战,另一方面则是隐私问题。以可信数据空间为代表的数据基础设施,以及高质量数据集,都涉及大量隐私问题,“可用不可见”“可用不可得”的要求正成为新挑战。

针对这些变化,安恒信息提出打造“AI+动态数据安全”体系,不再依赖静态规则,而是结合UEBA技术,自动进行数据打标、识别,发现敏感数据和重要数据的位置、使用人及行为是否合规。

为什么重要

刘博认为,最核心的挑战是AI技术本身的迭代速度远超安全防御体系的跟进周期。智能体概念两三年前就有,但那时框架和技术与现在差别很大,安全方案必须快速适应尚未固化的技术体系。

智能体可能带来恶意操作、被投毒、操作失误等风险,而且任务思维链过长时容易出现错误操作,甚至被攻击者操控进行恶意行为。这要求安全行业在智能体技术框架尚未定型时,就要快速推出能解决主要问题的整体方案,并持续迭代。

关键事实

刘博判断,2027至2029年智能体才会在更大规模领域应用。

安恒信息提出“AI+动态数据安全”体系,结合UEBA技术实现自动数据识别与合规分析。

当前多数智能体仍用于个人或小规模实验场景,进入生产系统的应用刚刚起步。

接下来看什么

安全厂商能否在智能体大规模落地前,拿出可快速迭代的整体安全方案,将决定未来两年市场格局。

随着可信数据空间等数据基础设施推进,“可用不可见”与“可用不可得”下的隐私保护技术是否会成为新的竞争焦点。

来源