发生了什么

AI智能体被赋予读取邮件、查询数据库和触发API调用的权限,它们不仅能检索信息,还能采取行动,这带来了新的安全担忧。

一份新报告显示,79%的技术领导者认为安全、治理或运营是扩展推理规模的最大挑战,而35%的高级IT决策者指出,多系统访问的安全不足是阻止智能体部署的主要问题。

智能体扩大了防御者需要保护的范围,并引入了新威胁,如工具投毒和间接提示注入,攻击者可以通过智能体处理的数据劫持其逻辑。

为什么重要

传统安全工具仍有作用,但威胁模型已根本改变,自主工作流重新定义了企业风险,因此需要在给予智能体必要访问权限的同时确保安全。

将治理视为创新的驱动力是关键,通过集成全栈云平台和采用安全框架,组织可以在设计、治理和人工监督三个主要领域管理风险。

现代安全基础的价值在于鼓励创新,通过嵌入强健的治理,组织可以自信地在敏感工作负载中部署智能体,从而安全地创新并加速扩展。

关键事实

79%的技术领导者将安全、治理或运营视为扩展推理的最大挑战。

35%的高级IT决策者认为多系统访问的安全不足是阻止智能体部署的主要问题。

69%的受访高管认为全栈平台是关键要求,80%表示数据合规是选择平台的主要因素。

接下来看什么

组织如何采用Secure AI Framework(SAIF)和中央控制平面来管理智能体风险。

安全领导者如何从防止漏洞转向验证来源,以防范间接提示注入等滥用。

智能体治理和人工监督机制如何在实际部署中平衡自主性与安全性。

来源