Qué pasó
Un nuevo informe de Google Cloud destaca que los agentes de IA, capaces de leer correos electrónicos, consultar bases de datos y activar llamadas a API, están redefiniendo el riesgo empresarial debido a sus acciones autónomas.
El informe revela que el 79% de los líderes tecnológicos señala la seguridad, la gobernanza o las operaciones como su principal desafío para escalar la inferencia, y el 35% de los responsables de decisiones de TI de alto nivel menciona la seguridad insuficiente para el acceso multisistema como un problema central que impide la implementación de agentes.
Para abordar estos desafíos, el informe propone adoptar marcos como el Secure AI Framework (SAIF) y utilizar plataformas creadas para este fin, como Gemini Enterprise Agent Platform, para gestionar los riesgos mediante un diseño seguro por defecto, la gobernanza de agentes y el control humano en el ciclo.
Por qué importa
A medida que los agentes de IA se vuelven más comunes, las herramientas de seguridad tradicionales ya no son suficientes porque el modelo de amenazas ha cambiado, introduciendo nuevos riesgos como el envenenamiento de herramientas y la inyección indirecta de instrucciones (prompt injection).
Las organizaciones deben equilibrar el acceso que necesitan otorgar a los agentes con la implementación de mecanismos de control, viendo la gobernanza como un impulsor de la innovación y no como un obstáculo.
Al integrar una gobernanza sólida en una base unificada, las empresas pueden implementar agentes con confianza en cargas de trabajo sensibles, lo que les permite innovar de forma segura y escalar más rápido.
Datos clave
El 79% de los líderes tecnológicos señala la seguridad, la gobernanza o las operaciones como su principal desafío para escalar la inferencia.
El 35% de los responsables de decisiones de TI de alto nivel menciona la seguridad insuficiente para el acceso multisistema como un problema central que impide la implementación de agentes.
El 69% de los ejecutivos encuestados considera que una plataforma de pila completa (full-stack) es un requisito crítico, y el 80% afirma que el cumplimiento normativo de datos es el factor principal que determina esa elección.
Qué observar a continuación
La adopción de plataformas de nube integradas y de pila completa para obtener una mayor supervisión de las implementaciones de IA agéntica.
La implementación de principios de diseño seguro por defecto para protegerse de forma proactiva contra amenazas como la inyección de instrucciones (prompt injection).
El desarrollo de una gestión de permisos e identidad diseñada específicamente para agentes, con el fin de controlar las interacciones y limitar los riesgos.