무슨 일이 있었나
Google Cloud의 새 보고서는 이메일 읽기, 데이터베이스 쿼리, API 호출 트리거가 가능한 AI 에이전트가 자율적 행동으로 인해 기업 리스크를 재정의하고 있음을 강조한다.
보고서는 기술 리더의 79%가 추론 확장에 가장 큰 과제로 보안, 거버넌스 또는 운영을 꼽았고, 고위 IT 의사결정권자의 35%는 에이전트 배포를 막는 주요 문제로 다중 시스템 접근에 대한 보안 부족을 꼽았다고 밝힌다.
이러한 과제를 해결하기 위해 보고서는 Secure AI Framework(SAIF) 같은 프레임워크를 채택하고 Gemini Enterprise Agent Platform 같은 특화 플랫폼을 사용하여 보안 기본 설계(secure-by-default), 에이전트 거버넌스, 사람이 개입하는 통제(human-in-the-loop)를 통해 리스크를 관리할 것을 제안한다.
왜 중요한가
AI 에이전트가 보편화됨에 따라 위협 모델이 변화했기 때문에 전통적인 보안 도구만으로는 더 이상 충분하지 않으며, 툴 포이즈닝 및 간접 프롬프트 인젝션 같은 새로운 리스크가 등장했다.
조직은 에이전트에게 필요한 접근 권한을 부여하면서 보호 장치를 구현하는 균형을 맞춰야 하며, 거버넌스를 방해물이 아닌 혁신의 동력으로 보아야 한다.
견고한 거버넌스를 통합된 기반에 내장함으로써 기업은 민감한 워크로드 전반에 에이전트를 자신 있게 배포할 수 있으며, 이를 통해 안전하게 혁신하고 더 빠르게 확장할 수 있다.
주요 사실
기술 리더의 79%가 추론 확장에 가장 큰 과제로 보안, 거버넌스 또는 운영을 꼽았다.
고위 IT 의사결정권자의 35%는 에이전트 배포를 막는 주요 문제로 다중 시스템 접근에 대한 보안 부족을 꼽았다.
설문에 응한 경영진의 69%는 풀스택 플랫폼을 핵심 요건으로 평가했으며, 80%는 데이터 컴플라이언스가 해당 선택을 좌우하는 주요 요인이라고 답했다.
다음에 주목할 것
에이전트형 AI 배포에 대한 더 큰 통제력을 확보하기 위한 통합 풀스택 클라우드 플랫폼의 채택.
프롬프트 인젝션 같은 위협에 선제적으로 대응하기 위한 보안 기본 설계 원칙의 구현.
에이전트의 상호작용을 제어하고 리스크를 제한하기 위한 목적별 권한 및 ID 관리의 개발.