무슨 일인가
안헝정보(Anheng Information) CTO 류보(Liu Bo)는 AI 발전 속도가 업계의 핵심 보안 과제가 되었다고 말하며, 현재 대부분의 AI 에이전트는 여전히 개인용이나 소규모 실험적 환경에서만 사용되고 있다고 지적했다. 그는 실제로 프로덕션 시스템 내에서 운영되는 애플리케이션은 이제 막 시작 단계라고 덧붙였다.
류보는 데이터가 모델 훈련, 추론 호출, 에이전트 실행 과정을 거치면서 새롭게 떠오르는 두 가지 보안 위험 영역을 제시했다. 하나는 이러한 새로운 환경에서 외부 공격을 방어하는 기술적 어려움이며, 다른 하나는 데이터 인프라와 고품질 데이터셋을 둘러싼 프라이버시 문제로, 특히 데이터가 '사용은 가능하지만 보이지 않아야 한다(usable but invisible)'거나 '사용은 가능하지만 이용할 수는 없어야 한다(usable but unavailable)'는 요건 하에서 두드러진다.
이에 대응해 안헝은 정적인 규칙에 의존하는 대신 'AI 플러스 동적 데이터 보안' 방식을 구축하고 있다. 회사에 따르면 AI와 UEBA를 결합함으로써 데이터를 자동으로 라벨링하고 식별하며, 민감하거나 중요한 데이터의 위치를 파악하고, 누가 그 데이터를 사용하고 있는지와 그러한 행위가 규정을 준수하는지 판단할 수 있다.
왜 중요한가
류보가 가장 우려하는 지점은 AI 기술의 발전 속도가 보안 시스템이 따라잡을 수 있는 속도를 훨씬 앞지르고 있다는 것이다. 에이전트 프레임워크는 여전히 변화하는 중이며, 위험 요소는 악의적인 조작과 데이터 오염(data poisoning)에서부터 단순한 운영상의 실수에 이르기까지 다양하다. 긴 사고 사슬(long chain-of-thought) 작업은 에이전트가 실패하거나 잘못된 행동을 하도록 만들 수 있으며, 공격자가 악의적인 목적으로 에이전트를 장악할 수도 있다.
에이전트의 기술적 프레임워크가 아직 안정화되지 않았기 때문에, 보안 업체들은 새로운 위험이 등장할 때마다 신속하게 대응하고 새로운 해결책을 내놓아야 한다. 류보는 AI 에이전트가 널리 보급되기 전에 빠른 반복 개선이 필요하다고 강조했다.
핵심 사실
안헝정보 CTO 류보는 빠른 AI 반복 개선을 핵심 보안 과제로 꼽는다.
대부분의 AI 에이전트는 여전히 개인용이나 소규모 실험적 용도에 머물러 있으며, 프로덕션 환경에서의 배포는 이제 막 시작되었다.
안헝은 AI와 UEBA를 활용해 데이터 식별, 라벨링, 규정 준수 모니터링을 자동화하는 'AI + 동적 데이터 보안' 시스템을 제안한다.
류보는 2027년에서 2029년 사이에 AI 에이전트의 채택이 더욱 확대될 것으로 전망한다.
앞으로 지켜볼 점
류보는 AI 에이전트가 2027년에서 2029년 무렵 더 큰 규모의 애플리케이션에 진입할 것으로 예상한다. 그때까지 보안 업체들은 고객이 에이전트를 도입하기 전에 주요 문제들을 해결하는 전반적인 AI 안전 계획을 제공하고, 이후 에이전트 기술과 위험이 진화함에 따라 이를 계속 업데이트해야 한다고 그는 말한다.