무슨 일이 있었나
Google Cloud는 고전적인 조직 리더십 교훈을 AI 에이전트에 적용하고 있으며, 멀티 에이전트 시스템은 에이전트 스스로 복잡한 작업을 효과적으로 분해하고 할당할 수 있을 때 가장 잘 작동한다고 주장합니다.
Google DeepMind의 'Intelligent AI Delegation' 연구를 바탕으로, 이 회사는 위임을 위한 원칙을 강조합니다: 계약 우선 분해를 통해 위임된 작업을 검증하고, 작업을 라우팅할 때 비용을 인식하며, 최소 권한을 통해 민감한 데이터를 존중하는 것입니다.
왜 중요한가
기업이 단일 AI 어시스턴트에서 멀티 에이전트 워크플로로 전환함에 따라 오케스트레이션의 품질이 중요해집니다. 이러한 원칙은 위임을 단순한 작업 할당이 아니라 계획, 비용 절충, 보안 경계를 수반하는 지능적인 행위로 자리매김합니다.
검증과 인간의 판단에 대한 강조는 에이전트 시스템이 인간의 감독을 위한 명시적 체크포인트를 갖추도록 설계되는 미래를 시사하며, 기업이 자동화와 전문가 검토가 가장 가치 있는 영역을 결정하는 데 도움을 줍니다.
주요 사실
Google Cloud는 AI 에이전트가 복잡한 엔터프라이즈 워크플로를 처리하려면 훌륭한 위임자가 되어야 한다고 말합니다.
Google DeepMind의 'Intelligent AI Delegation' 연구 프레임워크는 위임이 적응형 협상, 공식 계약, 보안 가드레일을 포함한 지능을 수반함을 보여줍니다.
원칙 1, 계약 우선 분해는 인간의 판단이 필요한 곳에 주관적 평가를 남겨두고, 안정적으로 검증할 수 있는 작업으로 작업을 분해할 것을 요구합니다.
원칙 2는 작업을 적절한 모델 크기에 맞추라고 조언하며, 단순한 작업에는 더 작고 저렴한 모델을, 복잡한 작업에는 더 강력한 모델을 사용하되, 흔히 API 게이트웨이 모델 라우팅이나 LiteLLM 같은 프록시를 통해 사용합니다.
원칙 3은 에이전트가 필요한 최소 권한만 부여하고, 보안과 컨텍스트 윈도우 성능을 보호하기 위해 하위 에이전트에게 전체 민감 데이터를 전송하지 않도록 요구합니다.
다음에 주목할 점
조직이 멀티 에이전트 배포를 확장하고 비용 효율성을 추진함에 따라 모델 라우팅과 최소 권한 패턴의 채택이 늘어날 것으로 보입니다.
Google Cloud는 연구에서 네 가지 원칙이 도출되었으며, 이 발표에서는 세 가지를 자세히 다룬다고 말합니다. 나머지 원칙은 원본 발행물에서 다룰 수 있습니다.