무슨 일이 있었나
Google Cloud는 Anyscale과 협력하여 분산 Ray 클러스터에 gVisor 샌드박스를 직접 통합하는 실험적 Ray 라이브러리를 발표했습니다. 이는 에이전틱(agentic) 및 추론(reasoning) 워크로드를 위한 안전하고 격리된 실행 환경을 제공하는 것을 목표로 합니다.
이 라이브러리는 샌드박스를 Ray Actor로 모델링하여 다른 Ray 리소스처럼 스케줄링, 리소스 할당, 관리를 할 수 있게 하며, 각 노드에서 gVisor가 격리를 제공합니다.
Ray 2.58부터 개발자는 샌드박스 API를 사용하여 OCI 이미지에서 환경을 생성하고, 리소스 한도를 설정하고, 명령을 실행하고, 파일을 관리하고, 샌드박스를 종료할 수 있습니다. 또한 더 낮은 수준의 SandboxRuntime을 통해 gVisor에 직접 접근할 수도 있습니다.
왜 중요한가
RL(강화 학습)과 에이전틱 워크로드가 성장함에 따라 대규모로 동적 롤아웃, 코드 생성, 다중 턴 도구 상호작용을 안전하게 실행하는 것이 중요해지고 있습니다. 이 통합은 Ray의 기존 프로그래밍 모델 내에서 이러한 작업을 샌드박싱할 수 있는 기본적인 방법을 제공합니다.
샌드박스를 Ray의 일급 프리미티브로 만듦으로써 프레임워크 작성자와 연구자에게 오케스트레이션을 단순화하고, 안전한 포스트트레이닝 워크플로우의 채택을 가속화할 수 있습니다.
주요 사실
이 라이브러리는 실험적이며 Anyscale과 협력하여 개발되었습니다.
샌드박스는 Ray Actor로 표현되며, gVisor가 격리를 제공합니다.
샌드박스 API는 OCI 이미지에서 환경 생성, CPU/메모리 한도 설정, 명령 실행, 파일 관리를 지원합니다.
Ray 2.58부터 샌드박스 API를 사용할 수 있습니다.
다음에 주목할 점
실험적 라이브러리가 커뮤니티 피드백을 바탕으로 어떻게 발전하고, veRL 및 NeMo-RL과 같은 RL 프레임워크에서 어떻게 채택되는지.
이 접근 방식이 분산 AI 워크로드에서 안전한 실행의 표준이 되어 향후 Ray 릴리스에 영향을 미칠 수 있을지.