何が起きたか
Google CloudはAnyscaleと提携し、Ray用の実験的なライブラリを発表した。これはgVisorサンドボックスを分散Rayクラスタに直接統合し、エージェント型および推論ワークロードにセキュアで分離された実行環境を提供することを目的としている。
このライブラリはサンドボックスをRay Actorとしてモデル化し、他のRayリソースと同様にスケジューリング、リソース割り当て、管理を可能にする。gVisorは各ノードで分離を提供する。
Ray 2.58以降、開発者はサンドボックスAPIを使用して、OCIイメージから環境を作成し、リソース制限を設定し、コマンドを実行し、ファイルを管理し、サンドボックスを終了できる。また、gVisorに直接アクセスするための低レベルなSandboxRuntimeも提供される。
なぜ重要なのか
RLおよびエージェント型ワークロードの成長に伴い、動的なロールアウト、コード生成、マルチターンのツール対話を大規模に安全に実行することが重要になる。この統合により、Rayの既存のプログラミングモデル内でそのような操作をサンドボックス化するネイティブな方法が提供される。
サンドボックスをRayの第一級のプリミティブにすることで、フレームワーク開発者や研究者にとってオーケストレーションが簡素化され、セキュアなポストトレーニングワークフローの採用が加速する可能性がある。
主要な事実
このライブラリは実験的であり、Anyscaleとの提携で開発されている。
サンドボックスはRay Actorとして表現され、gVisorが分離を提供する。
サンドボックスAPIは、OCIイメージからの環境作成、CPU/メモリ制限の設定、コマンドの実行、ファイルの管理をサポートする。
Ray 2.58以降、サンドボックスAPIが利用可能になる。
今後注目すべき点
実験的なライブラリがコミュニティのフィードバックに基づいてどのように進化するか、またveRLやNeMo-RLなどのRLフレームワークでの採用状況。
このアプローチが分散AIワークロードにおけるセキュアな実行の標準となり、将来のRayリリースに影響を与える可能性があるかどうか。