发生了什么

谷歌云宣布与Anyscale合作,推出一个实验性的Ray库,该库利用谷歌正在开发的智能体AI技术,将高性能沙箱直接集成到分布式Ray集群中。

该库将每个高级沙箱表示为Ray Actor,由Ray调度器决定运行节点并分配资源,gVisor提供隔离执行环境,从Ray 2.58版本开始,框架作者和研究人员可以使用现有的Ray API管理沙箱环境。

沙箱API支持从OCI容器镜像创建环境、设置CPU和内存限制、配置环境变量和工作目录、执行命令、文件操作、检查状态以及终止环境等生命周期管理。

为什么重要

随着智能体和推理模型的发展,安全隔离沙箱的大规模编排成为关键瓶颈,该库旨在解决动态回滚、代码生成和多轮工具交互的安全执行问题。

通过将沙箱作为Ray原语,用户无需引入新的抽象,即可在现有Ray编程模型中实现隔离执行,降低了采用门槛。

关键事实

该库是谷歌云与Anyscale合作开发的实验性项目。

沙箱通过Ray Actor表示,由Ray调度器管理资源,gVisor提供隔离执行。

从Ray 2.58版本开始支持使用现有Ray API管理沙箱。

接下来看什么

该实验性库的后续发展,包括是否会被Ray核心采纳以及性能优化情况。

社区对该库的反馈,以及它如何影响Ray生态中强化学习工作负载的安全实践。

来源