Qué ocurrió
Google Cloud, en colaboración con Anyscale, anunció una biblioteca experimental para Ray que integra entornos aislados (sandboxes) de gVisor directamente en clústeres Ray distribuidos, con el objetivo de ofrecer una ejecución segura y aislada para cargas de trabajo agénticas y de razonamiento.
La biblioteca representa los sandboxes como Ray Actors, lo que permite programarlos, asignarles recursos y gestionarlos como cualquier otro recurso de Ray, mientras que gVisor se encarga del aislamiento en cada nodo.
A partir de Ray 2.58, los desarrolladores pueden usar la API de sandbox para crear entornos a partir de imágenes OCI, establecer límites de recursos, ejecutar comandos, gestionar archivos y finalizar sandboxes, además de contar con un SandboxRuntime de nivel más bajo para acceso directo a gVisor.
Por qué importa
A medida que crecen las cargas de trabajo de RL y agénticas, ejecutar de forma segura rollouts dinámicos, generación de código e interacciones de herramientas de múltiples turnos a gran escala se vuelve fundamental; esta integración ofrece una forma nativa de aislar dichas operaciones dentro del modelo de programación existente de Ray.
Al convertir los sandboxes en primitivas de primera clase de Ray, se simplifica la orquestación para los autores de frameworks y los investigadores, lo que podría acelerar la adopción de flujos de trabajo de post-entrenamiento seguros.
Datos clave
La biblioteca es experimental y se desarrolló en colaboración con Anyscale.
Los sandboxes se representan como Ray Actors, y gVisor proporciona el aislamiento.
La API de sandbox permite crear entornos a partir de imágenes OCI, establecer límites de CPU/memoria, ejecutar comandos y gestionar archivos.
A partir de Ray 2.58, la API de sandbox está disponible para su uso.
Qué observar a continuación
Cómo evoluciona la biblioteca experimental en función de los comentarios de la comunidad y su adopción en frameworks de RL como veRL y NeMo-RL.
Si este enfoque se convierte en un estándar para la ejecución segura en cargas de trabajo de IA distribuidas, lo que podría influir en futuras versiones de Ray.