发生了什么
AWS 发布了一篇指南，介绍如何在 Amazon ECS 上使用 AWS Fargate 部署由客户运营的 LiteLLM 网关，并将其连接到 Amazon Bedrock 上的 OpenAI 模型。
该方案将 ChatGPT Codex 配置为通过网关的 Responses API 路由请求，并支持范围限定的身份、预算、速率限制和遥测功能。
文章还比较了直接使用 IAM Identity Center 与采用托管式 Portkey 部署这两种替代方案。
为什么重要
这一部署模式让企业能够在自己的 AWS 环境中管理 AI 网关，从而对模型访问实施精细控制，同时保持与 Codex 等工具的兼容性。
通过比较不同方案，团队可以根据自身对安全性、托管程度和运维复杂度的要求，选择最合适的接入方式。
关键事实
LiteLLM 网关部署在 Amazon ECS 上并使用 AWS Fargate，由客户自行运营。
网关连接到 Amazon Bedrock 上的 OpenAI 模型，并通过 Responses API 为 Codex 提供路由。
方案支持范围限定的身份、预算、速率限制和遥测。
接下来看什么
后续可能会看到更多关于如何在不同 AWS 环境中扩展或监控此类网关的实践指南。
IAM Identity Center 与 Portkey 的对比细节值得关注，尤其是企业在选择身份管理与托管方案时的影响。