무슨 일이 있었나
Amazon Bedrock는 교차 리전 추론을 사용하여 25개 이상의 AWS 리전에 걸쳐 세 가지 OpenAI GPT-5.6 모델 변형(Sol, Terra, Luna)에 대한 지원을 발표했습니다.
새로운 기능은 미국 지리적 및 글로벌 추론 프로필을 사용하여 요청을 라우팅함으로써 더 높은 처리량을 제공하며, OpenAI 및 Converse API를 통해 모델에 액세스할 수 있습니다.
개발자들은 프로덕션에서 모델을 채택할 때 IAM 권한, 할당량 및 모니터링을 구성하도록 안내됩니다.
왜 중요한가
리전 간 추론 라우팅은 단일 리전 엔드포인트에 의존하는 대신 부하를 분산시키고 처리량을 개선하는 데 도움이 될 수 있습니다.
OpenAI 및 Converse API를 모두 지원하면 팀이 Amazon Bedrock의 관리 및 거버넌스 프레임워크 내에서 요청을 유지하면서 친숙한 인터페이스를 사용할 수 있는 유연성을 얻을 수 있습니다.
주요 사실
Amazon Bedrock는 이제 Sol, Terra, Luna라는 이름의 OpenAI GPT-5.6 모델을 제공합니다.
이 모델은 교차 리전 추론을 통해 25개 이상의 AWS 리전에서 사용할 수 있습니다.
US 지리적 및 글로벌 추론 프로필은 더 높은 처리량을 위해 요청을 라우팅합니다.
모델은 OpenAI 및 Converse API를 사용하여 호출할 수 있습니다.
다음에 주목할 점
조직은 US 지리적 및 글로벌 추론 프로필을 사용할 때 처리량 및 지연 시간 개선을 평가할 수 있습니다.
채택이 증가함에 따라 주목은 IAM 구성, 할당량 관리 및 교차 리전 모델 호출 모니터링을 위한 모범 사례로 옮겨갈 것입니다.