何が起きたか

Google Cloudは、組織がプロジェクト単位のAI支出を追跡し、トークンショックを回避できるようにするため、Gemini Enterprise向けの新しいFinOpsコントロールを発表しました。

同社はまた、スケジュールされたキャパシティ、自動フォールバックプラン、Google Kubernetes Engineによるオーケストレーションを含む、動的キャパシティ管理のベストプラクティスを詳述しました。

このガイダンスは、予測可能なニーズに対するリソースの確保と、予期しない需要の急増に対応する自動化を組み合わせることを重視しています。

なぜ重要か

エージェント型ワークロードはリソースを大量に消費し、バースト性があるため、静的インフラストラクチャではすぐにスケーリングのボトルネックやコンピュートの未活用が発生する可能性があります。

現在の環境でエージェントの導入に対応できると確信しているITリーダーはわずか17%であり、動的キャパシティ管理はエンタープライズでの採用に不可欠になりつつあります。

ハードウェアだけでは不十分なため、チームはインフラストラクチャへの投資からより多くの価値を引き出すためのスケジューリングと自動化戦略を必要としています。

主要な事実

90%の企業が今後3年以内にエージェントを導入したいと考えています。

Dynamic Workload Schedulerは、計画されたイベント向けのカレンダーモードと、開始時間を柔軟に設定できるバッチジョブ向けのフレックススタートモードを提供します。

マネージドインスタンスグループにより、サービス継続のための自動化された優先順位付きハードウェアフォールバックリストが可能になります。

Google Kubernetes Engineは、Custom ComputeClassesと動的リソース割り当てを使用して、エージェントネイティブな環境を提供します。

今後の注目点

AI支出を管理し、トークンショックを排除しようとする組織による、Gemini Enterprise向けの新しいFinOpsコントロールの採用。

エージェントの展開が拡大する中で、企業が事前予約されたキャパシティと適応型自動化を組み合わせてパフォーマンスを維持するかどうか。

出典