Google、Gemini APIにFlexとPriorityティアを導入
GoogleはGemini APIにFlexとPriorityの推論ティアを追加した。Flexはクリティカル度を下げることでバックグラウンドタスクのコストを50%削減し、Priorityはインタラクティブアプリに高い信頼性を提供する。両方とも標準的な同期エンドポイントを使用するため、非同期バッチAPI管理が不要になる。Flexはすべての有料ユーザーが利用可能で、Priorityにはティア2または3のプロジェクトが必要。
Googleは、Gemini APIにFlexおよびPriority推論階層を導入し、開発者が統一されたインターフェースを通じてコストと信頼性を最適化できるようにした。Flex推論は、データエンリッチメントやエージェント的なバックグラウンドプロセスなどのレイテンシに耐性のあるワークロードに対して、標準価格と比較して50%の節約を提供し、同期インターフェースを利用してバッチ管理の複雑さを回避する。Priority推論は、ユーザー向けアプリケーションの高信頼性ニーズを対象としており、制限を超えた場合には自動的にStandard階層にグレースフルにダウングレードすることで、ピーク負荷時にトラフィックが割り込まれないことを保証する。