GoogleとHugging Face、Gemma 4をリリース
GoogleとHugging Faceは、2Bから31Bパラメータまでの4サイズで提供される最先端マルチモーダルモデルファミリー「Gemma 4」をリリースした。Apache 2.0ライセンスを採用し、レイヤーごとの埋め込みや共有KVキャッシュといったアーキテクチャのアップグレードにより、テキスト、画像、音声入力に対応。31BのdenseモデルはLMArenaスコア推定1452を達成し、26BのMixture-of-Expertsバリアントはアクティブパラメータわずか4Bで1441に到達する。
GoogleとHugging Faceは、テキスト、画像、ビデオ、オーディオを処理できるオープンモデルのマルチモーダルモデルスイートであるGemma 4をリリースした。 このファミリーは4つのサイズ(E2B、E4B、E9B、E31B)で構成され、すべてApache 2.0ライセンスでリリースされ、オンデバイストリープロイと量子化に最適化されている。アーキテクチャの改善には、Per-Layer Embeddings(PLE)、Shared KV Cache、長文コンテキストウィンドウと効率的なエージェントワークフローをサポートする交互のローカルグローバルアテンションなどがある。 ベンチマークの結果、31B高密度モデルは推定LMArenaスコア1452を達成し、プロプライエタリフロンティアモデルに匹敵し、26BのMixture-of-Experts(MoE)モデルは、わずか4Bのアクティブパラメータを使用して1441のスコアを達成した。 Transformers、llama.cpp、MLX、WebGPUなどの主要なフレームワーク全体で、すぐに統合が利用可能である。