H Company、コンピュータ操作エージェント「Holotron-12B」をリリース
H Companyは、NVIDIAのNemotron-Nano-2 VLからポストトレーニングされた12Bパラメータのコンピュータ操作エージェントモデル「Holotron-12B」をリリースした。ハイブリッドSSMアーキテクチャにより、WebVoyagerベンチマークでHolo2-8B比2倍のスループットを達成し、100の同時ワーカーで単一のH100 GPU上において8.9kトークン/秒までスケールする。
H社は、コンピュータ使用を最適化した12億パラメータのマルチモーダルエージェントであるHolotron-12Bをリリースした。NVIDIAのNemotron-Nano-2 VLアーキテクチャ上に構築されたこのモデルは、ハイブリッドState-Space Model(SSM)とアテンションメカニズムを使用して、VRAM使用量を最小限に抑え、2次計算コストを回避する。最終的なチェックポイントは、独自のローカリゼーションおよびナビゲーションデータで約140億トークンを処理した。
WebVoyagerベンチマークを、vLLM v0.14.1を使用した単一のH100 GPUで実行した場合、Holotron-12Bは、以前のHolo2-8Bモデルよりも2倍以上のスループットを達成した。トークンスループットは、100の同時ワーカーで8,900トークン/秒まで線形にスケーリングし、WebVoyagerの精度は35.1%から80.5%に増加した。