H 公司发布 Holotron-12B 计算机使用代理模型
h 公司发布了 holotron-12b，这是一个基于 nvidia nemotron-nano-2 vl 的 120 亿参数计算机使用代理模型。其混合 ssm 架构在 webvoyager 基准测试中的吞吐量是 holo2-8b 的两倍，在单张 h100 gpu 上处理 100 个并发请求时可扩展至每秒 8.9k tokens。
H 公司发布了 Holotron-12B，一种针对计算机使用的 120 亿参数多模态代理。在 NVIDIA 的 Nemotron-Nano-2 VL 架构基础上，该模型使用混合状态空间模型（SSM）和注意力机制，以最小化 VRAM 使用量并避免二次计算成本。最终检查点在专有的本地化和导航数据上处理了大约 140 亿个令牌。
在 WebVoyager 基准测试中，使用单个 H100 GPU 和 vLLM v0.14.1 运行，Holotron-12B 的吞吐量比之前的 Holo2-8B 模型高出 2 倍以上。令牌吞吐量线性扩展到 8,900 个令牌/秒（100 个并发工作线程），而 WebVoyager 的准确率从 35.1% 提高到 80.5%。