H Company, Holotron-12B 컴퓨터 사용 에이전트 출시
h company가 nvidia의 nemotron-nano-2 vl을 후학습한 12B 파라미터 컴퓨터 사용 에이전트 모델인 holotron-12b를 출시했다. 하이브리드 ssm 아키텍처는 webvoyager 벤치마크에서 holo2-8b 대비 2배 높은 처리량을 달성하며, h100 gpu 1개에서 동시 워커 100개 기준 8.9k tokens/s까지 확장된다.
H 컴퍼니는 컴퓨터 사용에 최적화된 120억 매개변수 멀티모달 에이전트인 Holotron-12B를 출시했다. NVIDIA의 Nemotron-Nano-2 VL 아키텍처 기반으로 구축된 이 모델은 하이브리드 상태 공간 모델(State-Space Model, SSM)과 주의 메커니즘을 사용하여 VRAM 사용량을 최소화하고 2차 계산 비용을 피한다. 최종 체크포인트는 독점적인 현지화 및 탐색 데이터에서 약 140억 토큰을 처리했다.
단일 H100 GPU에서 vLLM v0.14.1과 함께 실행되는 WebVoyager 벤치마크에서 Holotron-12B는 이전 Holo2-8B 모델보다 2배 이상 높은 처리량을 달성했다. 토큰 처리량은 100명의 동시 작업자에서 8,900 토큰/초로 선형적으로 확장되었으며 WebVoyager의 정확도는 35.1%에서 80.5%로 증가했다.