英伟达发布 Nemotron 3 Nano Omni,支持长语境全模态智能
英伟达发布了 nemotron 3 nano omni,这是一种用于文档、音频和视频智能体的开源全模态模型。它结合了 mamba-transformer moe 骨干网络和新编码器,可处理 100 多页的文档和长视频。基准测试显示,它在 mm-longbench-doc、voicesense 和 worldsense 上处于领先地位,同时系统效率比替代方案高出高达 9.2 倍。
英伟达发布了 Nemotron 3 Nano Omni,一款新的开放模型,扩展了 Nemotron 系列,以支持文本、图像、视频和音频输入。该架构将 Nemotron 3 混合 Mamba-Transformer 专家混合模型与 C-RADIOv4-H 视觉编码器和 Parakeet-TDT-0.6B-v2 音频编码器配对。它针对五种特定的企业工作负载:复杂文档分析(可处理 100+ 页文件)、自动语音识别、长音频视频理解、智能计算机使用和一般多模态推理。
英伟达声称该模型在 MMlongbench-Doc、OCRBenchV2、WorldSense 和 VoiceBench 等排行榜上取得了最高精度。效率指标表明,Nemotron 3 Nano Omni 在多模态用例中提供了高达 9 倍的吞吐量和 2.9 倍的单流推理速度,相比其他模型,而在 MediaPerf 上排名为最具成本效益的开放视频理解模型。 BF16、FP8 和 NVFP4 检查点可在 Hugging Face 上使用。