rotative
the decoder · 2026年6月28日

VibeThinker-3B、300倍の規模のモデルに勝利 — ただし数学のみ

Sinaの3BモデルVibeCheck-3Bは、AIME26の数学ではDeepSeek V3.2に匹敵するものの、GPQAの知識ベンチマークでは失敗。論理は事実よりも圧縮しやすいことを証明した。

read in English · 简体中文 · 繁體中文 · 한국어

Sinaは、Vibecheck-3Bと呼ばれる3Bパラメータモデルをリリースした。これは、Deepseek V3.2やKimi K2.5などの巨大モデルと、AIME26の数学およびLivecodebenchで同等の性能を発揮するが、サイズは1/333である。Vibecheck-3Bは、AlibabaのQwen2.5-Coder-3Bを基に構築されており、その性能は、教師付きファインチューニング、数学/コードのための強化学習、および自己蒸留を組み合わせた多段階の事後学習から来ている。このモデルはGPQA-Diamondでは性能が落ちるが、これは論理的推論は小さなモデルに効率的に圧縮できるが、広範な事実知識には依然として大規模なパラメータが必要であることを示している。研究者らは、事後学習を用いたLeetCodeコンテストで結果を検証したところ、128の問題のうち123を解決し、GPT-5.2を上回る性能を発揮した。

read at source ↗

← rotative