Subquadratic 聲稱解決了困擾 LLM 十年的數學瓶頸
subquadratic 通過大幅削减 transformer 計算，打造出了更快、更便宜的 llm，但專家們仍持懷疑態度。
Subquadratic 從隱秘狀態中脫穎而出，聲稱已經解決了一個限制大型語言模型（LLM）的數學瓶頸，通過大幅減少變換器計算。創業公司斷言，生成的模型比現有的選項更快、更便宜、更節能。雖然一些研究人員已經看到了數據表明這種方法有效，但許多專家仍持懷疑態度。如果屬實，這一突破可能會大大降低運行生成式 AI 的成本。