rotative
the decoder · 2026年8月24日

CS-4 使用与 CS-3 相同的芯片将速度翻倍

cerebras 推出了 CS-4 系统,通过增加功耗和散热,在不更换 5nm WSE-3 晶片的情况下将推理性能翻倍至 4,400 tokens/sec。这对英伟达在高速推理领域的主导地位构成了挑战。

read in English · 繁體中文 · 日本語 · 한국어

Cerebras 公布了 CS-4 系统,通过激进地超频现有的 5nm WSE-3 芯片,并采用新的“背包”模块化设计,实现了每秒 4,400 个令牌的性能,该设计允许每个机架有三块晶圆。 虽然内存仍为 44 GB,但该架构消除了外部网络瓶颈,可提供比 Nvidia GPU 设置快 30 倍的速度。 该系统支持与 AMD 和 AWS Trainium 等合作伙伴的分离推理,表明其正在将优化的重点从芯片密度转移到整个系统堆栈。 这一更新可能会给传统 GPU 制造商带来压力,并加速大规模推理中晶圆级引擎的采用。

read at source ↗

← rotative