结论前置：推理阶段的瓶颈常在带宽而非峰值算力
大模型推理的解码过程逐 token 生成，每一步都要把大量权重从显存搬到计算单元，算术强度偏低，因此实际吞吐往往由显存带宽决定，而不是标称峰值算力。低调看球在整理推理方向芯片参数时，把显存带宽与算力并列为主指标，原因就在这里。
这并不意味着算力不重要，而是说两者在不同负载下的权重不同。预填充阶段输入长、并行度高，算力更容易成为瓶颈；解码阶段串行度高、访存密集，带宽的作用被放大。理解这一点，才能看懂为什么两款算力相近的推理芯片在实际服务中的表现会拉开差距。
解码为什么吃带宽：一次搬运对应一次计算
解码阶段每生成一个 token，通常需要读取一遍参与计算的权重数据。计算量相对有限，访存量却随模型规模线性增长，于是单位时间能搬多少数据，直接决定了每秒能出多少 token。低调看球在参数条目中保留显存带宽字段，就是为了让读者能大致估算这一上限。
- 模型越大，单步访存越多，带宽不足时算力单元容易空转。
- 批处理能提升算力利用率，但也会推高显存占用，需与容量一并权衡。
- 量化能降低单次访存量，从而缓解带宽压力，但会带来精度取舍。
- 上下文长度增加会放大缓存占用，带宽与容量需要同时评估。
需要提醒的是，上述关系是趋势性判断，具体数值取决于模型结构、批大小与实现效率。低调看球不在参数表里给出未经核验的实测吞吐，只呈现可公开核验的规格字段，并标注测试条件。
口径统一：带宽怎么记，才具备可比性
带宽的记法如果不统一，对比就会失真。低调看球要求条目写明显存类型、位宽与等效频率对应的标称带宽，并注明是芯片级还是整板级数据。封装形式不同的产品，其可达到的持续带宽与标称值之间可能存在差距，这一点应在边界说明中体现。
此外，互联带宽与显存带宽是两个概念，前者影响多卡或多芯协同，后者影响单次访存效率，二者不能混为一谈。低调看球在方案对比里把两类带宽分列，避免读者把互联数字当作显存能力。对于推理场景，还应关注是否支持更大的单卡显存容量，因为容量不足会直接导致模型切分，进而引入额外的通信开销。
示例可以帮助理解：假设两款推理方向芯片标称带宽接近，但一款支持更高的单卡显存容量，另一款在能效上更优。前者适合需要长上下文或较大批处理的在线服务，后者适合功耗敏感、负载相对轻量的部署。低调看球的边界标注会把这层差异写清楚，而不是只给一个带宽数字。
前瞻与选型：把带宽放进整体账本
随着推理负载从短问答走向长文档、多轮对话与结构化输出，访存压力只会更突出。低调看球判断，未来一段时间里，推理芯片的对比重点会继续从单一算力转向“带宽、容量、能效”的组合评估，软件侧的量化与调度优化也会影响最终表现。
对读者而言，实用的做法是先用低调看球的多选对比锁定同场景条目，再按带宽与容量筛出候选，最后结合功耗与部署环境做取舍。安卓、苹果 iOS、Windows 电脑版与 Mac 电脑版均可同步这套对比记录，方便在不同设备上接着看。参数只是起点，边界说明才是判断依据，这也是低调看球产品与方案栏目坚持标注适用边界的原因。
