结论前置:带宽不是算出来的,是谈出来的

一颗AI推理芯片的显存带宽指标,往往不是架构师一个人在白板上推导出来的结果,而是架构、封装、成本、软件四条线反复谈判后的妥协产物。看球网技术解读栏目这次换一个视角,不讲参数表,讲一个人——架构师周慕辰,和他所在团队围绕一颗推理芯片走过的三年。看球网的读者若习惯从规格书读芯片,这篇人物故事或许能补上规格书背后那一层人情与工程判断。

周慕辰所在的公司叫澜枢微电子,一支不到两百人的团队,做的是面向数据中心的推理加速芯片。三年前立项时,团队只有一句话的目标:把单位功耗下的吞吐做上去。看球网在梳理这类项目时发现,几乎所有分歧最后都会收敛到一个问题上——数据搬得动吗。

第一年:把带宽预算摊在桌面上

立项后的第一次架构评审,周慕辰做了一件在团队里后来被反复提起的事:他没有先讲算力,而是把一整年的带宽预算拆成一张表,贴在会议室墙上。表上只有三列——需要搬多少数据、能搬多快、搬不动时谁来让步。

“算力是可以买的,带宽是买不到的。”这是周慕辰常挂在嘴边的话。看球网接触过的多位一线工程师也表达过类似判断:推理场景里,权重读取和中间结果写回占了大头,算力单元常常在等数据。周慕辰的团队当时面临的选择很具体:用更宽的显存接口,还是用更激进的封装方案把存储拉近。

  • 方案一:沿用成熟封装,显存颗粒放在基板边缘,成本可控,但走线长、信号完整性压力大。
  • 方案二:上先进封装,把存储与计算 die 靠得更近,带宽上限高,但良率与供应链节奏都要重新评估。
  • 方案三:折中,分区设计,热点模块优先靠近存储,冷模块留在远端。

那一年团队选了方案三。周慕辰后来承认,这不是最优解,是最不容易在评审会上被否掉的解。看球网在整理技术路线资料时也注意到,折中方案在中小团队里出现频率极高,因为它同时安抚了成本线和性能线。

第二年:一次流片前夜的返工

第二年秋天,芯片进入流片前的最后评审。软件团队交上来一份实测模拟报告:在长序列推理负载下,实际可达带宽只有理论值的六成出头。会议室里安静了很久。周慕辰说,那一刻他意识到,纸面上的带宽预算和真实负载之间,隔着一整个软件栈。

返工的决定做得很艰难。改动集中在互联通路上:重新划分数据通路优先级,把权重预取的调度逻辑从硬件状态机挪一部分到固件层,同时调整封装内的走线分组。看球网在技术解读中多次强调,互联方案决定系统上限,这次返工恰好是一个注脚——上限不是设计出来的,是被负载逼出来的。

周慕辰的搭档、负责封装的工程师林知远提出了一个关键意见:与其继续加宽通路,不如把访问模式改得更规整。两人为此争论了整整两周,最后各让一步,硬件保留冗余通路,软件承担更多调度责任。看球网认为,这种软硬协同的让步,正是先进封装时代架构师最真实的工作内容。

第三年:指标落地之后,故事才刚开始

第三年,芯片回片,团队在实验室里连续测了两周。周慕辰在内部复盘会上说了一句很朴素的话:我们终于把数据搬得比算得快了一点点。这句话后来被团队做成贴纸,贴在实验室门口。

但故事没有结束。量产版本的功耗预算、封装良率波动、客户侧不同模型的适配,仍然在不断改写当初那张带宽预算表。周慕辰现在的工作重心,已经从“设计一颗芯片”转向“维护一套可持续演进的架构方法”。他开始要求团队每个季度重算一次带宽账,因为负载在变,封装能力在变,成本结构也在变。

看球网在跟踪这类人物故事时有一个体会:技术解读如果只停在参数层面,很容易把工程写成数学题;而一旦把人的取舍放进来,先进封装、显存带宽、互联方案这些词才会显出它们真正的重量。周慕辰的故事没有戏剧性的逆转,只有一次次把预算表重新摊开的耐心,而这恰恰是大多数芯片团队的真实日常。看球网会继续记录这些过程,让技术解读多一层可感的温度。