72GB 改 96GB:内存正在成为 AI 芯片的准入门槛

观点:内存容量决定的是「能不能跑」,而不是「跑多快」
马斯克改口了:特斯拉 AI5 芯片不再采用 72GB DDR5 内存,改为 96GB。他的解释很直接——不希望只有特斯拉一家使用这个"最低配置版本"。
这句话里藏着一个被普遍低估的事实:内存容量是准入门槛,不是参数表里的小字。
三个要点
- 容量决定模型上限。 权重、KV cache、激活值都要落在这块内存里。容量不够,再强的算力也只能等数据。
- 它同时对冲了供应风险。 此前他曾表示 AI5 与 AI6 的内存分别减半,以应对内存供货紧张;如今从 72GB 上调到 96GB,说明宁可要通用配置也不做独家规格——独家规格在缺货时最容易被砍。
- 定位参考已经很清楚。 AI5 已于四月完成流片,单颗性能对标 Hopper,双芯组合对标 Blackwell。这个量级下,96GB 是让"双芯组合"不成为摆设的底线。
一个反直觉的判断:芯片竞争正在从"峰值算力"转向"内存容量与带宽"。 过去两年推理侧的瓶颈反复落在数据搬运上,容量和带宽往往比算力更早触顶。
对读者的实际建议
- 选卡先看内存,再看算力。 特别是要跑长上下文或多模型并存时,容量是第一道筛子。
- 把"最低配置版本"当成风险信号。 独家规格的器件在供应链紧张时优先级最低,选型时尽量避开。
- 预留升级空间。 模型只会变大,按当前刚好够用来配,通常一年内就不够。
- 关注单位内存的成本曲线。 内存涨价周期里算力便宜、内存贵,配置策略要跟着变。
结论:72GB 改 96GB 看似只是数字变动,实质是承认了内存是这一代 AI 硬件最硬的约束。买卡、买云、买终端,这条逻辑都适用。
参考来源
- IT之家相关报道:ithome.com
- 素材索引:AI HOT(aihot.news)
延伸阅读:双裸片垂直堆叠、密度提升 55%:先进封装正在成为国产芯片的主战场 · 别再只看榜单分数了:单位任务成本正在成为选型的第一指标 · HBM、CoWoS、3nm:AI 芯片的瓶颈是串联的,不是三条平行线