内存税(Memory Tax)与 9 条绕道赛道

74-内存税 的总纲概念。AI 让内存成为瓶颈、DRAM 结构性短缺(想产也产不出,2027 前不松、松了也回不到 2024 价)——这份”税”对买方是成本,对铺路绕过它的一方却是全新营收曲线。是 内存周期 的框架层。

9 条赛道(绕过内存税的技术生态)

#赛道做法相关页
1HBF(High Bandwidth Flash)把 flash 放到 HBM 的位置
23D 内存-逻辑堆叠HBM 下一步 = memory-on-logicHBM
3PIM / PNM把计算搬向内存PIM-PNM
4光内存互连用光连接内存与计算光互连
5CXL内存池化/扩展CXL
6预测分层软件把介质”升格”为内存
7算法压缩直接削需求
8端侧稀疏让模型适配介质(Apple NAND-resident)
9模块创新在 HBM 之外的路径供容量(SOCAMM/MRDIMM)
+SRAM 推理芯片 / 新材料内存跳过 HBM

核心判断:“绕道即新市场,赢家由权力决定”

不是最优雅的技术赢,而是需求方力推、率先拿标准的赢

  • 超算云(Amazon/MS/Google/Meta)握需求、定标准、要贴合自己 workload 的规格
  • NVIDIA 占接口/专有标准(CMX、GPUDirect、SOCAMM)
  • 代工通过封装进价值链(CoWoS 售罄至 2027 → 瓶颈已移到封装)
  • 标准阵营:JEDEC(HBM/PIM/MRDIMM)、OCP(想拿 HBF)、CXL Consortium

三星的结构性位置

唯一同时有内存 + 逻辑代工的公司 → 可自产 HBM base die(关系到向 AMD Instinct 供 HBM4);SK hynix/Micron 的 base die 须交 TSMC。决定 HBF/3D 堆叠胜负的不是 NAND/DRAM 位技术,而是谁握封装产能与代工资源。见 Samsung

7 个追踪信号

HBM 单片盈利 vs DDR5/MRDIMM|CXL 云实例是否计费落地|NVIDIA CMX/GPUDirect 是否成 KV cache 标准|HBF 是否过 OCP 拿设计|Apple 式 NAND 稀疏是否扩到安卓|三大厂给 HBM 外高容量服务器 DRAM 分多少产能|NVIDIA 收 Groq 后 SRAM 推理芯片是否缓解 HBM 需求。

出处