内存税(Memory Tax)与 9 条绕道赛道
74-内存税 的总纲概念。AI 让内存成为瓶颈、DRAM 结构性短缺(想产也产不出,2027 前不松、松了也回不到 2024 价)——这份”税”对买方是成本,对铺路绕过它的一方却是全新营收曲线。是 内存周期 的框架层。
9 条赛道(绕过内存税的技术生态)
| # | 赛道 | 做法 | 相关页 |
|---|---|---|---|
| 1 | HBF(High Bandwidth Flash) | 把 flash 放到 HBM 的位置 | — |
| 2 | 3D 内存-逻辑堆叠 | HBM 下一步 = memory-on-logic | HBM |
| 3 | PIM / PNM | 把计算搬向内存 | PIM-PNM |
| 4 | 光内存互连 | 用光连接内存与计算 | 光互连 |
| 5 | CXL | 内存池化/扩展 | CXL |
| 6 | 预测分层 | 软件把介质”升格”为内存 | — |
| 7 | 算法压缩 | 直接削需求 | — |
| 8 | 端侧稀疏 | 让模型适配介质(Apple NAND-resident) | — |
| 9 | 模块创新 | 在 HBM 之外的路径供容量(SOCAMM/MRDIMM) | — |
| + | SRAM 推理芯片 / 新材料内存 | 跳过 HBM | — |
核心判断:“绕道即新市场,赢家由权力决定”
不是最优雅的技术赢,而是需求方力推、率先拿标准的赢:
- 超算云(Amazon/MS/Google/Meta)握需求、定标准、要贴合自己 workload 的规格
- NVIDIA 占接口/专有标准(CMX、GPUDirect、SOCAMM)
- 代工通过封装进价值链(CoWoS 售罄至 2027 → 瓶颈已移到封装)
- 标准阵营:JEDEC(HBM/PIM/MRDIMM)、OCP(想拿 HBF)、CXL Consortium
三星的结构性位置
唯一同时有内存 + 逻辑代工的公司 → 可自产 HBM base die(关系到向 AMD Instinct 供 HBM4);SK hynix/Micron 的 base die 须交 TSMC。决定 HBF/3D 堆叠胜负的不是 NAND/DRAM 位技术,而是谁握封装产能与代工资源。见 Samsung。
7 个追踪信号
HBM 单片盈利 vs DDR5/MRDIMM|CXL 云实例是否计费落地|NVIDIA CMX/GPUDirect 是否成 KV cache 标准|HBF 是否过 OCP 拿设计|Apple 式 NAND 稀疏是否扩到安卓|三大厂给 HBM 外高容量服务器 DRAM 分多少产能|NVIDIA 收 Groq 后 SRAM 推理芯片是否缓解 HBM 需求。