CIM / PIM / PNM(功能轴:把计算搬向内存)
“不搬数据,搬计算”。按计算物理位置分三层,解决 von Neumann 瓶颈(AI 推理每出一个 token 要读全部权重,operations/byte 极低,处理器多在等数据)。是 内存周期 定制硅化的功能轴,与位置轴 HBM 是同一转型的两个坐标。
三层(由深到浅)
- CIM(Compute-In-Memory):用存储单元/阵列的电学行为直接算。最深,两种税最重,无商用表 → 投资时钟排最后。
- PIM(Processing-In-Memory):cell 仍作存储,计算单元放进 DRAM die、bank 旁。是技术非产品(HBM-PIM/GDDR-PIM/LPDDR-PIM)。
- PNM(Processing-Near-Memory):计算搬到内存 die 外的独立逻辑 die,靠极宽极短路径连接。最浅,Qualcomm HBC 即此。
两种税(为何数十年未商用)
- 依赖税:内存学会新命令 → 处理器/软件都要围绕它设计,内存与处理器互锁。
- 面积税:计算逻辑占了本该放 cell 的地;DRAM 工艺画逻辑更大更慢 → 每片 bit 数下降,直击内存厂利润公式。
为何现在回来:AI 推理让带宽价值空前高(收益端↑);base die 转逻辑工艺给了计算落脚点、依赖可转嫁进价格(税端↓)→ 定制内存收溢价 + NRE 而非现货价。
玩家与产品
- PIM:Samsung Aquabolt-XL(HBM-PIM 2021,每 2 bank 一个 FPU,片内带宽 4x 外部,性能~2x/能耗-70%);SK hynix AiM(GDDR6,加速 attention)。首个商用 = LPDDR5X-PIM(Samsung,2026 H2 sampling,首客户 DeepX 边缘 AI 芯片);LPDDR6-PIM 在 JEDEC 标准化(可同时用 Samsung/SK hynix)。选 LPDDR 因移动/边缘最缺带宽功耗、host 是可谈判的 SoC 厂。
- PNM:QCOM Qualcomm HBC(LPDDR 叠专用加速器 die + TSV),AI250 2027 中,Microsoft Azure/Meta。base die 已在 HBM 底部现成,HBM4 转逻辑工艺后放计算即成 PNM。
标准化 ≠ 回归 commodity
LPDDR6-PIM 成 JEDEC 标准后人人可买,但标准只固定”命令集”,同命令执行多快多省取决于各厂计算单元设计(类比 x86 从未 commodity)→ 客户从”照 spec 买”变”设计阶段进场、共乘路线图”。标准化是打开量产而非回 commodity。