SK hynix HBF、PIM 与 SALT-KV：AI 推理内存从单一 HBM 转向多层协同

AI 推理推动内存体系分层

SK hynix 于 2026 年 9 月 17 日披露其在 AI Infra Summit 2026 展示的下一代 AI 内存组合。展会于 9 月 15–17 日在美国圣克拉拉举行，参会者约 6,000 人，为上届两倍。展品包括 HBF 结构模型、AiM 芯片、AiMX 加速卡，以及搭载企业级 SSD 的 SALT-KV 演示系统。核心变化并非单一器件提速，而是针对不同推理负载建立多层内存方案。

训练型 AI 主要围绕计算吞吐与 HBM 带宽展开，推理型工作负载则同时面临长上下文、持续会话和成本效率约束。KV cache 会随上下文长度和任务数量扩大，全部保留在 HBM 的成本较高，放到 SSD 又会增加访问延迟。SK hynix 的方案把问题拆成三层：HBF 承担高带宽大容量层，PIM/AiMX 在内存侧执行部分计算，SALT-KV 负责跨 HBM、DRAM 与 SSD 的数据放置。

HBF 形成 HBM 与 SSD 之间的新层级

HBF 即 High Bandwidth Flash，在 NAND 上采用与 HBM 相似的 TSV 垂直互连技术。其目标是同时取得传统存储的大容量与更高带宽，从而填补 HBM 与 SSD 之间的性能和成本空档。HBF 不等同于 HBM 替代品；两者在介质、延迟、耐久度、容量和单位成本上的定位不同。

对长上下文推理而言，HBF 的价值在于容纳超过 HBM 经济容量的数据，同时提供高于常规 SSD 路径的访问能力。其商业化仍需观察堆叠层数、接口标准、控制器、散热、寿命和系统支持。展会结构模型证明产品方向已具象化，但尚不足以推导量产料号、价格、交期或可替代的现有器件。

PIM 与 AiMX 减少数据搬移

PIM 将部分计算功能嵌入内存，以减少处理器与内存之间的数据搬移。SK hynix 展示了 AiM 芯片、AiMX 加速卡以及装有 AiMX 的服务器，并用大语言模型服务进行演示。该路线针对快速解码等需要低延迟与高能效的工作负载。

PIM 的收益取决于软件栈、算子覆盖、精度、内存一致性与平台兼容性。专用计算靠近数据可降低内存墙影响，但不会取代通用 GPU 或 CPU。部署评估需要比较端到端延迟、吞吐、功耗、开发工具成熟度和可维护性，而非只比较芯片峰值指标。

SALT-KV 将 KV cache 变为可管理资源

SALT-KV 的全称为 Semantic-Aware Lifecycle Tiering for KV Cache。该方案按上下文片段切分 KV cache，综合评估复用价值与存储成本，再把数据放置在 HBM、DRAM 或 SSD 中。它把内存分层从静态容量配置变成随工作负载变化的软件决策。

这一方向对企业级 SSD 具有直接意义。若低复用 KV cache 可以下沉到 SSD，SSD 的随机访问、延迟稳定性、写入耐久度与服务质量将进入 AI 推理系统的核心指标。HBM 和 DRAM 的需求不会消失，而是集中承载高价值、高复用数据。实际器件消耗将更多取决于模型长度、并发量、缓存命中率与层级策略。

采购与供应链判断边界

当前披露属于技术展示和研发路线，不是量产与供货公告。HBF 尚未公布可采购料号、量产日期或系统认证；PIM/AiMX 的规模部署依赖服务器与软件生态；SALT-KV 的经济性需要真实模型和企业级 SSD 配置验证。因此，短期不宜由本次展示推导 NAND、HBM 或企业级 SSD 全面涨价。

可验证的后续节点包括 HBF 接口与规格公开、样品交付、服务器平台支持、SALT-KV 基准测试以及云服务商导入。上述节点将决定新层级是否从展会概念转为 BOM 项目。内存市场的长期方向已经更明确：AI 推理需求正在把竞争范围从单颗 HBM 扩展到 DRAM、NAND、企业级 SSD、先进封装与软件调度的整体协同。