天下苦DRAM久矣

文章摘要

【关 键 词】 内存危机、存储短缺、算力扩张、内存重构、技术破局

数据中心正面临严重的内存危机，随着大模型推理等业务的快速扩张，DRAM成为最昂贵且稀缺的基础设施资源。HBM对标准DRAM产能的持续蚕食以及先进制程扩产的滞后，导致供给出现巨大缺口，内存价格大幅飙升。这一危机已从数据中心蔓延至消费电子端，对硬件利润率和数字经济的多个层面构成全面风险。

面对内存的昂贵与稀缺，行业开始通过多种技术手段重构内存层级，以减少对传统内存的依赖。AMD引入人工智能驱动的内存分层技术，利用预测引擎将冷数据下沉至低成本闪存，在不影响性能的前提下大幅降低基础设施成本。针对端侧大模型推理，苹果采用稀疏激活架构将模型存放在闪存中并按需加载，有效解决了终端设备内存受限的问题。Marvell从硬件层面突破，依托CXL协议和硬件内联压缩技术，直接提升物理内存的等效容量并实现内存池化。闪迪则推动高带宽闪存标准化，将闪存堆叠在计算芯片下方，打造介于高带宽内存与固态硬盘之间的全新存储层级。

尽管早期的新型存储介质探索曾遭遇挫折，但当前多家企业的多元化技术路径表明，人工智能推理的内存层级正在经历深刻重构。高频访问的热数据将继续留在高带宽内存中以保障计算性能，而低频缓存、模型权重及端侧数据将逐步下沉至闪存层以承接大容量需求。单纯依赖堆砌高成本内存的时代正在过去，构建多层介质协同、平衡性能与成本的高效分层内存体系，已成为存储与算力行业前行的新方向。

原文和模型

【原文链接】 阅读原文 [ 4418字 | 18分钟 ]
【原文作者】 半导体行业观察
【摘要模型】 qwen3.7-max-2026-05-20
【摘要评分】 ★★★★☆

阿里云百炼

大模型服务平台是阿里云基于通义大模型等多种大模型的一站式大模型开发平台。