DRAM太贵了,怎么办?

AIGC动态5小时前发布 admin
48 0 0
DRAM太贵了,怎么办?

 

文章摘要


【关 键 词】 光纤存储模型推理数据中心降低能耗多芯光纤

随着生成式AI的快速发展,超大规模数据中心对高性能存储的需求激增,导致DRAM供应紧张及高功耗问题。在传统计算集群中,大语言模型的权重参数在各个计算节点上被大量复制,造成了严重的内存冗余与能量消耗。为突破这一瓶颈,研究提出了一种名为“光纤存储器”的新架构,将数据中心内的光纤网络重新构想为主动式、循环延迟线存储器,专门用于存储和分发大语言模型权重等不可变数据

该架构结合了空分复用多芯光纤、无源光分路放大接口、共封装光学以及区域全光再生技术。在具体的网络拓扑中,中央权重服务器将模型参数注入多芯光纤环,信号通过无源光分路器广播至各个计算节点。推理节点利用高度非对称的分路器被动提取极小部分光功率用于本地计算,剩余信号则继续在光纤中循环。这种基于推送的确定性流模型免去了传统网络中耗能的光电转换与本地数据缓冲,使权重矩阵能够直接馈入处理器的脉动阵列。此外,系统采用O波段零色散窗口与密集波分复用技术,并依靠掺镨光纤放大器和全光再生器来补偿信号损耗与抑制噪声累积,确保了长距离传输的物理可行性。

针对Llama-3-70B模型的定量案例研究验证了该方案的有效性。评估结果显示,在包含上万个加速器的集群中,光纤存储器不仅能够完全消除节点本地的冗余权重存储,还能将整体权重传输能耗降低超过70%。尽管部署多公里循环光纤网络面临着衰减、色散及热管理等物理约束,但通过前向纠错机制与外部独立激光源等设计,系统展现出了良好的鲁棒性。这一创新范式证实了利用光纤传输过程存储海量数据的可行性,为缓解现代AI计算集群的内存带宽瓶颈与高能耗危机提供了极具前景的解决思路

原文和模型


【原文链接】 阅读原文 [ 6630字 | 27分钟 ]
【原文作者】 半导体行业观察
【摘要模型】 qwen3.7-max-2026-05-20
【摘要评分】 ★★★★☆

© 版权声明
xunfeiagent

相关文章

trae

暂无评论

暂无评论...