英特尔最强服务器CPU来了!AI性能直接翻倍

AIGC动态1个月前发布 QbitAI
652 0 0
英特尔最强服务器CPU来了!AI性能直接翻倍

 

文章摘要


【关 键 词】 至强6900P高性能AI加速DDR5内存安全特性

英特尔公司推出了新一代至强® 6 性能核处理器,这一举措标志着服务器CPU领域核心数量竞争的终结。新款处理器采用了创新的分离式模块化设计,允许灵活组合计算单元,实现核心数量的扩展和内存、IO的同步强化,从而提供更优的整体性能和能效。

至强® 6900P系列作为该系列的先锋产品,拥有128个性能核和504MB的超大L3缓存,支持更宽的内存和更多的IO能力,非常适合数据和计算密集型应用,如科学计算、海量数据处理和AI。这款CPU的发布,不仅在核心数量上实现了翻倍,还通过与GPU或其他AI加速器的协同工作,提升了整体性能。

至强® 6 性能核处理器在算力方面,通过核心数量的不同排列组合方式,提供了不同核心的型号,以适应不同场景的需求。它采用了Intel 3制程的计算芯片单元和Intel 7制程的I/O芯片单元,实现了I/O和计算单元的解耦,便于扩展和灵活使用。

在存力方面,至强® 6 性能核处理器支持更快的DDR5内存和MRDIMM内存,引入了Compute Express Link 2.0 (CXL 2.0),支持多种设备类型,实现对内存和存储设备的灵活扩展。此外,它还独占“Flat”内存模式,将CXL内存和DRAM内存视为单一内存层,提升内存使用效率。

至强® 6 性能核处理器还内置了加速器和指令集更新,如英特尔® 高级矩阵扩展(Intel® AMX)对FP16数据类型的支持,以及英特尔® 高级矢量扩展 512(AVX-512),提升了AI推理和训练性能。

安全特性方面,至强® 6 性能核处理器提供了硬件增强的安全特性,如SGX和TDX方案,确保关键数据和应用的安全可靠。

至强® 6 性能核处理器的全能型特点使其既可以单独加速AI推理,也可以作为AI服务器的机头CPU,与GPU或专用AI加速器高效协作,处理数据预处理、数据传输分享和混合工作负载。

英特尔通过与TensorFlow和PyTorch等主流深度学习框架的合作,优化了软件生态和工作负载,确保用户能够充分发挥至强® 6 性能核处理器的潜力。此外,英特尔还展示了与本地数据库软件合作伙伴科蓝软件的成果,其基于至强® 6 性能核处理器构建的高性能国产分布式数据库,吞吐量较第五代至强® 可扩展处理器提升了198%。

至强® 6 性能核处理器的发布,得到了众多OEM、ODM、OSV和ISV的支持,以及多家云服务提供商的背书,这表明英特尔在产品研发上的创新和商业模式上对开放架构平台的依赖。至强® 6 性能核处理器的出现,为AI计算提供了一个新的支点,满足了AI服务器和AI数据中心对CPU的高要求,不仅支持广泛的第三方GPU及AI加速器,还能在其中补足不足之处,为复杂场景提供灵活的算力选择,并增强整个AI平台的稳定性、安全性和扩展性。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 3410字 | 14分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明

相关文章

暂无评论

暂无评论...