为什么说GPU再火,AI平台也少不了强力的CPU

AIGC动态9个月前发布 QbitAI
999 0 0
为什么说GPU再火,AI平台也少不了强力的CPU

 

文章摘要


【关 键 词】 AIGCAI服务器CPUGPU硬件搭配

本文讨论了AIGC(人工智能生成内容)的兴起对AI服务器市场的影响,特别是对专用加速芯片和AI加速服务器的需求。据统计,2023年全球AI服务器市场规模已达到211亿美元,预计到2025年将增长至317.9亿美元。AIGC大模型的训练和推理需要大量高性能算力,进一步推动了对AI服务器的需求。

AI加速服务器通常采用异构架构,配备尽可能多的GPU或其他加速器,但CPU在其中仍然扮演着关键角色。每8个GPU需要搭配2个CPU,因为CPU负责整个服务器的运算与控制,协调各个硬件组件的工作,包括内存管理、数据流控制和I/O操作。CPU的灵活性和通用性使其能够在处理序列化任务、执行复杂逻辑和运行通用应用程序方面发挥作用。此外,CPU在系统启动和维护、软件兼容性方面具有优势,并且与其他专用加速芯片相比,CPU在成本效益上也是一个较好的选择。

文章以国内AI加速服务器市场份额第一的浪潮为例,介绍了其NE5260G7服务器适配的第五代英特尔® 至强® 可扩展处理器。这款处理器在人工智能工作负载方面的性能提升了21%,特别是在AI推理任务上,性能增幅达到了42%。此外,其内存带宽增加了16%,在执行一般计算任务时,整体性能提高至多21%,并且在多个客户实际工作负载中实现了每瓦特功耗性能提升高达36%。

文章还强调,AI不仅仅是大模型,CPU在AI系统的整个生命周期中扮演着多样化的角色,包括数据采集、预处理、训练、推理、应用等全流程。例如,在AlphaFold2的蛋白质折叠预测中,CPU提供了性价比高的加速方案。在OCR技术应用中,CPU的性能也得到了提升。此外,CPU在数据处理环节中也发挥着重要作用,如数据预处理、训练中的数据调度、模型上线后的持续优化和维护等。

文章最后指出,未来AI的发展需要重视整个AI平台中多种硬件与软件的搭配及协同工作。CPU作为主控、加速、辅助的多面手,对于提升整个平台的质量至关重要。高端CPU的作用不仅是直接加速AI推理,还关系到整个AI平台或系统整体性能的提升,以及提供更加稳定和安全的运行环境来拓展AI的边界。

原文和模型


【原文链接】 阅读原文 [ 3607字 | 15分钟 ]
【原文作者】 量子位
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...