AI芯片,新变化

AIGC动态4周前发布 admin
197 0 0
AI芯片,新变化

 

文章摘要


【关 键 词】 AI芯片异构计算边缘计算能效优化数据处理

随着人工智能技术的发展,对计算资源的需求不断增加,特别是在处理大型语言模型时。为了应对这一挑战,人工智能系统设计正在经历转变,从追求速度最快的处理器转向更加平衡的方法,这种方法包括高度专业化的异构计算元素、更快的数据移动和显著降低的功率消耗。

芯片制造商正在采用2.5D/3.5D封装技术,以实现更大的定制化和提高每瓦性能。在Hot Chips 24会议上,领先的芯片制造商展示了新的微架构、预取和分支预测的改进、更快的内存访问以及更智能的片上和片外数据管理。这些新设计旨在减少处理大型语言模型所需的能源,同时在超大规模和边缘数据中心挖掘新机遇。

NVIDIA的新款Blackwell芯片结合了GPU、CPU和DPU,旨在处理更大规模的数据模型,并为低精度AI打开了大门。数据中心的变化体现在更加注重数据管理,智能地对数据进行优先级排序。IBM的Telum处理器和英特尔的Gaudi 3 AI加速器芯片都是这一趋势的例证,它们通过更复杂的分区和优先级划分来提高性能。

边缘计算领域,AI处理正从超大规模数据中心的训练转向边缘,以减少数据移动成本和提高查询响应速度。这为使用小芯片的异构设计开辟了新市场,这些小芯片可以由不同的公司或代工厂开发。英特尔的Lunar Lake和高通的Oryon SoC都是针对移动和桌面计算的解决方案,它们通过分离逻辑和使用2.5D配置来优化性能和功耗。

FuriosaAI是一家韩国初创公司,正在开发用于边缘的AI芯片,其张量收缩处理器旨在实现可持续的AI计算。这些芯片架构展示了整个半导体生态系统为实现AI的可持续性和潜力所做的努力。

总之,AI的发展需要整个半导体生态系统的共同努力,包括更高效的软件、微架构的改进、减少大型语言模型查询的发生频率、更精确的响应,以及更紧密地集成专用处理元件。随着技术的不断进步,AI的潜力将得到更充分的发挥。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 3641字 | 15分钟 ]
【原文作者】 半导体行业观察
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明

相关文章

暂无评论

暂无评论...