全球算力稀缺下,如何看待端侧 AI 设备投资前景?|钛媒体AGI

全球算力稀缺下,如何看待端侧 AI 设备投资前景?|钛媒体AGI

 

文章摘要


【关 键 词】 苹果公司OpenELM端侧AIAI手机AI PC

苹果公司最近发布了全新的开源语言模型(LLM)OpenELM系列,标志着它加入了科技巨头在端侧模型领域的竞争。OpenELM系列包括四种参数版的模型,分别为0.27B、0.45B、1.08B和3.04B,具备生成文本、代码、翻译和总结摘要等功能,并且可以完全在本地设备上运行,无需连接云服务器。这一举措使得苹果在AI领域的发展引起了市场的关注。苹果CEO蒂姆·库克在5月1日的财报电话会议上强调了公司在生成式AI方面的大量工作,并表示苹果将抓住这一领域的发展机遇。

端侧AI指的是AI可以直接在移动设备上处理数据,而无需连接到服务器或云。这种技术带来了低延迟、高安全性和高灵活性等好处。要实现端侧AI,强大的嵌入式神经网络处理器(NPU)性能至关重要。端侧AI可以实现更强大的功能,如提高图片和视频质量、实现高质量的内容识别处理等。与云端模型相比,端侧AI终端具有提高用户使用体验的三大关键特点:承载个人的大模型、满足用户隐私保护需求;可靠性更强,本地端能够实现即时响应;成本降低,用户与厂商实现双赢。

目前,OPPO、vivo、小米等多款安卓手机,以及联想、戴尔、荣耀、华为等多款AI电脑终端均已布局大模型技术。对于PC市场来说,换机周期临近叠加Windows更新换代,有望催化PC市场复苏反弹。全球PC市场在过去十年经历了衰退、复苏、再衰退的轮动,预计2023年将重回近十年历史底部。到了2024年,硬件巨头布局AI PC的决心强烈,AI PC产品将逐渐走向成熟,有望成为AI PC的元年。

智能手机市场也即将迎来AI Phone时代。AI大模型与智能手机结合有望驱动新一轮换机周期,引领行业发展趋势。三星已经发布了首款AI手机Galaxy S24系列,聚焦翻译/笔记、搜索(圈选即搜)、影像等三大高频场景,销量表现优异。荣耀、vivo、OPPO、小米等品牌开始重点发力AI终端,支持操作系统嵌入AI大模型。华为、苹果也有望加速布局,重点关注华为手机新品及苹果新一代iOS或将嵌入更多AI功能。

从产业链来看,SoC/内存重点升级,配套硬件持续迭代。SOC重点倾斜AI计算引擎,并呈现出向中端手机下沉趋势。运行130亿模型内存需求达16GB以上,目前智能手机平均内存不足6GB,高端手机平均内存仅9GB,内存容量和传输数率有待提升。AI大模型本地长时间运行需要较强散热和续航性能,进一步提高散热及电池规格要求。AI有望更充分地挖掘手机影像潜力,并对摄像头性能提出更高要求。AI赋能下一代5G体验及近场联接体验,助力射频升级迭代。AI引发手机附加值提升契机,钛合金渗透上量革新消费电子工艺与材料。

中信建投认为,端侧AI是AI发展的下一阶段,大模型轻量化等技术推进端侧AI发展。端侧AI具备安全性、独立性、低时延、高可靠性等特点,能很好地完成各种AI推理任务。目前,多个大模型均已推出“小型化”和“场景化”版本,其轻量化提供了端侧运行基础。AI PC核心升级在于芯片,AI PC不同于传统PC的主要之处在于其SoC芯片中要有AI模块,通过AI芯片中的NPU等模块为硬件终端提供算力支撑,从而运行端侧AI大模型。除芯片外,DRAM、计算模组等有望迎来新的升级与市场机遇。

原文和模型


【原文链接】 阅读原文 [ 4959字 | 20分钟 ]
【原文作者】 钛媒体AGI
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...