创业 3 年、团队仅 12 人,这个硅谷公司把端侧 AI 做进了高通

AIGC动态1小时前发布 Si-Planet
25 0 0
创业 3 年、团队仅 12 人,这个硅谷公司把端侧 AI 做进了高通

 

文章摘要


【关 键 词】 端侧智能高通收购模型部署芯片适配商业路径

Nexa AI 开发了开源工具 Nexa SDK,致力于解决大语言模型在手机、电脑等终端设备上的部署与适配难题。该工具针对新一代设备中专门处理 AI 任务的 NPU 进行深度优化,将行业通常需要数周甚至数月的模型适配周期大幅压缩至模型发布当天。凭借在模型运行速度、效果及新模型支持速度上的显著优势,以及在开发者社区积累的良好生态,Nexa AI 最终被高通收购。其十二人团队保持完整建制,原开源工具演变为专门面向高通平台的生成式 AI 推理框架 GenieX。

当前端侧 AI 已在图像处理、异常检测等非生成式领域广泛应用,生成式 AI 的全面落地则高度依赖于终端算力和内存的快速迭代。未来云端与端侧联合推理将成为行业主流趋势,端侧模型负责处理功能调用等对实时性要求高或涉及隐私数据的本地任务,而真正复杂的推理则交由云端完成。NPU 作为专为 AI 运算设计的处理单元,通过底层硬件感知软件设计,能够在运行速度和模型质量上取得双重优势,是当下端侧 AI 发展中亟需突破的核心环节。

端侧 AI 软件如果单独变现会面临难以规模化的问题,其真正的商业价值在于与特定芯片深度整合从而促进硬件销售。将端侧部署技术与芯片平台深度绑定,能够向设备制造商直观展示平台能力并直接影响采购决策,这是创业团队认为加入大型芯片平台是更优路径的核心商业逻辑。加入高通后,团队将免去推广精力并专注于产品研发,未来的核心目标是推动 GenieX 覆盖绝大多数高通芯片开发者,持续完善高通平台的端侧 AI 生态。

原文和模型


【原文链接】 阅读原文 [ 4142字 | 17分钟 ]
【原文作者】 硅星人Pro
【摘要模型】 qwen3.7-max-2026-05-17
【摘要评分】 ★★★★☆

© 版权声明
xunfeiagent

相关文章

trae

暂无评论

暂无评论...