英伟达已成大模型行业的“苹果”,无问芯穹要做一种更兼容的“安卓”

AIGC动态2周前发布 Si-Planet
111 0 0
英伟达已成大模型行业的“苹果”,无问芯穹要做一种更兼容的“安卓”

 

文章摘要


【关 键 词】 深度学习软硬件优化AI芯片异构混训操作系统

汪玉教授是定制应用域加速领域的先驱,提出了“深度学习算法-编译-芯片联合设计”的路线。
他们的实验室孵化了AI芯片公司深鉴科技,后被赛灵思以3亿美元收购,证明了软硬件联合优化技术的产业价值。
基于Transformer架构的大模型统一了AI领域,使得软硬件联合优化技术得以标准化和规模化。
无问芯穹的核心技术是“MxN”,即通过软硬件联合优化,实现M种模型和N种芯片的统一。
无问芯穹构建了从底层芯片到上层模型的全栈垂直优化技术,包括推理层的Infini-ACC大模型计算优化引擎和训练层的Infini-AI异构混训技术。
无问芯穹希望将这些技术以标准产品的形式提供给用户,使用户能够在无感知的情况下使用异构、高性价比且易用的算力。
无问芯穹的商业模式是“运营商”模式,即运营算力资源,软件平台是运营资源所需的工具。
无问芯穹的大客户是模型厂商,通过与大客户的深度绑定,了解客户需求,进而带动小客户的发展。
无问芯穹已与AMD、华为昇腾等多家芯片厂商建立了战略合作关系。
无问芯穹的愿景是成为一个全新的操作系统,将各家的“CUDA”接入其平台,实现软硬件的高效协同优化。
这一愿景的实现得益于大模型统一了底层框架,为软硬件联合优化技术带来了规模化的可能。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 4540字 | 19分钟 ]
【原文作者】 硅星人Pro
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...