只要千元级,人人可用百亿级多模态大模型!国产「AI模盒」秒级训练推理

AIGC动态4周前发布 AIera
134 0 0
只要千元级,人人可用百亿级多模态大模型!国产「AI模盒」秒级训练推理

 

文章摘要


【关 键 词】 AI模盒大模型云天励飞DeepEdge10边缘计算

云天励飞推出了一款名为「深目」的AI模盒,这款设备搭载了国产自研大模型推理芯片DeepEdge10,以及多模态大模型「云天天书」,并具备边缘AI在线学习能力。

它的售价只有千元级,可以轻松实现百亿级参数多模态大模型的推理+微调。

这款AI模盒的推出,使得每个企业都能同时拥有专属于自己的大模型和训练设备,并基于此轻松地实现覆盖场景超90%,算法精度超90%,使用成本降低90%。

云天励飞的「深目」AI模盒的大模型能力,来源于多次霸榜C-Eval、CMMLU等权威测试的,云天励飞自研多模态大模型「云天天书」。

而其算力基础,来源于云天励飞推出的第一颗基于纯国产工艺、可承载百亿级多模态大模型边缘推理计算的芯片——DeepEdge10。

这颗芯片采用了自主可控的SoC和国产RISC-V核心,算力在INT8精度下可达48TOPS。

云天励飞副总裁罗忆在发布会现场演示了「深目」AI模盒在数据少、无数据等极端情况下,快速完成算法训练的能力。

例如,只需5张照片,算法精度即可提升10%以上。

另外,通过AI合成数据来训练算法,不仅能够填补数据空白,还能够规避隐私安全等问题。

云天励飞一直秉持着将AI技术与物理世界相结合的理念,通过算法芯片化,无形的技术和有形的世界构建出了一座通道。

从此,AI不仅是虚拟世界的工具,而切实地转化为物理世界的生产力。

云天励飞已经在公安、城市治理、智慧交通、人居生活等领域打造了多个标杆项目,还在低空经济、智慧教育等领域持续探索中。

总的来说,云天励飞的「深目」AI模盒是一款具有划时代意义的产品,它将大模型的能力和边缘计算的便利性结合在一起,为企业提供了一种高效、低成本的AI解决方案。

原文和模型


【原文链接】 阅读原文 [ 3316字 | 14分钟 ]
【原文作者】 新智元
【摘要模型】 gpt-4-32k
【摘要评分】 ★★★★★

© 版权声明
AcademicIdeas – 学境思源AI论文写作

相关文章

AcademicIdeas – 学境思源AI论文写作

暂无评论

暂无评论...