重磅!英伟达官宣全球最强AI芯片:性能提升 30 倍,并将重新设计整个底层软件堆栈

AIGC动态4个月前发布 admin
1,382 0 0

模型信息


【模型公司】 Azure
【模型名称】 gpt-4-32k
【摘要评分】 ★★★★★

重磅!英伟达官宣全球最强AI芯片:性能提升 30 倍,并将重新设计整个底层软件堆栈
 

文章摘要


【关 键 词】 英伟达GTC 2024Blackwell架构芯片AI技术生成式人工智能

在美国加利福尼亚州圣何塞的GTC 2024大会上,英伟达发布了一系列新的超级芯片,包括采用Blackwell架构的B200GB200系列芯片。这些芯片被誉为迄今为止功能最强大的AI芯片家族,具有强大的AI性能和安全性。

B200芯片拥有2080亿个晶体管,采用台积电4NP工艺制程,可以支持多达10万亿个参数的AI模型。此外,B200并不是传统意义上的单一GPU,而是由两个紧密耦合的芯片组成,通过10 TB/s NV-HBI(Nvidia高带宽接口)连接进行连接,以确保它们能够作为单个完全一致的芯片正常运行。

英伟达还发布了GB200 NVL72液冷机架系统,其中包含36颗GB200 Grace Blackwell超级芯片,拥有1440 petaflops(又名1.4 exaflops)的推理能力。与用于推理用途的相同数量的H100 Tensor Core图形处理单元相比,GB200 NVL72性能提升高达30倍。

在软件服务方面,英伟达推出了Nvidia推理微服务(NIM),将模型和依赖项整合到一个简洁的包中,根据用户的堆栈进行优化,并与易于使用的API连接。此外,英伟达还发布了另一个新的API集合Project GROOT,以推动人形机器人的开发。

英伟达CEO黄仁勋表示,生成式人工智能是我们这个时代的决定性技术,Blackwell GPU是推动这场新工业革命的引擎。他还预测,未来五年,文本、图像、视频和语音等形式的信息将全部被实时输入大语言模型(LLM),人类可以在推理之后,要求计算机生成代码以实现特定目标。

总的来说,英伟达在GTC 2024大会上展示了其在AI硬件和软件领域的最新创新,这些创新不仅将推动AI技术的发展,也将对开发者和企业产生深远影响。

原文信息


【原文链接】 阅读原文
【阅读预估】 2878 / 12分钟
【原文作者】 InfoQ
【作者简介】 为一线互联网公司核心技术人员提供优质内容。科技圈的观察者,前沿技术的传播者。

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...