英伟达AI Workbench正式发布,大幅度简化大模型开发流程

AIGC动态9个月前发布 AIGCOPEN
784 0 0
英伟达AI Workbench正式发布,大幅度简化大模型开发流程

 

文章摘要


【关 键 词】 AI开发工具包GPU示例项目

3月22日,英伟达宣布推出NVIDIA AI Workbench,这是一款专为AI大模型开发人员设计的工具包,旨在简化部署和开发流程。AI Workbench提供快速可靠的GPU环境设置,支持跨异构平台工作、管理和协作。该工具包主要功能包括快速安装、设置和配置基于GPU的开发环境,预构建的生成式人工智能和机器学习示例项目,以及能够部署生成式AI模型的云端端点或本地NVIDIA NIM微服务。此外,AI Workbench还提供直观的用户体验、命令行界面、容器和Git仓库的版本控制管理等功能。

自Beta版发布以来,AI Workbench还新增了一些关键功能,包括Visual Studio (VS) Code支持基础镜像选择改进的软件包管理安装改进。这些功能使用户能够更轻松地管理容器化项目、选择基础镜像、添加软件包到容器中,并简化Windows和MacOS用户的安装路径。AI Workbench的目标是将生成式人工智能开发引入任何支持GPU的环境,适用于现代NVIDIA RTX驱动的工作站、个人电脑、数据中心和云端。Mac用户可以安装AI Workbench,并将项目迁移到NVIDIA驱动的系统,以便进行协作和获得更强大的计算能力。

此外,NVIDIA还提供了一系列免费的Workbench项目示例,帮助开发者入门。这些示例项目涵盖了使用混合检索增强生成(RAG)与文档交流、定制LLMs、在RTX PC或云端上运行Stable Diffusion XL等内容。AI Workbench不仅提供快速的GPU工作站设置,还为开发人员提供了即插即用的示例项目,帮助他们更快地开始数据和用例的开发。这些项目整合了所有必要的资源和元数据,简化了跨不同基础设施的工作流管理,促进了无缝移植和可再现性。

原文和模型


【原文链接】 阅读原文 [ 900字 | 4分钟 ]
【原文作者】 AIGC开放社区
【摘要模型】 gpt-3.5-turbo-0125
【摘要评分】 ★★★☆☆

© 版权声明
“绘蛙”

相关文章

暂无评论

暂无评论...