英伟达AI Workbench正式发布，大幅度简化大模型开发流程

372 0 0

文章摘要

3月22日，英伟达宣布推出NVIDIA AI Workbench，这是一款专为AI大模型开发人员设计的工具包，旨在简化部署和开发流程。AI Workbench提供快速可靠的GPU环境设置，支持跨异构平台工作、管理和协作。该工具包主要功能包括快速安装、设置和配置基于GPU的开发环境，预构建的生成式人工智能和机器学习示例项目，以及能够部署生成式AI模型的云端端点或本地NVIDIA NIM微服务。此外，AI Workbench还提供直观的用户体验、命令行界面、容器和Git仓库的版本控制管理等功能。

自Beta版发布以来，AI Workbench还新增了一些关键功能，包括Visual Studio (VS) Code支持、基础镜像选择、改进的软件包管理和安装改进。这些功能使用户能够更轻松地管理容器化项目、选择基础镜像、添加软件包到容器中，并简化Windows和MacOS用户的安装路径。AI Workbench的目标是将生成式人工智能开发引入任何支持GPU的环境，适用于现代NVIDIA RTX驱动的工作站、个人电脑、数据中心和云端。Mac用户可以安装AI Workbench，并将项目迁移到NVIDIA驱动的系统，以便进行协作和获得更强大的计算能力。

此外，NVIDIA还提供了一系列免费的Workbench项目示例，帮助开发者入门。这些示例项目涵盖了使用混合检索增强生成（RAG）与文档交流、定制LLMs、在RTX PC或云端上运行Stable Diffusion XL等内容。AI Workbench不仅提供快速的GPU工作站设置，还为开发人员提供了即插即用的示例项目，帮助他们更快地开始数据和用例的开发。这些项目整合了所有必要的资源和元数据，简化了跨不同基础设施的工作流管理，促进了无缝移植和可再现性。