面向开发者的 NVIDIA NeMo Customizer

NVIDIA NeMo™Customizer 是一种高性能、可扩展的微服务，可简化特定领域用例中生成式 AI 模型的微调和对齐。该微服务支持低秩自适应 (LoRA) 、p-tuning 和监督式微调 (SFT) 等热门定制技术，并持续集成最新的定制技术。

NeMo Customizer 以及其他 NeMo 微服务，使开发者能够创建数据飞轮不断优化生成式 AI 智能体，增强最终用户的整体体验。

立即下载阅读文档访问论坛

查看 NVIDIA NeMo Customizer 的实际应用

了解 NeMo Customizer 以及 NeMo Evaluator 和 NeMo Guardrails 如何帮助开发者构建自定义 AI 智能体。

NVIDIA NeMo Customizer 的工作原理

NeMo Customizer 提供易于使用的 API，可让您自定义生成式 AI 模型。只需在 API 负载中提供数据集、模型名称、超参数和自定义类型即可。NeMo Customizer 将启动一项工作来调整模型，为您生成定制版本。

下方架构图展示了使用 NeMo Customizer 的流程，可让您无缝启动多个自定义作业。在所描述的场景中，您可以利用 NVIDIA NeMo Curator 收集高质量数据，并利用 NeMo Customizer 创建两个自定义工作流：一个用于微调，另一个用于对齐调整。借助这些输出以及 NVIDIA NIM™，您可以部署针对特定用例定制的模型。

A flowchart of how NVIDIA NeMo Customizer works

入门博客

了解 NeMo Customizer 如何简化生成式 AI 模型的对齐和定制。

教程

探索旨在帮助您使用 NeMo Customizer 微服务构建自定义生成式 AI 模型的教程。

入门网络会议

了解数据飞轮如何增强自我改进的代理式 AI 系统，并探索集成 NeMo 组件以优化智能体性能和成本效益的最佳实践。

操作方法博客

通过案例研究和端到端工作流中步骤的快速概述，深入了解 NVIDIA NeMo 微服务如何帮助构建数据飞轮。

如何开始使用 NVIDIA NeMo Customizer

使用合适的工具和技术，简化针对特定领域用例的大语言模型 (LLM) 的微调和对齐。

开发

免费使用 NeMo Customizer 微服务进行研究、开发和测试。

构建

利用 NVIDIA AI Blueprints 快速开始构建您的 AI 解决方案，可定制的参考应用，可在 NVIDIA API Catalog 中获取。

试用 Blueprint

部署

获取使用现有基础架构在生产环境中试用 NVIDIA AI Enterprise 90 天的免费许可证。

申请 90 天许可证

性能

NeMo Customizer 使用多种并行技术来缩短大型模型的训练时间，并支持多 GPU 和多节点基础设施。这些方法协同工作，可增强训练过程，确保优化资源利用并提高训练性能。

使用 NeMo Customizer 体验定制速度提升 1.8 倍

A chart showing 2x faster customization with NeMo Customizer

该基准测试表示在一个 8xH100 80G SXM 上使用序列打包 (封装尺寸为 4096，封装效率为 0.9958) 自定义 Llama-3 -8B。
开：使用 NeMo Customizer 定制。
关闭：使用领先的市场替代方案进行定制。

入门套件

访问各种用例的教程、最佳实践和文档，开始使用 NeMo Customizer 调整生成式 AI 模型。

自定义 LLM

开始使用热门定制技术，例如 LoRA、SFT 和 p-tuning。

数据飞轮

通过自动化模型优化，实现自我改进的代理式 AI 工作流程。

NVIDIA NeMo Customizer 学习资源库

更多资源

探索社区

获取培训和认证

了解面向初创公司的计划

道德 AI

NVIDIA 的平台和应用框架使开发者能够构建各种 AI 应用。在选择或创建要部署的模型时，请考虑潜在的算法偏差。与模型的开发者合作，确保模型满足相关行业和用例的要求；提供必要的说明和文档以了解错误率、置信区间和结果；并确保模型在符合预期条件和方式的情况下使用。

立即开始使用 NeMo Customizer。