1. [主题](https://developer.nvidia.cn/topics/)
2. [AI](https://developer.nvidia.cn/topics/ai/)
3. 
检索增强型生成技术  

# 检索增强型生成技术  

[检索增强型生成技术 (RAG)](https://www.nvidia.cn/glossary/retrieval-augmented-generation/)与加速计算结合使用时，大语言模型能够更快地处理大量数据，从而生成高度准确的响应。

查找教程、示例、视频等：

[探索资源](#learning-library)

主要主题：

- 
人工智能  

- 
数据索引/提取
- 
查询管道

- 
大语言模型
- 
生成式 AI  

[![Retrieval-Augmented Generation Pipeline](https://developer.download.nvidia.com/images/llm-rag2.3-light-r3-v1.png "Retrieval-Augmented Generation Pipeline")](https://developer.download.nvidia.com/images/llm-rag2.3-light-r3-v1.png)

单击放大

## 检索增强型生成的工作原理  

RAG 增强了[大语言模型 (LLM)](https://www.nvidia.cn/glossary/large-language-models/)从外部知识来源检索最相关的最新信息。在用户从 RAG 工作流检索响应之前，必须将数据提取到知识库中。

1. 

**数据提取** ：从各种格式中提取多模态、结构化和非结构化数据并将其转换为文本，以便对其进行过滤和分块，并将其输入检索工作流。

2. 

**数据检索** ：提取的数据被传递至嵌入模型，以创建进入向量数据库的知识嵌入。当用户提交查询时，系统会嵌入查询，从向量数据库中检索相关数据，重新排序结果，并将结果发送给 LLM，以返回最准确的上下文感知型响应。

评估 RAG 流程至关重要，因为这些系统涉及多个交互组件，且单个组件中的错误或偏差会在整个系统中传播，从而导致生成的输出中的复合错误。  

[探索我们的学习路径，了解如何构建 RAG AI 智能体](/topics/ai/how-to-build-an-agentic-rag)

## 探索 RAG 工具和技术  

### NVIDIA NeMo 检索器  

[NVIDIA NeMo](https://www.nvidia.cn/ai-data-science/products/nemo/) Retriever 是用于提取、提取、嵌入和重新排序的生成式 AI 微服务的集合，使开发者能够构建工作流，实时生成具有高准确性和最大数据隐私性的业务见解。

[NeMo 检索器入门](/nemo-retriever/)

### NVIDIA NeMo Agent Toolkit

NVIDIA NeMo Agent Toolkit 是一个开源库，用于对 AI 智能体系统进行与框架无关的分析、评估和优化。通过揭示隐藏的瓶颈和成本，它帮助企业在保持可靠性的同时，高效地扩大智能体系统的规模。

[开始使用 NeMo Agent Toolkit](/nemo-agent-toolkit)

### NVIDIA cuVS  

NVIDIA cuVS 是一个开源库，用于 GPU 加速的向量搜索和数据聚类。它实现了更高的吞吐量、更低的延迟和更快的索引构建时间，并提高了工作流和应用 (如信息检索或 RAG) 中的语义搜索效率。

[开始使用 NVIDIA cuVS](/cuvs)

### NVIDIA NeMo Curator  

NVIDIA NeMo Curator 是一个框架，提供预构建的加速管线，用于大规模处理多模态数据，以提升 RAG 系统的性能。

[开始使用 NeMo Curator](/nemo-curator/)

### NVIDIA NeMo Customizer  

NVIDIA NeMo Customizer 是一项高性能、可扩展的微服务，用于简化生成式 AI 模型（包括嵌入模型）在特定领域用例下的微调和对齐，从而让各行各业更轻松地采用生成式 AI。

[开始使用 NeMo Customizer](/nemo-customizer/)

### NVIDIA NeMo Evaluator  

NVIDIA NeMo Evaluator 是一款用于评估生成式 AI 模型、RAG 流水线和智能体的 SDK 和微服务，提供 100 多项基准测试和自定义指标，适用于任何环境。

[开始使用 NeMo Evaluator](/nemo-evaluator/)

### NVIDIA NIM

[NVIDIA NIM](https://www.nvidia.cn/ai/) 是一组易于使用的微服务，旨在加速在任意云环境或数据中心中部署生成式 AI 模型。

[开始使用 NIM](/nim)

### NVIDIA Nemotron

NVIDIA Nemotron 是一系列开放且高效的多模态模型，配套开放数据集和开发范式，用于构建代理式 AI 系统。

[开始使用 Nemotron](/nemotron)

## 探索使用 RAG 的 NVIDIA AI 蓝图

[NVIDIA AI 蓝图](https://www.nvidia.cn/ai-data-science/ai-workflows/)是生成式 AI 用例的参考工作流 [NVIDIA NIM](https://www.nvidia.cn/ai/) 微服务。借助这些蓝图，开发者可以构建生产就绪型 AI 应用，为员工提供实时见解，并将其连接到 AI 查询引擎，从而实现转型效率和生产力提升。

### AI-Q 研究智能体  

[AI-Q](https://build.nvidia.com/nvidia/aiq) 是一款 NVIDIA AI Blueprint，用于构建能够访问、查询并操作业务知识的 AI 智能体。借助 NeMo Retriever、RAG 和 Nemotron 推理模型等工具，它可以将企业数据转化为可访问、可执行的资源。

[立即试用](https://build.nvidia.com/nvidia/aiq)

### 企业级 RAG

使用行业领先的 NeMo Retriever 嵌入和重排序模型，在大规模信息检索场景中，将安全、可扩展、可靠的 AI 应用连接到公司内部的企业数据。

[立即试用](https://build.nvidia.com/nvidia/build-an-enterprise-rag-pipeline)

### 流式数据到 RAG

从无线电信号和其他传感器数据等流式来源中挖掘动态的、具备上下文感知能力的洞察。

[立即试用](https://build.nvidia.com/nvidia/streaming-data-to-rag)

### 视频搜索与摘要 AI 智能体

接收并处理海量的实时或归档视频，从中提取关键信息，用于生成摘要和支持交互式问答。

[立即试用](https://build.nvidia.com/nvidia/video-search-and-summarization/blueprintcard)

### 生物医学 AI-Q 研究智能体   

提升多种临床研发流程的效率和准确性，包括研发、文献综述、方案制定、临床试验筛选以及药物警戒等。

[立即试用](https://build.nvidia.com/nvidia/biomedical-aiq-research-agent)

### 面向客户服务的 AI 助理   

构建安全、具备上下文感知能力的虚拟助手，以满足企业的特定业务需求，并增强客户服务运营效果。

[立即试用](https://build.nvidia.com/nvidia/ai-virtual-assistant-for-customer-service)

## 检索增强型生成学习资源  



*数据正在准备中，请稍后重试。*