单击放大
检索增强型生成的工作原理
RAG 增强了大语言模型 (LLM)从外部知识来源检索最相关的最新信息。在用户从 RAG 工作流检索响应之前，必须将数据提取到知识库中。
数据提取：从各种格式中提取多模态、结构化和非结构化数据并将其转换为文本，以便对其进行过滤和分块，并将其输入检索工作流。
数据检索：提取的数据被传递至嵌入模型，以创建进入向量数据库的知识嵌入。当用户提交查询时，系统会嵌入查询，从向量数据库中检索相关数据，重新排序结果，并将结果发送给 LLM，以返回最准确的上下文感知型响应。
探索 RAG 工具和技术
NVIDIA NeMo 检索器
NVIDIA NeMo Retriever 是用于提取、提取、嵌入和重新排序的生成式 AI 微服务的集合，使开发者能够构建工作流，实时生成具有高准确性和最大数据隐私性的业务见解。
NVIDIA NeMo Agent Toolkit
NVIDIA NeMo Agent Toolkit 是一个开源库，用于对 AI 智能体系统进行与框架无关的分析、评估和优化。通过揭示隐藏的瓶颈和成本，它帮助企业在保持可靠性的同时，高效地扩大智能体系统的规模。
NVIDIA cuVS
NVIDIA cuVS 是一个开源库，用于 GPU 加速的向量搜索和数据聚类。它实现了更高的吞吐量、更低的延迟和更快的索引构建时间，并提高了工作流和应用 (如信息检索或 RAG) 中的语义搜索效率。
NVIDIA NeMo Curator
NVIDIA NeMo Curator 是一个框架，提供预构建的加速管线，用于大规模处理多模态数据，以提升 RAG 系统的性能。
NVIDIA NeMo Customizer
NVIDIA NeMo Customizer 是一项高性能、可扩展的微服务，用于简化生成式 AI 模型（包括嵌入模型）在特定领域用例下的微调和对齐，从而让各行各业更轻松地采用生成式 AI。
NVIDIA NeMo Evaluator
NVIDIA NeMo Evaluator 是一款用于评估生成式 AI 模型、RAG 流水线和智能体的 SDK 和微服务，提供 100 多项基准测试和自定义指标，适用于任何环境。
NVIDIA NIM
NVIDIA NIM 是一组易于使用的微服务，旨在加速在任意云环境或数据中心中部署生成式 AI 模型。
NVIDIA Nemotron
NVIDIA Nemotron 是一系列开放且高效的多模态模型，配套开放数据集和开发范式，用于构建代理式 AI 系统。
探索使用 RAG 的 NVIDIA AI 蓝图
NVIDIA AI 蓝图是生成式 AI 用例的参考工作流 NVIDIA NIM 微服务。借助这些蓝图，开发者可以构建生产就绪型 AI 应用，为员工提供实时见解，并将其连接到 AI 查询引擎，从而实现转型效率和生产力提升。
企业级 RAG
使用行业领先的 NeMo Retriever 嵌入和重排序模型，在大规模信息检索场景中，将安全、可扩展、可靠的 AI 应用连接到公司内部的企业数据。
流式数据到 RAG
从无线电信号和其他传感器数据等流式来源中挖掘动态的、具备上下文感知能力的洞察。
视频搜索与摘要 AI 智能体
接收并处理海量的实时或归档视频，从中提取关键信息，用于生成摘要和支持交互式问答。
生物医学 AI-Q 研究智能体
提升多种临床研发流程的效率和准确性，包括研发、文献综述、方案制定、临床试验筛选以及药物警戒等。
面向客户服务的 AI 助理
构建安全、具备上下文感知能力的虚拟助手，以满足企业的特定业务需求，并增强客户服务运营效果。