1. [主题](https://developer.nvidia.cn/topics/) [AI](https://developer.nvidia.cn/topics/ai) 2. [生成式 AI](https://developer.nvidia.cn/generative-ai) NVIDIA NeMo Guardrails # 面向开发者的 NVIDIA NeMo Guardrails NVIDIA NeMo™ Guardrails 是一款可扩展的 AI 安全防护编排解决方案，旨在确保智能体应用的安全、可靠与一致性。它可用于定义、编排并执行内容安全、主题控制、PII（个人身份信息）检测、RAG 溯源以及越狱防护等防护措施，具备低延迟与无缝集成功能。该方案具备良好的可扩展性与定制性，可与 LangChain、LangGraph 和 LlamaIndex 等框架集成，支持多智能体部署，并利用 GPU 加速实现低延迟性能。NeMo Guardrails 还内置了基于 [NVIDIA Nemotron](https://developer.nvidia.cn/nemotron) 模型的 [NVIDIA NIM™ 微服务](https://www.nvidia.cn/ai/) 和 [Hugging Face](https://huggingface.co/collections/nvidia/nemoguard) 上提供的开箱即用模型，覆盖内容安全、主题控制和越狱检测等功能，并配套一个[不断扩展的 AI 安全模型](https://docs.nvidia.com/nemo/guardrails/latest/user-guides/guardrails-library.html)、防护规则与可观测性工具生态系统。它是更广泛的 [NVIDIA NeMo](https://www.nvidia.cn/ai-data-science/products/nemo/) 软件套件的一部分，用于构建、监控与优化智能体全生命周期。 [访问代码库](https://github.com/NVIDIA-NeMo/Guardrails "Github Repo")[文档 ](https://docs.nvidia.com/nemo/guardrails/documentation.html "Download Workflows")[论坛 ](https://forums.developer.nvidia.com/tag/nemo "Download Workflows") * * * ## 了解 NVIDIA NeMo Guardrails 的实际应用 在构建安全、合规的智能体时，执行内容安全、RAG 溯源和越狱防护。本视频演示了 NeMo Guardrails 如何简化防护机制的编排，使 AI 应用更加安全可靠。 * * * ## NVIDIA NeMo Guardrails 的工作原理 NeMo Guardrails 提供用于构建稳健、可扩展防护解决方案的组件，专为 LLM 应用和智能体设计。它可根据特定场景策略评估用户输入和模型响应，在原生防护功能之外提供额外的安全层。 主要优势： - **可编程策略：支持自定义内容审核、PII（个人身份信息）检测、主题相关性和越狱检测，可根据行业与应用场景进行调整。** - **高效编排：** 同时筛查用户输入与模型输出，以最低延迟高效协调多项防护机制。 - **企业级支持与可扩展性：可应对高并发需求，并扩展至多个应用场景，提供企业级支持。** - **流程管理：** 通过灵活的操作方式，根据需求阻止、筛选或调整后续动作与响应。 ![A diagram showing how NVIDIA NeMo Guardrails supports multiple AI guardrails](https://developer.download.nvidia.com/images/RAG-aditi-llm-nemo-guardrails-diagram-devzone-1920x1089.jpg) ### 入门博客 借助 AI 护栏简化可信 LLM 应用的构建，确保安全性和可控性。 [阅读博客](https://developer.nvidia.com/zh-cn/blog/nvidia-enables-trustworthy-safe-and-secure-large-language-model-conversational-systems/) ### 部署 Guardrails 教程 使用 NeMo Guardrails 微服务使用并行滑轨运行推理。 [访问教程](https://github.com/NVIDIA/GenerativeAIExamples/blob/main/nemo/NeMo-Guardrails/Parallel_Rails_Tutorial.ipynb) ### 示例配置 此文件夹中的配置展示了 NeMo Guardrails 的各种功能，例如使用特定的 LLM、启用流式传输和事实检查。 [探索 示例](https://docs.nvidia.com/nemo/guardrails/getting-started/3-demo-use-case/README.html) ### 客户助理示例 了解如何将高级内容审核、越狱检测和主题控制与 NeMo Guardrails NIM 微服务集成。 [试用 Notebook](https://github.com/NVIDIA/NeMo-Guardrails/blob/develop/examples/notebooks/safeguard_ai_virtual_assistant_notebook.ipynb) * * * ## 开始使用 NVIDIA NeMo Guardrails 的方法 借助 NeMo Guardrails 可扩展的 AI Guardrails 编排平台，使用合适的工具和技术保护 AI 应用。 ![AI guardrails code](https://brand-assets.cne.ngc.nvidia.com/assets/marketing-icons/2.3.0/download.svg) ### 下载 免费获取 NeMo Guardrails 微服务，用于研究、开发和测试。您可以通过 [Safety for Agentic AI](https://build.nvidia.com/nvidia/safety-for-agentic-ai) 开发者示例体验该微服务。 [下载微服务 ](https://catalog.ngc.nvidia.com/orgs/nvidia/teams/nemo-microservices/collections/nemo-microservices) ![AI guardrails code](https://developer.download.nvidia.com/images/icons/m48-coding-256px-blk.png) ### ### 访问 SDK 为了使用最新的功能和源代码将 AI 护栏添加到 LLM 应用中，NeMo Guardrails 在 GitHub 上作为开源项目提供。 [访问工具包](https://github.com/NVIDIA/NeMo-Guardrails) ![AI guardrails microservice](https://developer.download.nvidia.com/icons/m48-digital-deep-learning-institute-talks-training.svg) ### 试用 在 Hugging Face 上体验 Nemotron Safety Guard 模型，用于内容安全、主题控制和越狱检测。 [试用模型](https://huggingface.co/collections/nvidia/nemoguard) * * * ## 性能 NeMo Guardrails 支持 AI 护栏，可确保 LLM 推理安全可靠且合规。只需半秒的延迟，即可将检测率提升高达 1.4 倍。通过强制实施 AI 模型、智能体和系统的自定义规则，确保企业 AI 运营的安全性和可靠性。使用经过优化且易于部署的预封装 NVIDIA NIM™ 微服务。 ### 借助 NeMo Guardrails在仅有半秒延迟的情况下合规率可提升至 1.4 倍以上 通过对五项 AI 防护机制的策略合规性进行评估 ![A chart showing 1.5X Improvement in Protection Rate With Only 30 Seconds of Latency With NeMo Guardrails](https://developer.download.nvidia.com/images/NeMo-guardrails-chart-1.4x.svg) 测试结果显示，借助 NeMo Guardrails 并行编排多达 5 个基于 GPU 加速的防护机制，检测率提升至原有的 1.4 倍，同时仅增加约 0.5 秒延迟，在不明显拖慢响应速度的前提下，带来约 50% 的更高防护能力。 * * * ## NVIDIA NeMo Guardrails 学习资源库 * * * ## 更多资源 ![AI guardrails community](https://developer.download.nvidia.com/images/omniverse/m48-people-group.svg) ### 探索社区 ![AI guardrails training](https://developer.download.nvidia.com/images/isaac/m48-certification-ribbon-2-256px-blk.png) ### 获取培训和认证 ![AI guardrails startup](https://developer.download.nvidia.com/images/isaac/m48-ai-startup-256px-blk.png) ### 加速您的初创公司发展 * * * ## AI 伦理 NVIDIA 的平台和应用框架使开发者能够构建各种 AI 应用。在选择或创建要部署的模型时，请考虑潜在的算法偏差。与模型的开发者合作，确保其满足相关行业和用例的要求；提供必要的说明和文档以了解错误率、置信区间和结果；并且确保在预期的条件和方式下使用模型。 ## 立即开始使用 NeMo Guardrails。 [立即下载](https://catalog.ngc.nvidia.com/orgs/nvidia/teams/nemo-microservices/collections/nemo-microservices)