面向消费者互联网的开发者资源

NVIDIA® CUDA-X AI™ 是一个完整的深度学习软件堆栈，可供研究人员和软件开发者构建适用于对话式 AI、推荐系统和计算机视觉的高性能 GPU 加速应用程序。CUDA-X AI 库为 MLPerf 等行业基准测试提供出色的训练和推理性能。

NVIDIA TensorRT™ 是用于高性能深度学习推理的 SDK。它包含深度学习推理优化器和运行环境，让深度学习推理应用程序实现低延迟和高吞吐量。

NVIDIA RAPIDS™ 是由 NVIDIA 开发的一套开源数据处理和机器学习库，可为数据科学工作流程实现 GPU 加速。RAPIDS 依赖于 NVIDIA 的 CUDA® 语言，允许用户通过易于使用的 Python 界面利用 GPU 处理和高带宽 GPU 显存。

GPU 加速的 Apache Spark 3.0 可在不更改代码的情况下加快数据科学管道以及数据处理和模型培训，同时大幅降低基础设施成本。

Deep Learning Profiler 是一种用于分析深度学习模型的工具，旨在通过 TensorBoard 或分析文本报告直观地理解和提升数据科学模型的性能。

NVIDIA Nsight™ Systems 是一个系统级性能分析工具，专用于实现应用算法的可视化，以帮助您发现诸多优化机会，以及进行调优以便跨任意数量或大小的 CPU 和 GPU（从大型服务器到最小的系统级芯片 [SoC]）进行高效扩展。

NGC 提供了一系列选项，可满足拥有不同水平 AI 专业知识的数据科学家、开发者和研究人员的需求。通过容器快速部署 AI 框架，利用预训练模型或模型训练脚本获得领先优势，并使用领域特定的工作流程和 Helm 图表加速 AI 实施，让您更快地获得解决方案。

通过 NVIDIA GPU 上的 Kubernetes，企业可将训练和推理部署无缝扩展到多云 GPU 集群。它能支持您在节点集群之间自动部署、维护、调度和操作多个 GPU 加速的应用容器。

NVIDIA Data Center GPU Manager (DCGM) 是一套用于管理和监控集群环境中 NVIDIA GPU 的工具。这是一款开销较低的工具套件，可在每个主机系统上执行各种功能，包括主动运行状况监控、诊断、系统验证、策略、电源和时钟管理、组配置和会计。

大规模收集的数据从根本上改变了组织开展业务的方式，推动了团队对快速提供基于数据科学、机器学习和深度学习的有意义的业务见解的需求。了解数据科学领导者如何使用 RAPIDS 提高团队的工作效率，同时优化其成本并最大限度地缩短部署时间。

实时对话式 AI 是一项复杂而具有挑战性的任务。探索 NVIDIA Riva，以及如何使用多个命令轻松快速地访问其高性能对话式 AI 服务。

此博客介绍了基于 TensorFlow 的 DNNLinearCombinedClassifier API 的广泛而深入的模型如何进行高度优化的 GPU 加速的推理实施。通过建议的解决方案，可以轻松将经过训练的 TensorFlow 广泛而深入的模型转换为混合精度推理部署。

NVIDIA 与 Apache Spark 社区合作，通过发布 Spark 3.0 和适用于 Spark 的开源 RAPIDS 加速器实施 GPU 加速。在此博客中，了解适用于 Apache Spark 的 RAPIDS 加速器如何使用 GPU 加速相同的 Spark 集群、Spark SQL 和 DataFrame 操作的端到端数据准备和模型训练，而无需更改任何代码。

BERT（基于变换器的双向编码器）为自然语言处理 (NLP) 领域提供了颠覆性的转换。它在受 NVIDIA GPU 支持的超级计算机上运行，以训练其巨大的神经网络并实现前所未有的 NLP 准确性，从而影响已知的人类语言理解空间。数十年来，这种 AI 一直备受期待。借助 BERT，这一刻终于到来。

点击率 (CTR) 估算是现代推荐系统最关键的组成部分之一。在本博客中，我们介绍了 HugeCTR，这是一个用于 CTR 估计的 GPU 加速训练框架，也是 NVIDIA Merlin 的支柱。HugeCTR 基于单个 NVIDIA V100 Tensor Core GPU，可将基于 40 核 CPU 节点的 TensorFlow 的速度提升高达 114 倍，将基于同一 V100 GPU 的 TensorFlow 的速度提升高达 8.3 倍。