CUDA 基础知识
单击“Image” (图像) 放大
什么是 CUDA？
CUDA 是 NVIDIA 的加速计算平台，为应用程序提供利用 GPU 算力的软件层。开发者可以使用 C++、Python、Fortran 等语言编程，或借助如 PyTorch 等 GPU 加速库和框架，将 GPU 计算灵活集成到软件栈的各个层面，以获得更佳的功能与性能表现。
CUDA 平台的重要组成部分之一是 CUDA Toolkit，它提供开发 GPU 应用所需的编译器、库和开发工具。
CUDA 入门
获取 CUDA 开发环境
编写 GPU 驱动的 Python
使用经过优化的预构建库
构建、调试和配置软件
Nsight 开发者工具
NVIDIA Nsight™ 工具是一套功能强大的库、SDK 和开发者工具，涵盖桌面和移动目标。它们使开发者能够利用最新的加速计算硬件构建、调试、分析和开发软件。
释放 GPU 峰值性能
CUDA Tile
NVIDIA CUDA Tile 是一种 GPU 编程模型，可简化基于 Tile 的优化内核的创建，并实现特殊用途硬件 (包括 Tensor Core) 的可移植性。
CUDA 的应用示例：
人工智能
大语言模型（LLM）训练
使用 NVIDIA NeMo™ Framework 和 NeMo Curator 训练一个具备推理能力的模块。
代码：NeMo 框架
Notebook：在 48 小时内训练您自己的推理模型
人工智能
大语言模型（LLM）推理
使用 NVIDIA Dynamo 部署 AI 模型。NVIDIA Dynamo 是一个开源的、低延迟、模块化的推理框架。
数据科学
使用 cuDF 加速 DataFrame 和 SQL
cuDF 是一个 GPU 加速的库，用于优化基础的 DataFrame 与 SQL 操作。它为 pandas、Polars 和 Apache Spark 等常用 DataFrame 工具提供“即插即用”的加速能力，无需修改任何代码即可启用。
Notebook：构建交互式数据分析控制面板
用户指南：cuDF
机器人
采用 NVIDIA Cosmos 的世界基础模型
加速智能汽车 (智能汽车) 、机器人和视频分析 AI 智能体的物理 AI 开发。
GitHub：Cosmos Predict-2
GitHub：Cosmos
量子计算
借助 NVIDIA CUDA-Q 加速量子计算
NVIDIA CUDA-Q™ 是一款与具体量子处理器（QPU）无关的加速量子超级计算平台。
计算机辅助工程
AI 驱动的 CAE 仿真
使用 CUDA-X 加速的 CAE 工具、AI 仿真、GPU 加速和实时数字孪生加速 CAE 仿真，以设计和构建新技术。