云级 AI 计算机视觉用例

大规模部署在云中的 AI 成像和 CV 工作负载的常见用例包括:
主要功能
CV-CUDA 提供一套专业的 30 多名高性能计算机视觉和图像处理操作员。 CV-CUDA 还提供:
- C 、 C ++和 Python API
- 批量处理支持,具有可变形状的图像
- 与 PyTorch 和 TensorFlow 等深度学习框架的零拷贝接口
- Triton 推理服务器™ 使用 CV-CUDA 和 TensorRT 的示例™
- 端到端 GPU - 加速对象检测、分割和分类示例

CV-CUDA 与其他计算机视觉库的区别
用于基于云的用例的专用内核集
高效、手动优化的内核,可节省成本和能源
用于集成到框架中的轻量级和灵活性
端到端吞吐量提高高达 49X
CV-CUDA 使您能够将瓶颈在 CPU 上的预处理和后处理管道移动到 GPU ,帮助实现复杂工作流程的更高吞吐量。对于典型的视频分割流水线, CV-CUDA 能够使用 NVIDIA® L4 Tensor Core GPU 实现端到端的 49X 加速。凭借最新、最高效的 NVIDIA GPU 和 CV-CUDA ,云级应用程序的开发人员可以节省数千万至数亿的计算成本,并消除数千吨的碳排放。
视频分割流水线(端到端)
1080p ,每秒 30 帧
全球行业采用
从内容理解到视觉搜索和生成人工智能,客户正在将 CV-CUDA 用于他们的人工智能计算机视觉用例。
相关新闻

使用 CV-CUDA 提高基于人工智能的计算机视觉的吞吐量并降低成本
CV-CUDA 能够实现实时、高性能的云规模应用,并要求更低的延迟和更高的吞吐量。

NVIDIA 宣布微软、腾讯、百度采用 CV-CUDA 进行计算机视觉人工智能
CV-CUDA 正在帮助客户构建和扩展基于人工智能的成像和计算机视觉管道。

NVIDIA 推出开源项目以加速计算机视觉云应用
CV-CUDA 结合了加速的图像预处理和后处理算法和工具,以处理更高的图像吞吐量和更低的云计算成本。
视频和网络研讨会
资源
- 观看网络研讨会:克服 AI 计算机视觉中的预处理和后处理瓶颈 流水线 ( 42 : 27 分钟)
- 查看 CV-CUDA 带来的不同:Runway 优化 AI 图像和 带有 CV-CUDA 的视频生成工具 ( 01 : 18 分钟)
- 审查文件:CV-CUDA 开发者指南
通过分享您如何使用 CV-CUDA 以及您对开源库的反馈,帮助改进 CV-CUDA ,并为我们的路线图提供信息。我们可能会与您跟进以进一步参与。
您必须是员NVIDIA 开发者计划的成并使用您所在组织的电子邮件地址登录。我们不会接受来自个人电子邮件帐户的申请。