Yifei Fang

Yifei Fang 是 NVIDIA TensorRT 团队的高级软件工程师,负责领导 NVIDIA TensorRT Model Connect 的 AI 原生软件计划。他的工作重点是在整个 TensorRT 生态系统中扩展模型支持,并围绕独立于框架的推理软件打造充满活力的社区。

Posts by Yifei Fang

数据中心/云端

设计原生 AI:构建 NVIDIA TensorRT 模型连接的经验教训

并行工作、模型系列隔离、可逆更改和 GPU 支持的验证塑造了围绕编码代理设计的开源项目 NVIDIA TensorRT Model… 2 MIN READ
数据中心/云端

借助 NVIDIA TensorRT Model Connect,在两个命令中部署从检查点到推理的开放模型

开放 AI 模型的发展速度远超以往,但将其引入本地应用仍然需要模型特定的转换、预处理、后处理和运行时代码。 2 MIN READ