Yifei Fang

Yifei Fang 是 NVIDIA TensorRT 团队的高级软件工程师,负责领导 NVIDIA TensorRT Model Connect 的 AI 原生软件计划。他的工作重点是在整个 TensorRT 生态系统中扩展模型支持,并围绕独立于框架的推理软件打造充满活力的社区。

Posts by Yifei Fang

数据中心/云端

借助 NVIDIA TensorRT Model Connect,在两个命令中部署从检查点到推理的开放模型

开放 AI 模型的发展速度远超以往,但将其引入本地应用仍然需要模型特定的转换、预处理、后处理和运行时代码。 2 MIN READ