Tianhao Xu

Tianhao Xu 是 NVIDIA 的解决方案架构师经理,专注于与消费互联网公司的客户互动。他专注于 GPU 加速的工作负载,例如 LLM 推理和训练、NVIDIA CUDA 优化、NVIDIA 库和端到端解决方案。他拥有计算流体动力学硕士学位。

Posts by Tianhao Xu

数据中心/云端

从解服务中移除猜测

部署和优化大语言模型 (LLM) 以实现高性能、经济高效的服务可能是一项艰巨的工程难题。任何给定工作负载 (例如硬件、并行和预填充/ 3 MIN READ