Kimi Zhao

Kimi Zhao 是 NVIDIA 的解决方案架构师,专注于大型模型推理加速、分析和强化学习。他拥有学士学位。物理学和硕士学位。信号和信息处理。

Posts by Kimi Zhao

数据中心/云端

从解服务中移除猜测

部署和优化大语言模型 (LLM) 以实现高性能、经济高效的服务可能是一项艰巨的工程难题。任何给定工作负载 (例如硬件、并行和预填充/ 3 MIN READ