Joe Halabi

Joe Halabi 是 NVIDIA 的高级深度学习软件工程师,从事 TensorRT Edge-LLM 的工作,为边缘平台优化大语言模型推理。他的工作涵盖 GPU 内核开发、运行时系统以及功耗和性能优化。此前,他从事 NVIDIA cuDNN 库的开发工作,开发即时编译功能,并针对 LLM 工作负载优化 GPU 内核。他拥有洛杉矶加利福尼亚大学计算机科学硕士学位。

Posts by Joe Halabi

边缘计算

只需几个命令即可运行用于边缘应用开发的 AI 模型

AI 正在扩展到数据中心之外,因为开发者构建了在边缘发挥作用的新一代 智能体:监控驾驶员注意力和座舱状况,帮助机器人了解周围环境并规划任务, 2 MIN READ