Hao Zhang

Hao Zhang 是 Halıcıoğlu 数据科学研究所的助理教授,也是加州大学圣迭戈分校计算机科学与工程系的附属教师。他领导 Hao AI Labat 加州大学圣地亚哥分校。2023 年,他共同创立了 LMNet.ai,并于 2023 年 11 月与 Snowflake 联手创立了 LMNet.ai。2016 年至 2021 年,Hao 在 ML 平台初创公司 Petuum Inc. 工作。

Posts by Hao Zhang

精选

使用 DFlash 预测解码,在 NVIDIA Blackwell 上将推理性能提升高达 15 倍

随着 AI 系统从单轮交互转向协调的多智能体工作流,低延迟 推理 成为越来越重要。自回归 LLM 按顺序生成 token, 2 MIN READ