Alec Flowers

Alec Flowers 是 NVIDIA 的深度学习算法经理,专注于加速数据中心规模的 LLM 推理。他拥有理科硕士学位。来自 cole Polytechnique F é d é rale de Lausanne (EPFL) 的《数据科学》论文集。他的专长集深度学习、优化和高性能计算于一身。

Posts by Alec Flowers

数据中心/云端

DynoSim:模拟帕累托前沿

现代 LLM 服务难以调优,因为每一次部署都是一组相互作用的选择堆栈:模型后端、张量并行形状、prefill/decode 拆分、 3 MIN READ
精选

流式传输词元和工具:NVIDIA Dynamo 中的多回合代理线束支持

智能体交换必须保留结构化交互:助手通过一次或多次工具调用进行交错推理,随后用户轮流将相应的工具结果返回至模型上下文。 4 MIN READ