Posts by Omri Almog
精选
2026年 6月 23日
使用 DFlash 预测解码，在 NVIDIA Blackwell 上将推理性能提升高达 15 倍
随着 AI 系统从单轮交互转向协调的多智能体工作流，低延迟 推理 成为越来越重要。自回归 LLM 按顺序生成 token，
2 MIN READ
数据中心/云端
2025年 8月 1日
通过训练后量化优化 LLM 的性能和准确性
量化是开发者的核心工具，旨在以最小的开销来提高推理性能。通过以可控的方式降低模型精度，无需重新训练，该技术可显著降低延迟、
4 MIN READ
数据中心/云端
2025年 6月 24日
隆重推出 NVFP4，实现高效准确的低精度推理
为了充分利用 AI，优化至关重要。当开发者考虑优化用于推理的 AI 模型时，通常会想到量化、蒸馏和剪枝等模型压缩技术。毫无疑问，
4 MIN READ
数据中心/云端
2025年 3月 18日
NVIDIA Blackwell 实现世界纪录的 DeepSeek-R1 推理性能
NVIDIA 在 NVIDIA GTC 2025 上宣布了创下世界纪录的 DeepSeek-R1 推理性能 。 搭载 8 个 NVIDIA…
5 MIN READ