Sachin Beldona

Sachin Beldona 是 NVIDIA AI 平台软件团队的工程师,专注于 LLM 推理框架和 LLM 训练库。Sachinholds a M.S。拥有卡内基梅隆大学机器学习学士学位。他在德克萨斯大学奥斯汀分校从事人工智能和机器学习研究。在加入 NVIDIA Sachin 之前,他曾在 Capital One 的金融服务 AI 实验室工作,致力于为金融服务客户提供代理式 AI 解决方案。

Posts by Sachin Beldona

智能体/生成式 AI

使用 NVIDIA Model Optimizer 创建 NVIDIA Nemotron 3 Ultra NVFP4 Checkpoint

随着上下文窗口变长,高效移动大型模型权重对性能至关重要。解决此问题的常用方法是量化,这是一种将模型权重压缩为较小数据格式的优化技术。 6 MIN READ