Sophia Abbassi

Sophia Abbassi 是 NVIDIA 企业产品部门的产品研究工程师兼开发者倡导者。在 NVIDIA,她热衷于创造能让创新和创造力更美好未来的代理式 AI 解决方案。她是罗格斯大学的应届毕业生,拥有电气和计算机工程学士学位。

Posts by Sophia Abbassi

数据中心/云端

密集与 MoE 模型:活动参数、吞吐量以及选择每个模型的时间

一个包含 300 亿个参数的模型如何仅对每个 token 激活 300 亿个参数,同时仍然使用更大模型的容量?Nemotron 3.5… 2 MIN READ