Posts by Faradawn Yang
数据科学
2026年 9月 24日
适用于生物基础模型的高效 MoE 训练
随着语言模型的发展,扩展密集架构的成本变得越来越高。在密集 Transformer 中,每个 token 都会穿过每一层,
3 MIN READ