深圳热线
财经 > 正文

焦点资讯：小红书、北大开源面向大规模MoE训推的负载均衡方案UltraEP

2026-07-20 17:12:59 来源：界面新闻


(资料图片仅供参考)

7月20日，小红书发文宣布其与北大提出UltraEP，首次把基于“精确”路由信息的“实时”负载均衡引入生产系统：在每个microbatch和每一层动态复制热点专家，让真实训推也能逼近理想性能。据小红书方面介绍，UltraEP平均达到理想性能的94.3%，相比业界SOTA训推框架提升1.49倍，并应用在了大规模预训练的实际生产中。

关键词： 负载 路由 小红书 moe 知名企业 高吞吐

热门推荐

热门文章

全站热门

深圳热线 版权所有 Copyright © 2022 SZONLINE(SZONLINE.CN) All Rights Reserved.邮箱：920 891 263 @qq.com

京ICP备2022016840号-96 营业执照公示信息