突发！突击！
2月25日，DeepSeek官宣，今日开源代码库为DeepEP，它是首个用于 MoE 模型训练和推理的开源EP通信库。
特点有：高效的全员沟通；节点内和节点间均支持 NVLink和RDMA；用于训练和推理预填充的高吞吐量内核；用于推理解码的低延迟内核；原生 FP8 调度支持；灵活的GPU资源控制，实现计算-通信重叠。
- 发表于:
- 原文链接：https://page.om.qq.com/page/OZ8Wo92Fh-g3BDM6ONCILGBw0
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
