返回    放大 +    缩小 -
DeepSeek向公众开源DeepEP
推荐
8
利好
19
利淡
5
AASTOCKS新闻
DeepSeek日前宣布本周为开源周,并将连续开源五个软件库。公司於今日(25日)宣布向公众开源DeepEP。在宣布开源20分钟左右,微软(MSFT.US)旗下代码托管平台软件GitHub上DeepEP已获得超过1,000Star收藏。

DeepEP是一个用於混合专家(MoE)模型训练和推理的专家并行(Expert Parallelism)通信库,可实现高效且优化的全对全通信,支援包括FP8在内的低精度运算,适配现代高性能计算需求。同时,DeepEP针对NVLink到RDMA的非对称带宽转发场景进行深度优化,不仅提供高吞吐量,还支援Streaming Multiprocessors数量控制,兼顾训练和推理任务的高吞吐量表现。(jl/da)

相关内容国家外交部:美胁迫别国打压内地半导体产业行径最终损人害己
AASTOCKS新闻