DeepSeek日前宣布本周為開源周,並將連續開源五個軟件庫。公司於今日(25日)宣布向公眾開源DeepEP。在宣布開源20分鐘左右,微軟(MSFT.US) 旗下代碼託管平台軟件GitHub上DeepEP已獲得超過1,000Star收藏。
DeepEP是一個用於混合專家(MoE)模型訓練和推理的專家並行(Expert Parallelism)通信庫,可實現高效且優化的全對全通信,支援包括FP8在內的低精度運算,適配現代高性能計算需求。同時,DeepEP針對NVLink到RDMA的非對稱帶寬轉發場景進行深度優化,不僅提供高吞吐量,還支援Streaming Multiprocessors數量控制,兼顧訓練和推理任務的高吞吐量表現。(jl/da)(美股為即時串流報價; OTC市場股票除外,資料延遲最少15分鐘。)
AASTOCKS新聞