DeepSeek開(kāi)源周第二日:開(kāi)源DeepEP通信庫(kù)
鈦媒體App 2月25日消息,DeepSeek官宣,今日開(kāi)源DeepEP,第一個(gè)用于MoE模型訓(xùn)練和推理的開(kāi)源EP通信庫(kù)。特點(diǎn)有:高效、優(yōu)化的全員溝通;節(jié)點(diǎn)內(nèi)和節(jié)點(diǎn)間均支持NVLink和RDMA;用于訓(xùn)練和推理預(yù)填充的高吞吐量?jī)?nèi)核;用于推理解碼的低延遲內(nèi)核;原生FP8調(diào)度支持;靈活的GPU資源控制,實(shí)現(xiàn)計(jì)算-通信重疊。
本文內(nèi)容僅供參考,不構(gòu)成投資建議,請(qǐng)謹(jǐn)慎對(duì)待。
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求,請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論