每經(jīng)編輯｜程鵬    

2月25日，DeepSeek官宣，今日開(kāi)源代碼庫(kù)為DeepEP，它是首個(gè)用于 MoE 模型訓(xùn)練和推理的開(kāi)源EP通信庫(kù)。

特點(diǎn)有：高效的全員溝通；節(jié)點(diǎn)內(nèi)和節(jié)點(diǎn)間均支持 NVLink和RDMA；用于訓(xùn)練和推理預(yù)填充的高吞吐量?jī)?nèi)核；用于推理解碼的低延遲內(nèi)核；原生 FP8 調(diào)度支持；靈活的GPU資源控制，實(shí)現(xiàn)計(jì)算-通信重疊。

編輯|程鵬 蓋源源

校對(duì)|段煉

封面圖片來(lái)源：視覺(jué)中國(guó)（資料圖 圖文無(wú)關(guān)）

來(lái)源：每日經(jīng)濟(jì)新聞app