DeepSeek開源EP通訊庫

內地人工智能(AI)初創DeepSeek「開源周」第二日，該公司宣布，開源DeepEP，這是首個用於MoE模型訓練和推理的開源EP通訊庫。

DeepSeek在社交平台指出，EP通訊庫的特點包括高效、優化的全員溝通；節點內和節點間均支持NVLink和RDMA；用於訓練和推理預填充的高吞吐量內核；用於推理解碼的低延遲內核；原生FP8調度支持；靈活的GPU資源控制，實現計算─通訊重疊。

DeepSeek昨日宣布啟動「開源周」，首個開源的代碼庫為Flash MLA，AI推理速度再進化。這是針對Hopper GPU優化的高效MLA解碼內核，針對可變長度序列作優化，目前已投入生產。

下一篇：廣東省擬發307億人民幣專項債以收購存量土地

上一篇：瑞銀:美國或限部分基金投資中國股票中概股料受壓

信報簡介｜服務條款｜私隱條款｜免責聲明｜廣告查詢｜加入信報｜聯絡信報

股票及指數資料由財經智珠網有限公司提供。期貨指數資料由天滙財經有限公司提供。外滙及黃金報價由路透社提供。

本網站的內容概不構成任何投資意見，本網站內容亦並非就任何個別投資者的特定投資目標、財務狀況及個別需要而編製。投資者不應只按本網站內容進行投資。在作出任何投資決定前，投資者應考慮產品的特點、其本身的投資目標、可承受的風險程度及其他因素，並適當地尋求獨立的財務及專業意見。

信報財經新聞有限公司、香港交易所資訊服務有限公司、其控股公司及／或該等控股公司的任何附屬公司、或其資訊來源及／或其他第三方數據供應商均竭力提供準確而可靠的資料，但不能保證資料絕對無誤，且亦不會承擔因任何不準確或遺漏而引起的任何損失或損害的責任。