stockConnect 信報網站

DeepSeek梁文鋒署名新論文稱要開啟架構新篇章

內地AI初創DeepSeek(深度求索)在元旦日發布了一篇新論文，提出了一種名為mHC(流形約束超連接)的新架構，旨在解決傳統超連接在大規模模型訓練中的不穩定性問題，同時保持其顯著的性能增益。

簡單來說，DeepSeek提出的mHC通過將傳統Transformer的單一殘差流擴展為多流並行架構，並利用Sinkhorn-Knopp演算法將連接矩陣約束在雙擬隨機矩陣流形上，成功解決了超連接(HC)在大規模訓練中因破壞恒等映射屬性而導致的數值不穩定和訊號爆炸問題。

這篇論文的第一作者有三位，包括解振達、韋毅軒、Huanqi Cao。值得注意的是，DeepSeek創始人梁文鋒也在作者名單中。

信報簡介｜服務條款｜私隱條款｜免責聲明｜廣告查詢｜加入信報｜聯絡信報

股票及指數資料由財經智珠網有限公司提供。期貨指數資料由天滙財經有限公司提供。外滙及黃金報價由路透社提供。

本網站的內容概不構成任何投資意見，本網站內容亦並非就任何個別投資者的特定投資目標、財務狀況及個別需要而編製。投資者不應只按本網站內容進行投資。在作出任何投資決定前，投資者應考慮產品的特點、其本身的投資目標、可承受的風險程度及其他因素，並適當地尋求獨立的財務及專業意見。

信報財經新聞有限公司、香港交易所資訊服務有限公司、其控股公司及／或該等控股公司的任何附屬公司、或其資訊來源及／或其他第三方數據供應商均竭力提供準確而可靠的資料，但不能保證資料絕對無誤，且亦不會承擔因任何不準確或遺漏而引起的任何損失或損害的責任。

建議瀏覽器： Chrome, Firefox, Safari, IE9或以上

DeepSeek梁文鋒署名新論文 稱要開啟架構新篇章

DeepSeek梁文鋒署名新論文稱要開啟架構新篇章