DeepSeek開源第一彈:6小時收藏破5000次,利好國產GPU? | 智客星球

嘉義縣时间:2025-07-04 23:33:21

DeepSeek開源第一彈:6小時收藏破5000次,利好國產GPU? | 智客星球

文 丨 新浪科技 周文猛

2月24日,在上周DeepSeek宣布本周將是開源周(OpenSourceWeek),並將連續開源五個軟件庫後。今日上午9:30時許,DeepSeek宣布開源了本次開源周首款代碼庫——針對Hopper⠇PU進行優化的高效型MLA解碼核——FlashMLA。

新浪科技注意到,在GitHub上,目前該項目開源6小時後便已收獲了超過5000Star收藏,並且擁有188個Fork(副本創建)。在聽到DeepSeek開源FlashMLA並迎來的快速的Star收藏和Fork數據增長後,某港股上市公司CTO在與新浪科技溝通中直呼:“太強了”。

另有專注於AI硬件研究並投資的投資人,在查看FlashMLA後告訴新浪科技,對於國產GPU而言,此次開源算是重大利好。“此前的國產GPU卡,很弱。那現在可以通過FlashMLA提供的優化思路和方法論,嚐試讓國產卡大幅提升性能,即使架構不同,後麵國產卡的推理性能提升將是順理成章的事兒”。

據DeepSeek官方介紹,FlashMLA基於Hopper GPUs的有效MLA解碼內核,可針對可變長度序列進行優化。

在DeepSeek整個技術路線中,MLA(多頭潛在注意力機製)是公司已經發布的V2、V3兩款模型中,最為核心的技術之一。被用於解決計算效率和內存占用上的性能瓶頸,能夠顯著提升模型訓練和推理效率,同時保持甚至增強模型性能。

此前,中國工程院院士、清華大學計算機係教授鄭緯民在與新浪科技溝通中曾提及:“DeepSeek自研的MLA架構為其自身的模型訓練成本下降,起到了關鍵作用。”他指出,“MLA通過改造注意力算子壓縮了KV Cache大小,實現了在同樣容量下可以存儲更多的KV Cache,該架構和DeepSeek-V3模型中FFN 層的改造相配合,實現了一個非常大的稀疏MoE 層,成為DeepSeek訓練成本低最關鍵的原因。”

此次DeepSeek直接開放MLA解碼核——FlashMLA,意味著DeepSeek將最為核心的MLA底層代碼直接免費開放,這讓廣大開發群體可以直接複用FlashMLA代碼庫實現用更少的GPU服務器完成同樣的任務,直接降低推理成本,這對於更多希望基於DeepSeek開源能力進行底層優化和AI應用開發群體而言,無疑是一大福利。

有意思的是,DeepSeek此次開放的MLA解碼核,主要是針對Hopper⠇PU進行優化用途的。通常而言,Hopper⠇PU是指基於英偉達Hopper架構研發的H係列GPU產品。目前,英偉達該係列芯片已經發布H100、H800和H20等多款芯片。

據DeepSeek方麵介紹,在基準測試性能表現上,FlashMLA在英偉達H800 SXM5 GPU上可實現3000 GB/s 的內存速度以及580TFLOPS的計算上限。

公開資料顯示,根據美國出口管製規定,H800的帶寬上限被設定為600 GB/s,相比一些旗艦產品有所降低。這意味著,使用FlashMLA優化後,H800的內存帶寬利用率有望進一步提高甚至突破H800 GPU理論上限,在內存訪問上達到極致,能讓開發群體充分“壓榨”英偉達H係列芯片能力,以更少的芯片實現更強的模型性能,最大化GPU價值。

有專注於AI硬件研究並投資的投資人在查看FlashMLA後表示,“FlashMLA是能讓LLM在H800跑得更快、更高效的優化方案,尤其適用於高性能AI任務,他的核心是加速大語言模型的解碼過程,提高模型的響應速度和吞吐量,這對於實時生成任務(如聊chatbot等)非常重要,對於大模型的能力和使用體驗是巨大的促進,速度會明顯提升。”

雖然FlashMLA是一個針對Hopper GPU的優化代碼庫,但對於國產GPU而言,此次開源也有利好。上述投資人在查看FlashMLA後表示,對於國產GPU而言,此次開源算是重大利好。“此前的國產GPU卡,很弱。那現在可以通過FlashMLA提供的優化思路和方法論,嚐試讓國產卡大幅提升性能,即使架構不同,後麵國產卡的推理性能提升將是順理成章的事兒”。

【有关DeepSeek開源第一彈:6小時收藏破5000次,利好國產GPU? | 智客星球】相关文章:

1 .冰蝦下鍋煮多久能熟(冰蝦下鍋煮幾分鍾)

2 .孩子太自卑怎麽辦(如果孩子自卑懦弱該怎麽辦)

3 .小草的作用(夏季“清熱之王”非它莫屬!4大功效,8大妙用)

4 .白鮮皮的功效與作用是什麽(白癬皮的功效與作用)

5 .李寧專賣店(李寧華東區最大品牌體驗店開業 打通線上線下平台)

6 .媽祖有什麽來曆和傳說(媽祖的來曆和傳說)

7 .每逢佳節是哪個節(每逢佳節指的是什麽節)

8 .吸收甲醛的室內植物介紹(吸收甲醛的室內植物有哪些)

9 .柴油桶能不能拿水洗(柴油桶能拿水洗嗎)

10 .送給長輩杯子上刻哪些字(送給長輩杯子上刻什麽字)

11 .南京是哪個省的(南京作為江蘇省會,其地理位置的尷尬困局)

12 .清潔洗衣機的方法(洗衣機髒了怎麽清洗幹淨)

13 .保存魚三種方法介紹(保存魚三種方法)

14 .考經濟師的作用(考經濟師有什麽用)

15 .八月十五是哪個節(八月十五是什麽節)

16 .牛蹄要煮多久才熟(牛蹄冷水下鍋煮幾分鍾)

17 .西塘住宿(西塘吃住行最全攻略,更好的感受“詩意的生活”)

18 .送給長輩杯子上刻哪些字(送給長輩杯子上刻什麽字)

19 .西寧市(青海西寧公共服務提升質效)

20 .巴戟肉功效與作用禁忌有哪些(巴戟肉功效與作用禁忌)

21 .麻衣的日常(千挑萬選,這20位“黑長直”動漫角色,總有一款適合你)

22 .湖北分數線(重磅!就在剛剛,2022年湖北省高考分數線正式發布)

23 .洛陽好玩的旅遊景點簡單介紹(洛陽有哪些好玩的旅遊景點)

24 .紅梅哪個季節換盆最好(紅梅什麽季節換盆最好)

25 .孩子太自卑怎麽辦(兒子自卑懦弱怎麽教育孩子)

26 .想在水杯上刻字寫啥好(想在水杯上刻字寫什麽好)

27 .魔芋產地是哪裏的呢(魔芋產地是哪裏)

28 .兔子的簡介(兔子是什麽動物)

29 .花影迷離(12句月夜冷門詩詞,天地靜謐,意境上乘,令人愛不釋手)

30 .為什麽排骨架間隙寬對床墊有沒有影響(為什麽排骨架間隙寬對床墊有影響)

最新文章
猜你喜欢
推荐文章
友情链接

友情链接:谷歌留痕