97色成人综合网站,97色成人综合网站,高清freesexmovies性tv出水,大黑大巴大战欧洲美女图片,√天堂资源中文www

<blockquote id="sqrzm"><rt id="sqrzm"></rt></blockquote>

<sub id="sqrzm"><p id="sqrzm"></p></sub>

<cite id="sqrzm"></cite>

^{<sub id="sqrzm"></sub>}

APP下載

掃一掃

下載觀察者APP

科大訊飛攜手華為，實現基于國產算力的MoE模型推理方案

分享到：

2025-03-11 16:12:56 字號：A- A A+ 來源：觀察者網

3月11日，據“科大訊飛研究院”公眾號，近日，科大訊飛攜手華為在國產算力領域取得重大進展，雙方聯合團隊率先突破國產算力集群上MoE模型的大規(guī)模跨節(jié)點專家并行集群推理，這是繼DeepSeek公布其MoE模型訓練推理方案后，業(yè)界首個基于國產算力的全新解決方案。

科大訊飛介紹，聯合團隊通過軟硬件的深度協同創(chuàng)新，在多個關鍵技術層面深挖硬件潛力，完成昇騰集群上的驗證和部署。在算子融合方面，團隊在MLA預處理階段通過Vector與Cube異構計算單元并行流水，并將多個小算子融合重構為原子級計算單元，消除小算子下發(fā)開銷，MLA前處理時延降低50%+，實現性能的顯著提升。

在混合并行策略和通信計算并行優(yōu)化方面，團隊構建了TP（張量并行）+EP（專家并行）混合范式：對MLA計算層采用機內TP并行，發(fā)揮機內高速互聯優(yōu)勢，降低跨機通信損耗；創(chuàng)新MoE專家分層調度，64卡均衡分配專家計算節(jié)點，定制AllToAll通信協議，專家數據交換效率提升40%，構建跨機/機內雙層通信架構，通過分層優(yōu)化降低跨機流量60%；同時研發(fā)路由專家負載均衡算法，實現卡間負載差異小于10%，集群吞吐提升30%。

通過分布式架構創(chuàng)新與算法協同優(yōu)化，聯合團隊在國產算力上實現了顯著的性能提升。單卡靜態(tài)內存占用縮減至雙機部署的1/4，效率提升75%，專家計算密度增加4倍，推理吞吐提升3.2倍，端到端時延降低50%。

科大訊飛稱，這一突破性的解決方案也將應用于訊飛星火深度推理模型的訓練加速，預期訓練時推理效率將提升200%。同時，基于該方案的推理引擎也實現了國產算力上DeepSeek V3和R1的高效推理。

近期，科大訊飛深度推理大模型星火X1也完成升級，在模型參數量比業(yè)界同行少一個數量級的情況下，星火X1的數學能力全面對標DeepSeek R1和OpenAI o1，在中文數學各項任務中均實現領先?？拼笥嶏w始終堅定走國產化道路，星火X1也是當前唯一采用全國產算力訓練的深度推理大模型。
|

舉報
- 違反法律法規(guī)
- 垃圾信息、廣告
- 色情、淫穢信息
- 人身攻擊
- 謠言、不實信息
- 冒充，冒用信息
- 破壞社區(qū)秩序
- 其他
- 涉未成年人有害信息
觀察者網舉報制度規(guī)范
確定取消
標簽
- 責任編輯: 連政
- 《哪吒2》將在歐洲37個國家上映
  
  2025-03-11 16:02
- 兩個月吸金20億，中國機器人創(chuàng)企為何成資本新寵？
  
  2025-03-11 15:17 觀網財經-科創(chuàng)
- 國補首次覆蓋新能源汽車用品，京東養(yǎng)車再提速
  
  2025-03-11 14:10 觀網財經-互聯網
- “高貴的”昂跑和lululemon，也有了高貴的煩惱
  
  2025-03-11 14:03 觀網財經-消費
- 稚暉君發(fā)布靈犀X2機器人：毫秒級交互反應能力
  
  2025-03-11 13:14
- 國產CPU生態(tài)突圍需要“競合”，而非“內耗”
  
  2025-03-11 11:14 觀網財經-科創(chuàng)
- 美股大幅低開，特斯拉大跌9%較歷史最高位“腰斬”
  
  2025-03-10 23:06
- 方便面“老二”地位動搖，統(tǒng)一靠飲料撐起業(yè)績
  
  2025-03-10 21:49 觀網財經-消費
- 出海！宇樹在速賣通開設官方店鋪
  
  2025-03-10 21:15 觀網財經-互聯網
- 這些年輕的面孔，都是中國科創(chuàng)的功臣
  
  2025-03-10 21:06 觀察者頭條
- 17歲男孩“在海底撈”醉酒撒尿，賣酒的人該擔責嗎？
  
  2025-03-10 19:35 觀網財經-消費
- 馬來西亞運營商與華為中興簽約，將在5G與AI方面合作
  
  2025-03-10 18:12 觀網財經-科創(chuàng)
- 東茅街茶館會成為下一個文和友嗎？
  
  2025-03-10 18:11 觀網財經-消費
- 層高至少3米！住建部將從這三個方向落實“好房子”標準
  
  2025-03-10 18:11 2025兩會
- 到海外買礦！坐擁7座金礦的赤峰黃金港股再上市
  
  2025-03-10 18:02 觀網財經-消費
- 茶咖日報｜奈雪的茶被調出港股通標的名單；瑞幸咖啡泰國商標案勝訴
  
  2025-03-10 17:56 觀網財經-消費
- 網易回應“將關閉公有云”
  
  2025-03-10 16:10 觀網財經-科創(chuàng)
- 蘋果折疊屏被曝將搭載硅碳負極電池，寧德新能源獨供
  
  2025-03-10 15:46 觀網財經-科創(chuàng)
- 登頂熱搜，美的被曝強制18點20下班？官方回應，網友吵翻
  
  2025-03-10 14:24 大公司
- 國家機器人創(chuàng)新中心與華為開展具身智能領域合作交流
  
  2025-03-10 10:45 觀網財經-科創(chuàng)
搜索

   觀察者頭條查看全部

真急了！“請求中國取消限制” 評論 65

歐盟多國大停電，“我們需要中國技術” 評論 110

中俄元首在主觀禮臺出席紅場閱兵式評論 57

英方拿到了，“簡直像在平行宇宙，中國太超前了” 評論 88

“全球都將研究，中國與西方最強大武器直接對決” 評論 390

   風聞 · 24小時最熱查看全部

   最新視頻查看全部
最新聞 Hot
快訊

Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯網新聞信息服務許可證：31220170001 網登網視備（滬）02020000041-1號互聯網宗教信息服務許可證：滬（2024）0000009 廣播電視節(jié)目制作經營許可證：（滬）字第03952號
增值電信業(yè)務經營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571

滬公網安備 31010502000027號中國互聯網舉報中心上海市互聯網違法與不良信息舉報中心

返回頂部

<sub id="7xjfw"></sub>