觀察員
-
英偉達(dá)：創(chuàng)造DeepSeek-R1推理性能世界紀(jì)錄
-
湯普濟(jì)我在看著你
最后更新: 2025-03-19 12:41:25
（文/湯普濟(jì) 編輯/呂棟）
當(dāng)?shù)貢r(shí)間3月18日，英偉達(dá)CEO黃仁勛于GTC AI大會(huì)上發(fā)表演講，發(fā)布最新一代Blackwell Ultra GPU（GB300）。同日， 英偉達(dá)官方博客發(fā)布文章，宣布利用Blackwell架構(gòu)GPU實(shí)現(xiàn)DeepSeek-R1模型推理性能的世界紀(jì)錄。
英偉達(dá)此次利用單個(gè)配備八塊Blackwell架構(gòu)B200 GPU的英偉達(dá)DGX系統(tǒng)，在英偉達(dá)評(píng)價(jià)為“超大規(guī)模、最先進(jìn)的”DeepSeek-R1模型上，實(shí)現(xiàn)每用戶每秒可處理超過(guò)250個(gè)token的性能，或每秒最大吞吐量超過(guò)30000個(gè)token。
NVIDIA
英偉達(dá)于2025年1月30日在面向開(kāi)發(fā)者的網(wǎng)站上發(fā)布NVIDIA NIM微服務(wù)版的DeepSeek，之后，英偉達(dá)不斷通過(guò)優(yōu)化推理生態(tài)，刷新DeepSeek-R1模型的吞吐量。英偉達(dá)聲稱，自1月以來(lái)，DeepSeek-R1 671B模型的吞吐量已被提高了約36倍，相當(dāng)于每token的成本降低了約32倍。
同時(shí)，英偉達(dá)聲稱，紀(jì)錄還將隨著B(niǎo)lackwell Ultra GPU和 Blackwell GPU在推理性能上的突破刷新。
據(jù)悉，英偉達(dá)此次發(fā)布的GB300是全球首個(gè)288GB HBM3E GPU，F(xiàn)P4推理性能可達(dá)去年發(fā)布的GB200的1.5倍，峰值可達(dá)15PFLOPS。將在2025年下半年出貨。
英偉達(dá)還預(yù)覽了下一代AI超級(jí)芯片——Vera Rubin，由Rubin GPU和Vera CPU組成。Vera CPU擁有88個(gè)定制Arm核心、176個(gè)線程。Rubin由兩塊掩模尺寸的GPU組成，擁有288GB HBM4內(nèi)存，F(xiàn)P4峰值推理能力可達(dá)50PFLOPS，相比GB300，整體性能可達(dá)3.3倍。
此外，英偉達(dá)還發(fā)布了用于加速AI模型推理的分布式推理服務(wù)庫(kù)NVIDIA Dyamo，據(jù)稱，在GB200 NVL72架構(gòu)上運(yùn)行Dyamo推理，能使DeepSeek-R1模型的吞吐量提升30倍。
本文系觀察者網(wǎng)獨(dú)家稿件，未經(jīng)授權(quán)，不得轉(zhuǎn)載。
- 責(zé)任編輯: 湯普濟(jì)
-
英偉達(dá)宣布合作開(kāi)發(fā)AI原生6G
2025-03-19 12:11 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
四川省長(zhǎng)施小琳會(huì)見(jiàn)孟晚舟
2025-03-18 22:58 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
格力地產(chǎn)：證券簡(jiǎn)稱擬變更為“珠免集團(tuán)”
2025-03-18 22:30 -
特步2024年凈賺12億，創(chuàng)歷史新高
2025-03-18 19:53 觀網(wǎng)財(cái)經(jīng)-消費(fèi) -
-
-
緩解育兒焦慮，梁建章建議推廣“共享爺爺奶奶”模式
2025-03-18 17:57 產(chǎn)業(yè)萬(wàn)象 -
滴滴四季度訂單同比增長(zhǎng)14.8%，中國(guó)出行日均3530萬(wàn)單
2025-03-18 17:26 今日財(cái)經(jīng) -
-
小米智能家電工廠將于下半年交付，最先量產(chǎn)空調(diào)
2025-03-18 16:51 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
蘋(píng)果在iPad側(cè)面印上“中國(guó)制造”
2025-03-18 15:55 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
-
華為被曝正測(cè)試原生磁吸無(wú)線充電
2025-03-18 14:36 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
蘋(píng)果計(jì)劃在印度生產(chǎn)耳機(jī)，僅供出口
2025-03-18 14:31 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
SpaceX確認(rèn)龍飛船已脫離國(guó)際空間站：將帶回兩名滯留宇航員
2025-03-18 14:22 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
2月韓國(guó)芯片對(duì)華出口額同比下降31.8%
2025-03-18 14:18 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
北美份額超50%，瓦楞紙包裝裝備龍頭破局全球化
2025-03-18 14:09 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
李嘉誠(chéng)深陷港口風(fēng)波，長(zhǎng)和股價(jià)再“跳水”
2025-03-18 13:55
相關(guān)推薦 -
-
印巴的“火”停了，但水呢？ 評(píng)論 94
?；鸬谝灰?，印巴互相指責(zé) 評(píng)論 189
王毅分別同印巴雙方通話 評(píng)論 228
印巴停火，特朗普邀功 評(píng)論 598最新聞 Hot-
“特朗普夜不能寐，搞定全球問(wèn)題比想象難得多”
-
靠岸中國(guó)貨船數(shù)“歸零”，美西港口官員驚到了
-
“出軌女下屬”，英國(guó)海軍一把手被免職
-
“聽(tīng)加州的，否則美國(guó)最大經(jīng)濟(jì)體地位不?！?/a>
-
流浪53年后，蘇聯(lián)金星探測(cè)器墜落地球
-
伊朗官員：美國(guó)不真誠(chéng)，一開(kāi)始就設(shè)陷阱
-
?；鸬谝灰?，印巴互相指責(zé)
-
為什么選出美國(guó)籍教皇？梵蒂岡消息人士：還不是因?yàn)樘乩势?/a>
-
普京提議：15日，俄烏直接談
-
王毅分別同印巴雙方通話
-
印度稱“不想升級(jí)”，巴方想“就此打住”
-
英法德波領(lǐng)導(dǎo)人訪問(wèn)基輔，將與澤連斯基共同討論?；饐?wèn)題
-
印軍否認(rèn)S-400防空系統(tǒng)被摧毀
-
印度前高官：勸巴基斯坦，中國(guó)的話好使
-
空中爆炸！巴軍通報(bào)7日空戰(zhàn)細(xì)節(jié)，含擊落“陣風(fēng)”錄音
-
要松口了？印官員稱將“適時(shí)”公開(kāi)
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書(shū)》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號(hào)-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號(hào) 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營(yíng)許可證：（滬）字第03952號(hào)
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號(hào)
中國(guó)互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
