97色成人综合网站,97色成人综合网站,高清freesexmovies性tv出水,大黑大巴大战欧洲美女图片,√天堂资源中文www

【對話/ 觀察者網(wǎng) 心智觀察所】

AI大模型對于超大規(guī)模算力集群的依賴，已然成為當(dāng)代通識，盡管其中的GPU這一組成要素已被近乎奉上神壇，但算力集群的表現(xiàn)，依然極大程度上取決于其他軟硬件要素的綜合集成與優(yōu)化，這一基本特點，正是中國產(chǎn)業(yè)界面對外部遏制的破局關(guān)鍵。

從大模型算法結(jié)構(gòu)創(chuàng)新，到通信協(xié)議等軟件層面打通異構(gòu)混訓(xùn)，再到超大規(guī)模集群網(wǎng)絡(luò)互聯(lián)架構(gòu)的軟硬件創(chuàng)新，大量原始創(chuàng)新成果正在中國產(chǎn)業(yè)界涌現(xiàn)。

日前，心智觀察所與奇異摩爾聯(lián)合創(chuàng)始人、產(chǎn)品及解決方案副總裁?？|進行了一次深入交流。

這家定位于以互聯(lián)為中心，為超大規(guī)模AI計算平臺提供高性能互聯(lián)解決方案的廠商，依托Chiplet和高性能RDMA技術(shù)，在這一領(lǐng)域走出了一條新路：

心智觀察所：很高興能有機會和您交流。說起AI大模型訓(xùn)推，我們知道在硬件上除了加速卡，網(wǎng)絡(luò)互聯(lián)架構(gòu)也至關(guān)重要，能否請您先談?wù)剬δ壳凹夹g(shù)趨勢的觀察？

奇異摩爾?？|：最近這幾年，AI大模型確實發(fā)展很快，我們可以看到整個網(wǎng)絡(luò)訓(xùn)練規(guī)模其實在不斷增長。海外大模型訓(xùn)練集群規(guī)模已經(jīng)從萬卡級增長到10萬卡乃至20萬卡了，從國內(nèi)來看，訓(xùn)練規(guī)模其實也比較大了，盡管沒有那么高的單卡算力，但我們也看到了一個很好的發(fā)展趨勢，包括現(xiàn)在涌現(xiàn)出非?；鸬腄eepSeek。所以不管是國內(nèi)還是國外，其實對于大模型的訓(xùn)練現(xiàn)在都是在快速發(fā)展的一個階段。

在談AI大模型算力集群前，我們先來看傳統(tǒng)數(shù)據(jù)中心是怎么樣的，它的網(wǎng)絡(luò)架構(gòu)相對比較簡單，通用計算網(wǎng)絡(luò)的話更多是一個多租戶體系，服務(wù)上千萬甚至更多的用戶，共用一個云端數(shù)據(jù)中心?，F(xiàn)在AI大模型的特點則是把一個非常大的集群用來服務(wù)于數(shù)量有限的大模型訓(xùn)練任務(wù)，這就對于算力硬件之間的互聯(lián)提出了非常高的要求。比如傳輸帶寬上，從以往100G/200G，現(xiàn)在在向400G/800G乃至1.6T演進，整個數(shù)據(jù)交換的規(guī)模如果是一個10萬卡集群，那不管是我們講北向Scale Out（網(wǎng)間互聯(lián)）的網(wǎng)絡(luò)，還是說南向Scale Up（GPU互聯(lián)）的網(wǎng)絡(luò)，都要做大量的數(shù)據(jù)交互，因此AI算力集群網(wǎng)絡(luò)的性能、規(guī)模以及它的復(fù)雜性都是指數(shù)級上升。

從推理的需求來看，也在發(fā)生變化。過去單卡單用戶或者單卡多用戶的方案很流行，但最近一段時間我們看到推理系統(tǒng)的規(guī)模也在變得更大，像DeepSeek的云端推理集群已經(jīng)到了幾百卡的規(guī)模甚至上千卡。多機之間組成超節(jié)點（HBD）的方案正在快速增加，它對于scale up網(wǎng)絡(luò)的要求非常高，這就是我們看到特別是在云端AI互聯(lián)架構(gòu)的一些發(fā)展。

心智觀察所：我知道奇異摩爾是一家Chiplet和互聯(lián)技術(shù)見長的企業(yè)，對于當(dāng)前大模型訓(xùn)推的技術(shù)趨勢，你們有什么樣的回應(yīng)？

奇異摩爾祝俊東：現(xiàn)在大家更多會講集群算力，從集群算力來講的話，我們可以把它分為幾個層面。最微觀的層面當(dāng)然還是計算芯片本身，從芯片本身來說算力當(dāng)然是越高越好，但你應(yīng)該知道隨著摩爾定律放緩，芯片本身的算力密度增長趨勢也在放緩，所以各家大公司類似AMD、Intel不約而同采用Chiplet技術(shù)來把芯片做得性能更高、更復(fù)雜，在這個層面也就是片內(nèi)互聯(lián)，奇異摩爾會提供比方說Chiplet互聯(lián)芯粒2.5D/3D IO Die、Die2Die IP，把芯片內(nèi)部更多計算單元連接起來。這是第一個層面，通過這種方式讓單芯片算力保持持續(xù)增長。

第二個層面就是剛剛說到的超節(jié)點，你可以理解成數(shù)據(jù)中心里面一個小的機柜集群，它通常由幾臺不同的服務(wù)器來組成一個小規(guī)模但是超高帶寬的集群。這里面就會涉及到Scale Up的網(wǎng)絡(luò)，英偉達(dá)這樣的廠商可以自己做，但是對于其他廠商來說，這一塊是一個相對比較大的短板，奇異摩爾可以提供一種GPU片間互聯(lián)的Die（又名NDSA-G2G），通過這種方式幫助其他廠商用我們的技術(shù)把片內(nèi)互聯(lián)轉(zhuǎn)成超節(jié)點之間的互聯(lián)，這是第二個層面。

再往上第三個層面，就是大模型的訓(xùn)練和推理，特別是訓(xùn)練層面，你還是要構(gòu)建更大規(guī)模的集群對吧？這就需要我們所說的智能網(wǎng)卡。AI訓(xùn)推集群比方說10萬張卡，中間有大量的跨節(jié)點數(shù)據(jù)交互，它對網(wǎng)絡(luò)數(shù)據(jù)交換性能要求非常高，所以我們另外一個產(chǎn)品就是基于AI原生的智能網(wǎng)卡，可以提供非常高的帶寬，作為國產(chǎn)網(wǎng)卡替代主流國外廠商的高性能網(wǎng)卡。我們通過這三個層面的技術(shù)能力，可以為國內(nèi)算力集群用戶提供端到端互聯(lián)架構(gòu)解決方案，從片內(nèi)到片間到網(wǎng)間。

心智觀察所：RDMA(遠(yuǎn)程直接內(nèi)存訪問)技術(shù)也是當(dāng)下算力集群網(wǎng)絡(luò)的熱門概念，能否再展開分享一些這方面的信息？

奇異摩爾祝俊東：這里面有幾個方面，首先是性能，比如帶寬、延時以及數(shù)據(jù)傳輸效率，我們通過高性能RDMA引擎能夠達(dá)到800G傳輸速率、幾百納秒的延時，從性能來說是非常好的；第二呢是因為只有點對點的性能是不夠的，因為特別是大規(guī)模訓(xùn)練的時候，其實有非常高的復(fù)雜網(wǎng)絡(luò)需求，比如容易產(chǎn)生擁塞，而在我們的產(chǎn)品里引入了新的擁塞監(jiān)測以及處理算法，能夠極大提高擁塞處理效率；第三個是所謂的多路徑傳輸，因為在復(fù)雜網(wǎng)絡(luò)環(huán)境需要從多條路徑傳輸，我們對于多徑傳輸引入了優(yōu)化算法，可以自動選擇最適合的路徑進行傳輸，對于常見的亂序問題，我們的產(chǎn)品引入了亂序重排的算法，可以滿足網(wǎng)絡(luò)對于亂序恢復(fù)的需求。通過這些技術(shù)就可以在有損大規(guī)模網(wǎng)絡(luò)里有效部署RDMA方案，讓十萬卡甚至以上規(guī)模集群達(dá)到95%甚至更高傳輸效率。