-
推理成本最高可降低83%,豆包概念股午后走強(qiáng)
-
周毅是故意的還是不小心?
今日(2月12日)A股市場,豆包概念股午后大幅走強(qiáng),創(chuàng)業(yè)板漢得信息拉升封板,廣和通、移遠(yuǎn)通信、潤欣科技、博通集成等紛紛大幅沖高。
同花順iFinD
消息面上,2月12日,豆包大模型團(tuán)隊在其公號發(fā)布文章《全新超稀疏架構(gòu),推理成本較MoE最高可降83%》。文章稱,近期,字節(jié)跳動豆包大模型團(tuán)隊提出了全新的稀疏模型架構(gòu)UltraMem,該架構(gòu)有效解決了MoE推理時高額的訪存問題,推理速度較MoE架構(gòu)提升2-6倍,推理成本最高可降低83%。
文章稱,該研究還揭示了新架構(gòu)的Scaling Law,證明其不僅具備優(yōu)異的Scaling特性,更在性能上超越了MoE。實驗結(jié)果表明,訓(xùn)練規(guī)模達(dá)2000萬value的UltraMem模型,在同等計算資源下,可同時實現(xiàn)業(yè)界領(lǐng)先的推理速度和模型性能,為構(gòu)建數(shù)十億規(guī)模value或expert開辟了新路徑。
公眾號"豆包大模型團(tuán)隊"
本文系觀察者網(wǎng)獨(dú)家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 周毅 
-
試過百度DeepSeek等模型后,蘋果AI牽手阿里?
2025-02-12 13:56 人工智能 -
給騎手“松綁”,美團(tuán)公布“取消超時扣款”新進(jìn)展
2025-02-12 12:28 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
-
1月中國手機(jī)激活量:華為第一,小米增速最快,蘋果罕見負(fù)增長
2025-02-12 11:16 觀網(wǎng)財經(jīng)-科創(chuàng) -
-
哪吒2破90億,光線傳媒20CM漲停
2025-02-12 10:21 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
美團(tuán)跌超5%,京東宣布?xì)⑷胪赓u賽道
2025-02-12 10:18 觀網(wǎng)財經(jīng)-消費(fèi) -
中芯國際持續(xù)擴(kuò)產(chǎn),上季度國內(nèi)收入占比升至89%
2025-02-11 22:30 觀網(wǎng)財經(jīng)-科創(chuàng) -
中國平板市場去年出貨增長超4%,華為超蘋果成第一
2025-02-11 21:37 觀網(wǎng)財經(jīng)-科創(chuàng) -
餓了么,重大組織調(diào)整
2025-02-11 19:35 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
ARM CEO談DeepSeek:驚喜,但是……
2025-02-11 18:21 人工智能 -
京東殺入外賣賽道
2025-02-11 17:36 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
澳大利亞,中國光伏龍頭又去海外打官司了
2025-02-11 17:36 觀網(wǎng)財經(jīng)-科創(chuàng) -
“DeepSeek正引發(fā)世界對中國資產(chǎn)的價值重估”
2025-02-11 17:22 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
“娃哈哈”商標(biāo)將轉(zhuǎn)讓?公司回應(yīng)
2025-02-11 17:14 大公司 -
“OpenAI打響拋棄英偉達(dá)第一槍”
2025-02-11 16:33 觀網(wǎng)財經(jīng)-科創(chuàng) -
哪吒2票房逼近88億元,卡牌、手辦、圖書等周邊一“吒”難求
2025-02-11 14:50 觀網(wǎng)財經(jīng)-消費(fèi) -
馬云現(xiàn)身杭州園區(qū),阿里股價年初至今已經(jīng)漲超30%
2025-02-11 13:31 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
正計劃前往越南增加建廠?SHEIN否認(rèn)
2025-02-11 13:26 中美關(guān)系 -
《哪吒2》預(yù)測票房最高已飆升至145億元:海外一票難求
2025-02-11 12:48 觀網(wǎng)財經(jīng)-消費(fèi)
相關(guān)推薦 -
-
最新聞 Hot
-
中美會談結(jié)束,日本國債遭拋售
-
普京強(qiáng)忍淚水
-
中方“施壓”他退出反華組織?我使館駁斥
-
看看特朗普這一家,在中東全是生意
-
全球股市普漲,金價大跌
-
“中美會談成果遠(yuǎn)超預(yù)期,是一個非常好的起點(diǎn)”
-
推遲半天后,印巴軍方通話了
-
特朗普要“幫忙”,印度拒絕了
-
“他想在大馬士革建特朗普大廈”
-
中美日內(nèi)瓦經(jīng)貿(mào)會談聯(lián)合聲明
-
中方嚴(yán)管稀土出口,印度也“慌了”
-
“他有望在獄中贏得市長選舉”
-
石破茂再強(qiáng)硬表態(tài):美國,還不降
-
美方吹風(fēng)會:中美都不想“脫鉤”,同意稅率下調(diào)115%
-
卡塔爾送大禮引爭議,特朗普:免費(fèi)的也罵?
-
美國小企業(yè)苦苦掙扎:利潤蒸發(fā)甚至變?yōu)樨?fù)數(shù),最糟的時刻還未到來
-