-
重磅!谷歌推出其最先進(jìn)AI模型Gemini,大規(guī)模多任務(wù)語(yǔ)言理解或超越人類(lèi)專(zhuān)家
最后更新: 2023-12-07 11:07:23OpenAI空前崛起之際,谷歌毅然打響了絕地反擊戰(zhàn)。
當(dāng)?shù)貢r(shí)間12月6日,谷歌公司宣布推出其規(guī)模最大、功能最強(qiáng)大的新大型語(yǔ)言模型Gemini,其最強(qiáng)大的TPU(張量處理單元)系統(tǒng)“Cloud TPU v5p”以及來(lái)自谷歌云的人工智能超級(jí)計(jì)算機(jī)。v5p是今年早些時(shí)候全面推出的Cloud TPU v5e的更新版本,谷歌承諾其速度明顯快于v4 TPU。
值得一提的是在MMLU(大規(guī)模多任務(wù)語(yǔ)言理解)測(cè)試中,Gemini Ultra以90.0%的高分,首次超過(guò)了人類(lèi)專(zhuān)家。
Gemini的各種能力
據(jù)界面新聞12月7日?qǐng)?bào)道,Gemini 1.0是谷歌籌備了一年之久的GPT4真正競(jìng)品,也是目前谷歌能拿出手的功能最為強(qiáng)悍、適配最為靈活的大模型,包括三種不同套件,分別是Gemini Ultra,Gemini Pro和Gemini Nano。
其中Ultra的能力最強(qiáng),復(fù)雜度最高,能夠處理最為困難的多模態(tài)任務(wù);Pro能力稍弱,是一個(gè)可擴(kuò)展至多任務(wù)的模型;Nano則是一款可以在手機(jī)端側(cè)運(yùn)行的模型。這說(shuō)明,Gemini的觸達(dá)范圍很廣,可以下探至數(shù)據(jù)中心,也可以上行至移動(dòng)設(shè)備端側(cè)。
Gemini模型經(jīng)過(guò)海量數(shù)據(jù)訓(xùn)練,可以很好識(shí)別和理解文本、圖像、音頻等內(nèi)容,并可以回答復(fù)雜主題相關(guān)的問(wèn)題。所以,非常擅長(zhǎng)解釋數(shù)學(xué)和物理等復(fù)雜學(xué)科的推理任務(wù)。
Gemini可以生成和理解Python、Java、C++和Go等主流代碼。Gemini Ultra在多個(gè)編碼基準(zhǔn)測(cè)試中表現(xiàn)出色,包括HumanEval,這是評(píng)估編碼任務(wù)性能的重要行業(yè)標(biāo)準(zhǔn)。
谷歌還基于Gemini模型開(kāi)發(fā)了專(zhuān)業(yè)的代碼模型AlphaCode 2。與前一代相比,AlphaCode 2的性能提升了至少50%以上。
Gemini的多模態(tài)功能,使其能在視覺(jué)理解、文本生成等方面有非常強(qiáng)的功能。例如,從數(shù)十萬(wàn)字的小說(shuō)中整理出重要觀點(diǎn),從200頁(yè)的金融報(bào)告中找出最有價(jià)值的內(nèi)容。這對(duì)于金融、科技、醫(yī)療的科研和業(yè)務(wù)人員來(lái)說(shuō)幫助巨大。
在一段公布的演示視頻中,桑達(dá)爾?皮查伊展示了Gemini對(duì)視頻、圖像的非同凡響的識(shí)別能力。在視頻中,Gemini極為自如地在圖像、音頻、視頻各模態(tài)之間的轉(zhuǎn)換,展現(xiàn)了驚人的解鎖應(yīng)用場(chǎng)景與產(chǎn)品形態(tài)的潛力。
圖片來(lái)源:谷歌演示視頻
僅從谷歌釋出的演示視頻結(jié)果看,市面上現(xiàn)有的全部多模態(tài)大模型與Gemini的性能表現(xiàn)都有代際差,包括Meta 5月開(kāi)源的跨6個(gè)模態(tài)的AI模型ImageBind以及GPT-4。
圖片來(lái)源:谷歌
一年前,在人工智能開(kāi)發(fā)機(jī)構(gòu)OpenAI發(fā)布聊天機(jī)器人ChatGPT后,創(chuàng)造了當(dāng)前人工智能熱潮背后大部分基礎(chǔ)技術(shù)的谷歌措手不及,一度發(fā)布了內(nèi)部“紅色警報(bào)”(red code)。一年零一周后,谷歌似乎準(zhǔn)備好了反擊。
據(jù)澎湃新聞,谷歌DeepMind首席執(zhí)行官、Gemini團(tuán)隊(duì)代表德米斯·哈薩比斯(Demis Hassabis)在發(fā)布會(huì)上正面談及GPT-4與Gemini的對(duì)比,“我們對(duì)系統(tǒng)進(jìn)行了非常徹底的分析,并進(jìn)行了基準(zhǔn)測(cè)試。谷歌運(yùn)行了32個(gè)完善的基準(zhǔn)測(cè)試來(lái)比較這兩個(gè)模型,從廣泛的整體測(cè)試(如多任務(wù)語(yǔ)言理解基準(zhǔn)測(cè)試)到比較兩個(gè)模型生成Python代碼的能力。”哈薩比斯略帶微笑地表示,“我認(rèn)為我們?cè)?2項(xiàng)基準(zhǔn)中的30項(xiàng)中大幅領(lǐng)先?!?
從發(fā)布日起,Gemini可開(kāi)始應(yīng)用于Bard和Pixel 8 Pro智能手機(jī),并將很快與谷歌服務(wù)中的其他產(chǎn)品集成,包括Chrome、搜索和廣告等。
目前,谷歌計(jì)劃通過(guò)谷歌云將Gemini授權(quán)給客戶(hù),供他們?cè)谧约旱膽?yīng)用程序中使用。12月13日開(kāi)始,開(kāi)發(fā)者和企業(yè)客戶(hù)可以通過(guò)谷歌AI Studio或谷歌Cloud Vertex AI中的Gemini API(應(yīng)用程序編程接口)訪問(wèn)Gemini Pro,安卓開(kāi)發(fā)人員可以使用Gemini Nano完成構(gòu)建。
據(jù)介紹,Gemini Ultra是第一個(gè)在MMLU(大規(guī)模多任務(wù)語(yǔ)言理解)方面超越人類(lèi)專(zhuān)家的模型,該模型綜合使用數(shù)學(xué)、物理、歷史、法律、醫(yī)學(xué)和倫理學(xué)等57個(gè)科目來(lái)測(cè)試世界知識(shí)和解決問(wèn)題的能力,谷歌在一篇博客文章中表示,它可以理解復(fù)雜主題中的細(xì)微差別和推理。
而據(jù)CNBC報(bào)道,谷歌高管們?cè)谛侣劙l(fā)布會(huì)上表示Gemini Pro的表現(xiàn)優(yōu)于GPT-3.5,但回避了與GPT-4相比如何的問(wèn)題。對(duì)于谷歌是否計(jì)劃對(duì)Bard Advanced的訪問(wèn)收費(fèi),Bard總經(jīng)理蕭茜茜(Sissie Hsiao)表示,谷歌專(zhuān)注于創(chuàng)造良好的體驗(yàn),目前還沒(méi)有任何相關(guān)盈利的細(xì)節(jié)。
谷歌最強(qiáng)TPU與AI超級(jí)計(jì)算機(jī)
與新模型一起亮相的,還有新版本的TPU芯片TPU v5p,旨在減少訓(xùn)練大語(yǔ)言模型相關(guān)的時(shí)間投入。TPU是谷歌為神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的專(zhuān)用芯片,經(jīng)過(guò)優(yōu)化可加快機(jī)器學(xué)習(xí)模型的訓(xùn)練和推斷速度,谷歌于2016年起開(kāi)始推出第一代TPU。
據(jù)谷歌介紹,與TPU v4相比,TPU v5p的浮點(diǎn)運(yùn)算性能提升了兩倍,在高帶寬內(nèi)存方面提高了3倍。使用谷歌的600 GB/s芯片間互連,可以將8960個(gè)v5p加速器耦合在一個(gè)Pod(通常指一個(gè)包含多個(gè)芯片的集群或模塊)中,從而更快或更高精度地訓(xùn)練模型。作為參考,該值比TPU v5e大35倍,是TPU v4的兩倍多。
谷歌稱(chēng),TPU v5p是其迄今為止最強(qiáng)大的,能夠提供459 teraFLOPS(每秒可執(zhí)行459萬(wàn)億次浮點(diǎn)運(yùn)算)的bfloat16(16位浮點(diǎn)數(shù)格式)性能或918 teraOPS(每秒可執(zhí)行918萬(wàn)億次整數(shù)運(yùn)算)的Int8(執(zhí)行8位整數(shù))性能,支持95GB的高帶寬內(nèi)存,能夠以2.76 TB/s的速度傳輸數(shù)據(jù)。
谷歌表示,所有這些意味著TPU v5p可以比TPU v4更快地訓(xùn)練大型語(yǔ)言模型,如訓(xùn)練GPT-3(1750億參數(shù))這樣的大語(yǔ)言模型速度比TPU v4快2.8倍。
除了新硬件之外,谷歌還引入了“人工智能超級(jí)計(jì)算機(jī)”的概念。谷歌云將其描述為一種超級(jí)計(jì)算架構(gòu),包括一個(gè)集成系統(tǒng),具有開(kāi)放軟件、性能優(yōu)化硬件、機(jī)器學(xué)習(xí)框架和靈活的消費(fèi)模型。
谷歌計(jì)算和機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施部門(mén)副總裁馬克·洛邁爾(Mark Lohmeyer)在博客文章中解釋道,“傳統(tǒng)方法通常通過(guò)零碎的組件級(jí)增強(qiáng)來(lái)解決要求苛刻的人工智能工作負(fù)載,這可能會(huì)導(dǎo)致效率低下和瓶頸。”“相比之下,人工智能超級(jí)計(jì)算機(jī)采用系統(tǒng)級(jí)協(xié)同設(shè)計(jì)來(lái)提高人工智能訓(xùn)練、調(diào)整和服務(wù)的效率和生產(chǎn)力。”這可以理解為,與單獨(dú)看待每個(gè)部分相比,這種合并將提高生產(chǎn)力和效率。換句話(huà)說(shuō),超級(jí)計(jì)算機(jī)是一個(gè)系統(tǒng),其中任何可能導(dǎo)致性能低下的變量(硬件或軟件)都受到控制和優(yōu)化。
(作者 杜宇)
- 原標(biāo)題:重磅!谷歌推出其最先進(jìn)AI模型Gemini,大規(guī)模多任務(wù)語(yǔ)言理解或超越人類(lèi)專(zhuān)家
- 責(zé)任編輯: 唐曉甫 
-
又一國(guó)之重器!世界最深、最大的極深地下實(shí)驗(yàn)室投入科學(xué)運(yùn)行
2023-12-07 07:17 科技前沿 -
“正與美國(guó)政府合作,確保中國(guó)特供芯片出口”
2023-12-06 17:51 中美關(guān)系 -
我國(guó)首次海上遠(yuǎn)距離機(jī)動(dòng)發(fā)射,捷龍三號(hào)有哪些新突破?
2023-12-06 15:12 -
新一代國(guó)產(chǎn)超算系統(tǒng)“天河星逸”發(fā)布
2023-12-06 13:19 科技前沿 -
全球首座第四代核電站在山東投產(chǎn)
2023-12-06 10:21 科技前沿 -
AI僅用17天獨(dú)自創(chuàng)建41種新材料,速度和精確性遠(yuǎn)超人類(lèi)
2023-12-04 09:06 人工智能 -
新突破!重慶大學(xué)研究團(tuán)隊(duì)將電鏡顯微技術(shù)從二維推進(jìn)至三維
2023-12-02 18:29 科技前沿 -
“雪龍”號(hào)抵達(dá)南極中山站
2023-12-01 16:06 南極探險(xiǎn) -
首個(gè)國(guó)家級(jí)海上風(fēng)電研究與試驗(yàn)檢測(cè)基地開(kāi)建
2023-12-01 15:39 -
有望成為新型半導(dǎo)體材料!中國(guó)科學(xué)家合成全新碳分子
2023-12-01 09:33 科技前沿 -
英偉達(dá)CEO:中國(guó)特供芯片,合規(guī)就開(kāi)賣(mài)
2023-11-30 11:16 -
0.1微米!超精密加工利器來(lái)了
2023-11-30 08:15 中國(guó)精造 -
打造世界一流科技期刊,中國(guó)底氣在哪里?
2023-11-29 14:00 -
中國(guó)載人航天工程辦公室:盼港澳航天員進(jìn)駐祖國(guó)空間站
2023-11-29 10:19 航空航天 -
中國(guó)空間站第一組全構(gòu)型工作照發(fā)布
2023-11-28 16:58 航空航天 -
中國(guó)首顆高精度地磁場(chǎng)探測(cè)衛(wèi)星投入使用
2023-11-28 15:02 航空航天 -
朝中社:朝鮮加快“萬(wàn)里鏡-1”號(hào)偵察衛(wèi)星微調(diào)進(jìn)程
2023-11-27 18:54 朝鮮現(xiàn)狀 -
如果未來(lái)20年“機(jī)器人女友”成為現(xiàn)實(shí),人類(lèi)能收獲AI愛(ài)情嗎?
2023-11-27 17:41 -
高林:發(fā)展人工智能應(yīng)堅(jiān)持“智能向善”
2023-11-27 15:03 人工智能 -
劉伯超:真誠(chéng)希望中美雙方深化人工智能技術(shù)交流與合作
2023-11-27 15:03 人工智能
相關(guān)推薦 -
印度稱(chēng)“不想升級(jí)”,巴方想“就此打住” 評(píng)論 160空中爆炸!巴軍通報(bào)7日空戰(zhàn)細(xì)節(jié),含擊落“陣風(fēng)”錄音 評(píng)論 243“跟巴西建這條鐵路,中國(guó)非常感興趣” 評(píng)論 78真急了!“請(qǐng)求中國(guó)取消限制” 評(píng)論 495歐盟多國(guó)大停電,“我們需要中國(guó)技術(shù)” 評(píng)論 183最新聞 Hot
-
印度稱(chēng)“不想升級(jí)”,巴方想“就此打住”
-
英法德波領(lǐng)導(dǎo)人訪問(wèn)基輔,將與澤連斯基共同討論?;饐?wèn)題
-
印軍否認(rèn)S-400防空系統(tǒng)被摧毀
-
印度前高官:勸巴基斯坦,中國(guó)的話(huà)好使
-
空中爆炸!巴軍通報(bào)7日空戰(zhàn)細(xì)節(jié),含擊落“陣風(fēng)”錄音
-
要松口了?印官員稱(chēng)將“適時(shí)”公開(kāi)
-
印度32座機(jī)場(chǎng)暫停對(duì)所有民用航班運(yùn)營(yíng)
-
英官員承認(rèn):美英貿(mào)易協(xié)議這條款,沖中國(guó)來(lái)的
-
巴外長(zhǎng):印度讓巴基斯坦別無(wú)選擇
-
巴基斯坦稱(chēng)使用“梟龍”戰(zhàn)機(jī)擊毀印度S-400防空系統(tǒng)
-
搞錢(qián)色交易、貪欲膨脹,深圳市政協(xié)原副主席王幼鵬被“雙開(kāi)”
-
“跟巴西建這條鐵路,中國(guó)非常感興趣”
-
果然,英國(guó)被用來(lái)“立規(guī)矩”了
-
印度官員:印軍正做出回應(yīng)
-
印方:一高級(jí)官員在巴方炮擊中身亡
-
巴基斯坦發(fā)起“銅墻鐵壁”行動(dòng):已打擊20多處印度軍事設(shè)施
快訊- 非洲40多國(guó)中青年軍官代表訪華
- 大熊貓“渝可”高頻率抓癢撓耳,重慶動(dòng)物園通報(bào)
- 中美經(jīng)貿(mào)高層會(huì)談在瑞士日內(nèi)瓦開(kāi)始舉行
- 習(xí)近平圓滿(mǎn)結(jié)束對(duì)俄羅斯國(guó)事訪問(wèn)并出席紀(jì)念蘇聯(lián)偉大衛(wèi)國(guó)戰(zhàn)爭(zhēng)勝利80周年慶典
- 印軍否認(rèn)S-400防空系統(tǒng)被摧毀
- 英法德波領(lǐng)導(dǎo)人訪問(wèn)基輔,將與澤連斯基共同討論停火問(wèn)題
- 空投測(cè)試成功!我國(guó)在這一領(lǐng)域?qū)崿F(xiàn)技術(shù)跨越
- 中國(guó)公共外交協(xié)會(huì)在云南麻栗坡舉辦第三屆“老山國(guó)際春茶節(jié)”活動(dòng)
-