-
谷歌打響OpenAI反擊戰(zhàn),最新大語言模型PaLM 2直指GPT-4痛點(diǎn)
最后更新: 2023-05-11 10:28:28北京時(shí)間5月11日凌晨1點(diǎn),Google I/O 2023開發(fā)者大會(huì)如期而至。在美國(guó)加州山景城總部,谷歌在多項(xiàng)產(chǎn)品和服務(wù)方面推出了重磅更新,涉及谷歌地圖、人工智能、搜索、安卓、谷歌云和Pixel等多個(gè)領(lǐng)域。其中,谷歌在巴德和生成式AI方面的最新進(jìn)展備受外界關(guān)注。
PaLM 2打響GPT-4反擊戰(zhàn)
谷歌CEO皮查伊在發(fā)布會(huì)現(xiàn)場(chǎng)表示,此次谷歌發(fā)布的PaLM 2是目前最先進(jìn)的語言模型,也是其PaLM語言模型的第二個(gè)版本。相比PaLM 1,新版本具有升級(jí)的多語言、推理和編碼能力,將為25種谷歌產(chǎn)品提供支持。
圖源:谷歌
在多語言能力方面,PaLM 2進(jìn)行了更多訓(xùn)練,文本橫跨100多種語言,很大程度上提高了其理解、生成和翻譯細(xì)微差異化文本的能力,解決了對(duì)成語、詩歌和謎語這類文本的理解能力,這種文本的處理門檻較高。此外,PaLM 2能夠通過很高級(jí)別的語言能力考試。
推理能力方面, 由于PaLM 2在包含科學(xué)論文和數(shù)學(xué)表達(dá)式的網(wǎng)頁上進(jìn)行了訓(xùn)練,因此具備了在邏輯、常識(shí)推理和數(shù)學(xué)方面的改進(jìn)能力。
編碼能力上,PaLM 2支持20多種編程語言。由于它是在大量公開可用的源代碼數(shù)據(jù)集上進(jìn)行預(yù)訓(xùn)練,因而擅長(zhǎng)Python和JavaScript等流行編程語言,同時(shí)也可進(jìn)行Prolog、Fortran和Verilog等小眾語言的編程。
圖源:谷歌
據(jù)皮查伊介紹,PaLM 2將擁有從小到大四種尺寸,分別為Gecko、Otter、Bison和Unicorn。
圖源:谷歌
Gecko:最小尺寸,可以在移動(dòng)設(shè)備上運(yùn)行,速度足夠快,即使離線狀態(tài)也可以進(jìn)行交互應(yīng)用。
Otter:中等大小模型,適合各種任務(wù),包括自然語言處理、機(jī)器翻譯和代碼生成。
Bison:更大的模型,可以處理更復(fù)雜任務(wù),例如生成逼真的圖像和視頻。
Unicorn:最大尺寸,可處理最復(fù)雜的任務(wù),比如編寫創(chuàng)意文本,如詩歌、代碼、腳本、音樂作品、電子郵件、信件等。
不同尺寸模型帶來的功能性意味著PaLM 2可以進(jìn)行微調(diào),以多種方式支持整類產(chǎn)品,幫助到更多用戶。
圖源:谷歌
PaLM 2的多模態(tài)能力體現(xiàn)在能看懂和生成音頻和視頻內(nèi)容之上,皮查伊在現(xiàn)場(chǎng)對(duì)這些能力進(jìn)行了少量展示。他用谷歌內(nèi)部基于PaLM 2針對(duì)醫(yī)療領(lǐng)域微調(diào)而成的Med-PaLM 2舉例,后者是第一個(gè)在醫(yī)學(xué)執(zhí)照考試上表現(xiàn)出專家水平的專用語言模型,已經(jīng)可以在醫(yī)院看片室?guī)椭派淇漆t(yī)生解讀圖像,可以根據(jù)X光片分析病人的狀況,此后還將用于更多領(lǐng)域。
圖源:谷歌CEO皮查伊稱Med-PaLM已經(jīng)可以達(dá)到人類專家醫(yī)生的水平
皮查伊指出,雖然PaLM 2的能力已經(jīng)很強(qiáng),但只有在對(duì)特定領(lǐng)域的知識(shí)進(jìn)行微調(diào)時(shí),才能真正發(fā)揮作用。與基礎(chǔ)模型相比,微調(diào)幫助Med-PaLM 2實(shí)現(xiàn)了將近十倍的精確度,從而在醫(yī)學(xué)問題回答上能做到接近臨床專家的表現(xiàn)。
“我們還在努力增加Med-PaLM 2的功能,使其能夠綜合來自醫(yī)學(xué)影像的信息,如乳腺X射線。”皮查伊強(qiáng)調(diào)。
據(jù)谷歌搜索部門高管介紹,Med PaLM 2的訓(xùn)練集使用的是各國(guó)醫(yī)療診所數(shù)據(jù)樣本
與之類似,谷歌還基于PaLM 2訓(xùn)練了一個(gè)針對(duì)安全領(lǐng)域的垂直模型Sec-PaLM,它可以利用AI來檢測(cè)惡意腳本,幫助安全專家理解和解決各類攻擊和威脅問題。
據(jù)谷歌介紹,PaLM 2的用戶既包括世界各地的消費(fèi)者,也包括開發(fā)者和各類規(guī)模的企業(yè)。
皮查伊還宣布,谷歌已經(jīng)在著手開發(fā)下一代多模態(tài)大模型Gemini,這一模型在工具和API集成方面非常高效,并在記憶力和規(guī)劃能力上擁有相當(dāng)創(chuàng)新突破,目前仍在訓(xùn)練之中?!癎emini展示出了相較其他模型前所未見的多模態(tài)能力。一旦經(jīng)過微調(diào)和嚴(yán)格安全測(cè)試,也將擁有各種尺寸和功能,可以部署在不同的產(chǎn)品、應(yīng)用和設(shè)備上,使每個(gè)人受益?!逼げ橐帘硎?。
從PaLM2到Gemini,谷歌本次找準(zhǔn)了GPT-4的痛點(diǎn)下手,用多模態(tài)能力直擊靶心,又用專用領(lǐng)域模型拉開差距,可以說打了一個(gè)漂亮的反擊戰(zhàn)。
谷歌研究部副總裁左賓·蓋若曼尼指出了一個(gè)值得關(guān)注的問題,即模型并不是“越大越好”那么簡(jiǎn)單,研究的創(chuàng)造性才是建立偉大模型的關(guān)鍵。他表示,谷歌近期在構(gòu)建和訓(xùn)練模型方面取得的進(jìn)展使之了解到如何真正釋放多模態(tài)能力,如何比以往更有效地構(gòu)建模型。此后,谷歌會(huì)致力于那些為人們的日常生活帶來真正好處的模型構(gòu)建。
谷歌在本次I/O大會(huì)上并沒有給出PaLM 2的更多技術(shù)細(xì)節(jié),這也與OpenAI對(duì)待ChatGPT和GPT-4的態(tài)度相似,但谷歌的上述表態(tài)與其內(nèi)部堅(jiān)持的技術(shù)路線一脈相承。雖然自去年年底開始,谷歌就因?yàn)镃hatGPT橫空出世陷入極為被動(dòng)的局面,但谷歌實(shí)際上早于OpenAI看到了超大規(guī)模語言模型的必要性,并堅(jiān)持在稀疏模型架構(gòu)上做了深入探索。在DeepMind與谷歌分治之前,其語言模型麻雀就走上了小模型參數(shù)打敗精調(diào)的道路,而與谷歌合兵一處之后,勢(shì)必在思路上對(duì)PaLM 2也做出了相當(dāng)貢獻(xiàn)。
皮查伊也強(qiáng)調(diào),PaLM 2的成果建立在谷歌大腦和DeepMind這兩個(gè)世界級(jí)研究團(tuán)隊(duì)所取得的進(jìn)展之上。
Bard一雪前恥
在I/O大會(huì)上,另一個(gè)為世界矚目的進(jìn)展來自此前折戟的Bard。
谷歌宣布了Bard的多項(xiàng)功能更新,總體來看可謂是針對(duì)BingChat新晉更新的重量級(jí)回應(yīng)。首先是與圖像配合的多模態(tài)查詢功能,用戶可以使用圖像向Bard提問,也可以讓Bard使用圖像內(nèi)容向用戶進(jìn)行回應(yīng)。
如果用戶想查詢關(guān)于某個(gè)旅游目的地的信息,Bard的表現(xiàn)像一個(gè)大眾點(diǎn)評(píng),可以向用戶展示該處目的地附近的所有熱門景點(diǎn)。
圖源:谷歌
圖源:谷歌
在文字之外,Bard可以做到很好的理解圖片,可以根據(jù)圖片信息抽象出文字。谷歌在現(xiàn)場(chǎng)進(jìn)行了演示,如果發(fā)給Bard一個(gè)狗狗的照片,Bard可以根據(jù)圖片來分析其中的有趣之處。
圖源:谷歌
在這個(gè)過程里,谷歌也展示出通過最近幾個(gè)月的訓(xùn)練,Bard對(duì)語言文字理解力有了進(jìn)一步增強(qiáng),這是上次Bard問世被群嘲的核心點(diǎn)。
在I/O大會(huì)現(xiàn)場(chǎng),Bard有兩項(xiàng)功能演示獲得了分貝最高的歡呼聲,第一次來自Bard的深色模式更新,第二次是因?yàn)锽ard的新晉搜索功能與谷歌地圖形成了完美整合。
圖源:谷歌
圖源:在現(xiàn)場(chǎng)演示中,谷歌高管詢問Bard哪個(gè)城市比較適合自己18歲時(shí)讀書,并給出了幾項(xiàng)條件,Bard首先使用文字作答給出了若干選項(xiàng),之后被要求用谷歌地圖來展示位置。
圖源:谷歌
Bard的另一項(xiàng)重大進(jìn)益在編程側(cè)。谷歌正在增強(qiáng)下一代Bard版本的編程能力,希望Bard不僅能夠生成代碼,還能夠解釋一些代碼片段并幫助用戶調(diào)試代碼,還希望Bard能具備更強(qiáng)的代碼引用能力。
新版本中Bard的編程能力非常強(qiáng)大,足以與CoPilot媲美?,F(xiàn)場(chǎng)演示引發(fā)了陣陣掌聲。
在先前的迭代中,Bard已經(jīng)能夠?qū)ython代碼導(dǎo)出到谷歌的Colab。而谷歌正在擴(kuò)大這一功能,希望將Python代碼導(dǎo)出到Replit,使得開發(fā)者更容易使用。
本次,谷歌取消了Bard的用戶等待名單,使其在180多個(gè)國(guó)家和地區(qū)都可以使用。英語之外,Bard目前可以支持日語和漢語,不久之后可以支持40種語言。
據(jù)悉,谷歌目前在與第三方合作伙伴合作,將其技術(shù)支持引入Bard。但谷歌強(qiáng)調(diào)自己唯一的第三方合作伙伴是Adobe的圖像生成器Firefly,后續(xù)會(huì)開展與專注數(shù)學(xué)計(jì)算的引擎WolframAlpha等的合作。有趣的是,微軟Bing日前的那場(chǎng)升級(jí)也調(diào)用了Wolfram Alpha插件。
有分析指出,谷歌自身的圖像生成能力本就很強(qiáng),此次卻選擇與Adobe Firefly聯(lián)手令人意外,這更多應(yīng)該是出于安全方面考慮。
圖源:谷歌
谷歌方面表示,還將很快推出Bard的其他擴(kuò)展功能,主要是將其融入自己的各類應(yīng)用程序,尤其是Google maps、Google Docs、Google Sheets和Gmail。目前看來,這類更新的力度會(huì)比微軟Edge瀏覽器與GPT-4的結(jié)合力度更大。
圖源:Google Bard與Gmail結(jié)合
(界面新聞?dòng)浾?| 李京亞)
- 原標(biāo)題:谷歌打響OpenAI反擊戰(zhàn),最新大語言模型PaLM 2直指GPT-4痛點(diǎn)
- 責(zé)任編輯: 房佶宜 
-
轉(zhuǎn)基因作物能留種嗎?農(nóng)民日?qǐng)?bào)解答
2023-05-11 08:38 轉(zhuǎn)基因 -
量子處理器上首次“造出”任意子,有望提升容錯(cuò)能力
2023-05-11 08:32 科技前沿 -
首個(gè)人類泛基因組草圖發(fā)表,這項(xiàng)數(shù)據(jù)增加104%
2023-05-11 08:17 -
又一大國(guó)重器迎來關(guān)鍵節(jié)點(diǎn)
2023-05-11 08:14 科技前沿 -
天舟六號(hào)瞄準(zhǔn)今日21時(shí)22分發(fā)射
2023-05-10 16:01 航空航天 -
天舟六號(hào)發(fā)射任務(wù),圓滿成功
2023-05-10 15:11 航空航天 -
國(guó)內(nèi)規(guī)模最大高原風(fēng)電基地800兆瓦全容量投產(chǎn)
2023-05-08 10:03 -
建月球基地的玻璃有了?中國(guó)科學(xué)家月壤最新發(fā)現(xiàn)
2023-05-08 07:51 航空航天 -
科大訊飛發(fā)布星火認(rèn)知大模型,算力方面將聯(lián)手華為
2023-05-07 20:59 觀網(wǎng)財(cái)經(jīng)-科創(chuàng) -
我國(guó)科研人員開發(fā)出可精準(zhǔn)檢測(cè)與治療癌癥的納米粒子
2023-05-06 19:29 -
-
全球首例!北京成功完成非人靈長(zhǎng)類動(dòng)物介入式腦機(jī)接口試驗(yàn)
2023-05-05 16:57 科技前沿 -
華龍一號(hào)全球首堆示范工程通過竣工驗(yàn)收
2023-05-05 16:20 核電 -
我國(guó)科學(xué)家發(fā)明“進(jìn)化透鏡”,馬鈴薯育種取得世界性突破
2023-05-05 16:18 -
陳剛等8位華人當(dāng)選美國(guó)科學(xué)院院士
2023-05-04 13:22 -
中國(guó)科學(xué)家發(fā)現(xiàn)火星近期水活動(dòng)新證據(jù)
2023-04-27 13:59 航空航天 -
我國(guó)科學(xué)家領(lǐng)銜,拍到黑洞“尾巴”
2023-04-27 08:13 -
最新研究:地球能量失衡加劇
2023-04-24 13:38 全球變暖 -
載人航天總師周建平獲“錢學(xué)森最高成就獎(jiǎng)”
2023-04-24 10:43 航空航天 -
迄今最重“薛定諤的貓”出現(xiàn)
2023-04-24 08:13 科技前沿
相關(guān)推薦 -
印巴?;?,特朗普邀功 評(píng)論 403巴防長(zhǎng):核選項(xiàng)不在考慮中,但是… 評(píng)論 69印度稱“不想升級(jí)”,巴方想“就此打住” 評(píng)論 407空中爆炸!巴軍通報(bào)7日空戰(zhàn)細(xì)節(jié),含擊落“陣風(fēng)”錄音 評(píng)論 267“跟巴西建這條鐵路,中國(guó)非常感興趣” 評(píng)論 86最新聞 Hot
-
印度稱“不想升級(jí)”,巴方想“就此打住”
-
英法德波領(lǐng)導(dǎo)人訪問基輔,將與澤連斯基共同討論?;饐栴}
-
印軍否認(rèn)S-400防空系統(tǒng)被摧毀
-
印度前高官:勸巴基斯坦,中國(guó)的話好使
-
空中爆炸!巴軍通報(bào)7日空戰(zhàn)細(xì)節(jié),含擊落“陣風(fēng)”錄音
-
要松口了?印官員稱將“適時(shí)”公開
-
印度32座機(jī)場(chǎng)暫停對(duì)所有民用航班運(yùn)營(yíng)
-
英官員承認(rèn):美英貿(mào)易協(xié)議這條款,沖中國(guó)來的
-
巴外長(zhǎng):印度讓巴基斯坦別無選擇
-
巴基斯坦稱使用“梟龍”戰(zhàn)機(jī)擊毀印度S-400防空系統(tǒng)
-
搞錢色交易、貪欲膨脹,深圳市政協(xié)原副主席王幼鵬被“雙開”
-
“跟巴西建這條鐵路,中國(guó)非常感興趣”
-
果然,英國(guó)被用來“立規(guī)矩”了
-
印度官員:印軍正做出回應(yīng)
-
印方:一高級(jí)官員在巴方炮擊中身亡
-
巴基斯坦發(fā)起“銅墻鐵壁”行動(dòng):已打擊20多處印度軍事設(shè)施
-