-
專家 :發(fā)展大模型的前提是安全可控
5月10日,以“數(shù)智無界 安全共生”為主題的2025中國數(shù)谷·西湖論劍大會在杭州高新區(qū)(濱江)開幕。本次大會匯聚政、產(chǎn)、學(xué)、研、用各界精英,聚焦數(shù)據(jù)要素市場化配置改革與人工智能深度融合等核心議題,分享前瞻洞見,發(fā)布多項重磅成果,啟動系列重要合作,為數(shù)字經(jīng)濟高質(zhì)量發(fā)展注入強勁新動能。
上午,在大會主論壇上,安恒信息技術(shù)股份有限公司董事長范淵發(fā)表了題為《AI×數(shù)據(jù)要素:擁抱智能體時代》的主題報告,范淵表示,AI智能體發(fā)展有條件自主、高度自主和完全自主三重境界,安恒信息通過智能體賦能安全運營、安全監(jiān)管,重構(gòu)威脅情報共享和協(xié)同防御體系,在實戰(zhàn)中實現(xiàn)從傳統(tǒng)的被動響應(yīng)轉(zhuǎn)向主動防御,同時通過智能體生態(tài)共創(chuàng),結(jié)合各自專業(yè)領(lǐng)域的業(yè)務(wù)知識,共創(chuàng)出兼具創(chuàng)新與實用的智能體,在技術(shù)、業(yè)務(wù)、成果上實現(xiàn)共贏。
范淵強調(diào),在數(shù)據(jù)要素化發(fā)展新階段,數(shù)據(jù)安全要從靜態(tài)安全向動態(tài)安全迭代升級,需要對數(shù)據(jù)、業(yè)務(wù)和行為意圖進行更為深入的理解,安全智能體是解題的關(guān)鍵核心。在可信數(shù)據(jù)空間領(lǐng)域,AI原生可信數(shù)據(jù)空間可實現(xiàn)可信數(shù)據(jù)空間與 AI 的雙向賦能。同時,我們既要看到“人工智能帶來前所未有發(fā)展機遇”,也要看到它“帶來前所未遇風(fēng)險挑戰(zhàn)”,必須將大模型風(fēng)險評估檢測列為關(guān)鍵任務(wù),讓大模型在安全可控的前提下,才能實現(xiàn)敢用、可用、好用。
中國計算機學(xué)會原理事長、CFF計算機博物館館長梅宏作了《數(shù)據(jù)要素化面臨的挑戰(zhàn)》的主題報告。梅宏認為,當前我國數(shù)字化轉(zhuǎn)型處于起步階段,數(shù)據(jù)資產(chǎn)相關(guān)法律還未明確,資產(chǎn)地位沒有確立,權(quán)屬確權(quán)沒有形成共識,流通交易也缺少規(guī)則,利益分配相應(yīng)機制不夠充分,還要面對安全隱私帶來的系列問題。數(shù)字化轉(zhuǎn)型就是需要構(gòu)建以數(shù)據(jù)為中心的組織體系和運行模式,沒有數(shù)據(jù)就不可能有智能,就像燃料和火箭的關(guān)系一樣。而這一輪AI革命的三要素:算法、數(shù)據(jù)、算力,實際上數(shù)據(jù)是關(guān)鍵。
大會集中發(fā)布了“中國數(shù)谷”在數(shù)據(jù)要素市場化配置改革、關(guān)鍵技術(shù)創(chuàng)新攻關(guān)、產(chǎn)業(yè)生態(tài)培育以及行業(yè)深度應(yīng)用等方面取得的一系列標志性成果。近年來,杭州錨定“中國數(shù)谷”,加速推進數(shù)據(jù)要素產(chǎn)業(yè)集聚發(fā)展,為浙江建設(shè)國家數(shù)字經(jīng)濟創(chuàng)新發(fā)展試驗區(qū)探路打樣。杭州高新區(qū)(濱江)緊抓“中國數(shù)谷”建設(shè)機遇,以政策賦能、以改革破題,推動人工智能和數(shù)據(jù)產(chǎn)業(yè)高質(zhì)量發(fā)展。本次大會發(fā)布了海洋經(jīng)濟行業(yè)可信數(shù)據(jù)空間階段性建設(shè)成果、《安全智能體魔方:成熟度模型評價研究報告》《數(shù)商企業(yè)評定標準(試行)》以及“三數(shù)一鏈”——國家數(shù)據(jù)基礎(chǔ)設(shè)施杭州先行先試階段性成果,彰顯了杭州高新區(qū)(濱江)在數(shù)字經(jīng)濟領(lǐng)域的引領(lǐng)力與創(chuàng)新力。
本次圓桌會議則以“人工智能新紀元”為主題,浙江大學(xué)求是特聘教授,教育部長江學(xué)者,浙江大學(xué)國際聯(lián)合學(xué)院副院長吳健擔任主持人,上海人工智能研究院首席科學(xué)家閆維新、宇樹科技副總經(jīng)理王啟舟、華為政務(wù)一網(wǎng)通軍團研發(fā)副總裁王鵬、安恒信息CTO劉博、粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院高級研究員江旭暉、高新科創(chuàng)集團科創(chuàng)合伙人王磊等嘉賓就核心算法、治理框架、產(chǎn)業(yè)融合等維度進行交流,圍繞高質(zhì)量數(shù)據(jù)對AI發(fā)展的關(guān)鍵作用、數(shù)據(jù)基礎(chǔ)設(shè)施演進方向、AI應(yīng)用責(zé)任倫理界定、中美技術(shù)格局比較等前沿課題分享洞見,碰撞思想,為行業(yè)把握技術(shù)變革機遇提供戰(zhàn)略參考。
會議期間,安恒信息CTO劉博,安恒信息高級副總裁、研究院院長王欣接受了媒體采訪。
談及隱私保護計算商業(yè)化進程,劉博認為,技術(shù)標準的缺失是當前產(chǎn)業(yè)落地的主要瓶頸之一?!艾F(xiàn)階段隱私保護計算技術(shù)路線多元,但跨行業(yè)互操作的統(tǒng)一標準仍在形成過程中,國家數(shù)據(jù)局的正在加速推動技術(shù)規(guī)范、接口協(xié)議和評測體系的頂層設(shè)計,這是激活市場規(guī)模化應(yīng)用的關(guān)鍵驅(qū)動力。”他同時提及杭州中國數(shù)谷“三數(shù)一鏈”的實踐探索,通過將隱私保護計算技術(shù)嵌入數(shù)據(jù)基礎(chǔ)設(shè)施,正在構(gòu)建跨域數(shù)據(jù)流通的安全可信環(huán)境,為解決數(shù)據(jù)“可用不可見”提供落地范例。
對于近期備受關(guān)注的AI一體機,劉博認為其價值在于提供“開箱即用”的輕量化部署方案:“一體機通過硬件集成與軟件預(yù)配置,幫助客戶跳過復(fù)雜的基礎(chǔ)設(shè)施搭建環(huán)節(jié),快速實現(xiàn)私有化部署,尤其適合中小規(guī)模業(yè)務(wù)初期上線?!钡瑫r指出技術(shù)演進的必然路徑:“隨著業(yè)務(wù)規(guī)模擴大和應(yīng)用場景復(fù)雜化,分布式架構(gòu)將成為剛需——系統(tǒng)需要支持彈性擴容、多節(jié)點協(xié)同和異構(gòu)資源調(diào)度,屆時一體機模式會向分布式集群架構(gòu)平滑遷移。這種從單體到分布式的演進,本質(zhì)上是技術(shù)適配業(yè)務(wù)增長的自然過程?!痹撚^點清晰界定了AI一體機的階段性定位與長期架構(gòu)演進邏輯,為行業(yè)技術(shù)選型提供了參考坐標。王欣重點介紹了最新發(fā)布的恒腦安全大模型3.0,其核心特點是泛連接、高交互、多模態(tài)。該版本在與安全防御體系的融合中取得了很好的效果,在漏洞復(fù)現(xiàn)場景中,恒腦3.0已實現(xiàn)智能體替代人工驗證漏洞的能力,解決了傳統(tǒng)掃描器長期存在的需要人進一步核實漏洞有效性的難題,獲客戶高度認可。針對MCP協(xié)議可能引發(fā)的安全問題,王欣指出兩大風(fēng)險:一是客戶端下載安裝后存在本地設(shè)備被遠程控制的可能性;二是大模型與MCP結(jié)合時若配置不當,可能通過對話突破“價值觀對齊”防線,使正常模型被惡意操控。對此,安恒信息提出“虛擬補丁”防御思路,通過邊界類智能網(wǎng)關(guān)設(shè)備(如web應(yīng)用防火墻)進行防御,即使存在漏洞,黑客也不能攻擊成功。
王欣認為,智能體時代的風(fēng)險防控分為內(nèi)防和外防,大模型廠商一定要解決的安全問題涉及模型、算法、語料治理過程,安全廠商在外防的角度進行防御。大模型廠商和安全公司未來是一種協(xié)同互補的關(guān)系,單獨靠大模型廠商在源頭上解決問題是無法根治的。
在數(shù)據(jù)流通領(lǐng)域,王欣提到,“一方面我們作為安全公司,通過AI保證數(shù)據(jù)在流通過程中的安全可信。另外,我們通過AI讓數(shù)據(jù)變成知識和能力,我們聯(lián)合了一些數(shù)商,共同基于AI原生的可信數(shù)據(jù)空間做基于大模型的數(shù)據(jù)開發(fā)共創(chuàng)。通過這種方式讓數(shù)據(jù)更加安全有效流通,促進數(shù)據(jù)要素流通的發(fā)展,也同時促進人工智能的發(fā)展?!?
王欣指出,“2023年是AI的技術(shù)年,2024年其實是產(chǎn)品和應(yīng)用年,今年走向了客戶場景?!蓖跣捞岬剑嚓P(guān)業(yè)務(wù)收入從2025年年初開始有較大幅度上升趨勢,相對商機也有大幅上升。“尤其我們觀察到客戶去年沒有預(yù)算,因為做了測試驗證之后,積極做了預(yù)算調(diào)整或者預(yù)算補報,專門申報AI相關(guān)的服務(wù)內(nèi)容?!?
當天下午,觀察者網(wǎng)參加了數(shù)據(jù)安全流通專題會議,其中該專題會議的數(shù)據(jù)論“建”對話環(huán)節(jié)由北京交通大學(xué)信息管理理論與技術(shù)國際研究中心特聘教授張向宏主持,北京市政務(wù)服務(wù)和數(shù)據(jù)管理局、重慶市大數(shù)據(jù)應(yīng)用發(fā)展管理局、杭州市數(shù)據(jù)資源管理局、西安市數(shù)據(jù)局、青島市大數(shù)據(jù)發(fā)展管理局、大連市數(shù)據(jù)局、蘇州市數(shù)據(jù)局、贛州市數(shù)字產(chǎn)業(yè)集團各代表共同參與。各地方總結(jié)了在數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)方面取得的成績,就各方發(fā)展路線與特點進行了交流。
張向宏提到,安全可信與高效流通,是檢驗國家數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)成功與否的兩個標志。隨著 DeepSeek 的崛起,算力平權(quán)與算法平權(quán)得以實現(xiàn);而數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)成功之后,非??赡軐崿F(xiàn)數(shù)據(jù)平權(quán)。
我國首先選擇六條基礎(chǔ)路線進行試點試驗,到2028年的時候會融合成一條,經(jīng)過驗證、實施,在2029年的時候向全國大規(guī)模推廣、建設(shè),最后形成“橫向連通、縱向貫通、協(xié)調(diào)有力”的全國一張網(wǎng)。
同時,張向宏也提到,除了國內(nèi),數(shù)據(jù)跨境也是重要考慮內(nèi)容之一,“雖然逆全球化在泛濫,但是對中國來說,堅持經(jīng)濟全球化,堅持世界各個國家平等發(fā)展是我們一貫堅持的主張。對于數(shù)據(jù)的跨境,在不同國家數(shù)據(jù)的暢通流通也是我們一直堅持的方向?!睆埾蚝瓯硎荆壳?,對數(shù)據(jù)跨境有單獨的解決方案,例如深圳(前海)國際數(shù)據(jù)產(chǎn)業(yè)園的建設(shè),同時其他部門自貿(mào)區(qū)數(shù)據(jù)白名單也取得一定成效。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
- 責(zé)任編輯: 楊依婷 
-
英偉達AMD股價暴漲;哪吒汽車被申請破產(chǎn);外賣平臺被約談
2025-05-14 08:56 產(chǎn)業(yè)萬象 -
中巴續(xù)簽雙邊本幣互換協(xié)議有何意義?一文解讀
2025-05-13 21:27 金融觀察 -
智慧出行時代,“不造車”的騰訊能否靠用戶生態(tài)后發(fā)制人?
2025-05-13 18:47 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
榮耀內(nèi)部進行“重新競聘上崗”,新增AI新產(chǎn)業(yè)部門
2025-05-13 18:15 觀網(wǎng)財經(jīng)-科創(chuàng) -
高科技項目投資顯成效 衢州發(fā)展穩(wěn)步推進戰(zhàn)略轉(zhuǎn)型
2025-05-13 16:38 觀網(wǎng)財經(jīng)-房產(chǎn) -
每年3億專項扶持,四川出臺低空經(jīng)濟新政策
2025-05-13 16:37 觀網(wǎng)財經(jīng)-科創(chuàng) -
蘋果旗艦降價參加國補,但只有128GB版
2025-05-13 16:05 觀網(wǎng)財經(jīng)-科創(chuàng) -
蜜雪冰城與巴西簽40億元采購大單,并計劃建廠
2025-05-13 15:29 觀網(wǎng)財經(jīng)-消費 -
來伊份再次回應(yīng)“帶血創(chuàng)可貼”事件:已與消費者達成和解
2025-05-13 15:19 觀網(wǎng)財經(jīng)-消費 -
盧拉見證:美團簽10億美元投資協(xié)議進入巴西市場
2025-05-13 14:50 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng) -
盧拉總統(tǒng)見證:中巴高端醫(yī)療開展深度戰(zhàn)略合作
2025-05-13 14:49 觀網(wǎng)財經(jīng)-健康 -
中小銀行首現(xiàn)“存5年不如存1年”
2025-05-13 14:39 金融觀察 -
身價超460億的西北大學(xué)副校長成陜西首富,可復(fù)美功不可沒
2025-05-13 14:28 觀網(wǎng)財經(jīng)-消費 -
Dior中國用戶隱私數(shù)據(jù)遭泄露
2025-05-13 11:14 觀網(wǎng)財經(jīng)-消費 -
A股三大股指集體高開,消費電子、跨境電商活躍
2025-05-13 09:44 金融觀察 -
美股中國資產(chǎn)大爆發(fā);Manus開放注冊;蘋果考慮iPhone新品漲價
2025-05-13 08:33 產(chǎn)業(yè)萬象 -
長和深夜回應(yīng)港口交易!絕不可能在不合法、不合規(guī)下進行
2025-05-13 07:50 觀網(wǎng)財經(jīng)-房產(chǎn) -
茶咖日報|瑞幸發(fā)布新一輪加盟招募計劃;幸運咖全國門店數(shù)突破5400家
2025-05-12 22:18 觀網(wǎng)財經(jīng)-消費 -
多地工廠停產(chǎn)、員工維權(quán)?宗馥莉時代的娃哈哈動蕩升級
2025-05-12 19:46 觀網(wǎng)財經(jīng)-消費 -
?十年前的手機都能跑,阿里掏出了最適合落地的小模型?
2025-05-12 17:50 觀網(wǎng)財經(jīng)-互聯(lián)網(wǎng)
相關(guān)推薦 -
政策突轉(zhuǎn),特朗普中東行大撒先進AI芯片 評論 116“不被特朗普唬住,中國打了個樣” 評論 125“顯然特朗普先退一步,雖尷尬但有用” 評論 79歐盟深吸一口氣:這也太荒謬了 評論 245最新聞 Hot
-
“中國在南美建巨型碼頭,確保替代美國糧食”
-
沙特對美投資6000億?“實際一半都不到”
-
印度還慶祝上了,全國大賀10天!
-
又降了:125%→54%→30%
-
政策突轉(zhuǎn),特朗普中東行大撒先進AI芯片
-
跟著特朗普去中東推銷星鏈,馬斯克賺大發(fā)了?
-
美國特務(wù)們的“噩夢”…
-
“好萊塢都是騙人的,真后悔…”
-
歐盟:中美邁出正確一步,但…
-
“英美貿(mào)易協(xié)議這項‘毒丸’條款,中方狠批”
-
眼瞅著中美談成了,日本心里急啊…
-
日本:民間飛機別在釣魚島飛了,不要“刺激中國”
-
特朗普宣布解除對敘利亞制裁:祝好運
-
“不夠啊,巴西還是比美國有優(yōu)勢”
-
特朗普喊話鮑威爾:像歐洲、中國那樣降息
-
被戳痛點,印方火速打臉特朗普
-