-
獨家對話|齊向東:大模型的安全挑戰(zhàn)日益嚴峻,如何應對
最后更新: 2025-04-09 17:36:35【今年2月17日,在中國經(jīng)濟巨輪迎難而上、乘風破浪的關(guān)鍵時期,習近平總書記出席民營企業(yè)座談會并發(fā)表重要講話。奇安信集團董事長齊向東是與會民營企業(yè)家代表之一。在兩會召開的前夕,心智觀察所與全國政協(xié)委員齊向東就“數(shù)據(jù)驅(qū)動安全”理念,云端網(wǎng)絡(luò)防御,以及我國軟件生態(tài)等議題進行了一場深度對話?!?
心智觀察所:在近期參加的民營企業(yè)家座談會上,奇安信在網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)創(chuàng)新成果受到關(guān)注。結(jié)合當前國家對科技自立自強的政策導向,您認為民營企業(yè)應如何把握政策機遇,進一步推動核心技術(shù)攻關(guān)?奇安信未來是否會將座談會上獲得的建議轉(zhuǎn)化為具體的戰(zhàn)略布局?
齊向東:在民企座談會上,總書記重點講了在新征程新時代企業(yè)家要大有作為,在新征程新時代里,又談到現(xiàn)在的社會經(jīng)濟和政治環(huán)境都非常好,適合民營經(jīng)濟大發(fā)展。總書記談到,現(xiàn)在科技發(fā)展日新月異,不斷出現(xiàn)新產(chǎn)業(yè)、新業(yè)態(tài)、新場景,在這些新產(chǎn)業(yè)、新業(yè)態(tài)、新場景里,能夠施展我們民營企業(yè)各種各樣的優(yōu)勢,為中國式現(xiàn)代化做更大的貢獻。
尤其談到美國對中國高科技的打壓方面,一些科技創(chuàng)新企業(yè)可能遇到了一些困難。總書記在談話的時候給我們民營企業(yè)家打氣、鼓勁,增強了很多信心。總書記談到我們有14億人的超大市場,有強大的工業(yè)制造基礎(chǔ),也有改革開放以來培養(yǎng)的一批又一批科技創(chuàng)新人才。最近這幾年,我們在數(shù)字經(jīng)濟、人工智能、先進制造業(yè)等方面都取得了很大的成績,既是大家努力的結(jié)果,又是綜合國力的體現(xiàn)。所以總書記又語重心長地告訴我們,不要為困難所懼,不要為干擾所迫,要做大、做強、做精主業(yè),要往深了做,要突破科技上的難題。
關(guān)于下一步的戰(zhàn)略重點,奇安信一直在說“安全快一步”,快一步抓產(chǎn)品、抓技術(shù)。所有技術(shù)都有短板,所有網(wǎng)絡(luò)攻擊者捕捉的都是技術(shù)的短板,而我們使用者看到的都是技術(shù)的長板,看不見短板,只有黑客能看得見。我們安全公司要兼具兩只慧眼,學會用兩只眼睛瞄兩個方向,一個要看到技術(shù)長板,一個要看到技術(shù)的短板。這就是安全公司獨特的地方,我們要在行業(yè)里練出特殊的功能和本領(lǐng)。
心智觀察所:作為首次參加兩會的民營科技企業(yè)代表,奇安信是否計劃就網(wǎng)絡(luò)安全、數(shù)據(jù)安全或人工智能監(jiān)管等熱點領(lǐng)域提交提案?在數(shù)字經(jīng)濟與實體經(jīng)濟深度融合的背景下,當前行業(yè)最亟需的政策支持或法規(guī)完善方向是什么?
齊向東:今年兩會我比較關(guān)注兩方面,一是人工智能安全,二是軟件產(chǎn)業(yè)健康發(fā)展。
先說人工智能安全。當前,以大模型為代表的人工智能技術(shù)正在深刻重塑生產(chǎn)生活方式和科技創(chuàng)新模式。今年春節(jié),國產(chǎn)大模型DeepSeek橫空出世,引發(fā)了廣泛討論,它顛覆了傳統(tǒng)的人工智能創(chuàng)新模式,將推動人工智能技術(shù)加速向千行百業(yè)滲透。但是人工智能也有“成長”的煩惱,隨著人工智能技術(shù)的深度應用,大模型所面臨的、所帶來的安全挑戰(zhàn)也日益嚴峻。奇安信是網(wǎng)絡(luò)和數(shù)據(jù)安全領(lǐng)域的領(lǐng)軍企業(yè),保障人工智能時代的網(wǎng)絡(luò)空間安全是扛在我們肩上的重任。所以這次兩會我重點關(guān)注這方面內(nèi)容,期待能夠用一些切實可行的舉措,為人工智能安全發(fā)展貢獻新力量。
再說軟件產(chǎn)業(yè)健康發(fā)展。軟件產(chǎn)業(yè)是支撐新技術(shù)發(fā)展的關(guān)鍵,也是助推數(shù)字經(jīng)濟發(fā)展的重要力量。但目前我國軟件產(chǎn)業(yè)高質(zhì)量發(fā)展遇到了不小的挑戰(zhàn)。一方面,軟件產(chǎn)業(yè)是“內(nèi)卷式”競爭的重災區(qū),招投標“低價惡斗”、技術(shù)評分體系有缺陷、項目轉(zhuǎn)包現(xiàn)象等等,都拖慢了軟件產(chǎn)業(yè)的創(chuàng)新步伐。另一方面,我們軟件產(chǎn)業(yè)的市場價值被嚴重低估了。有公開數(shù)據(jù)顯示,中國軟件產(chǎn)業(yè)市值前十名的總和與美國軟件行業(yè)前十名的市值總和相比,差了上百倍,這不利于軟件產(chǎn)業(yè)持續(xù)創(chuàng)新發(fā)展。所以,這次兩會我也格外關(guān)注這方面的內(nèi)容,希望能為軟件產(chǎn)業(yè)的健康發(fā)展出力獻策。
心智觀察所:如何看待當前全球網(wǎng)絡(luò)安全威脅的演變趨勢?在AI技術(shù)快速發(fā)展的背景下,網(wǎng)絡(luò)安全防御的核心挑戰(zhàn)發(fā)生了哪些變化?
齊向東:人工智能不斷突破創(chuàng)新,“人工智能+千行百業(yè)”將催生出大量新場景和新業(yè)態(tài)。這些新場景和新業(yè)態(tài)也會帶來全新的安全問題。我總結(jié),人工智能發(fā)展面臨的安全問題大致可以分三類。
第一類是人工智能大模型自身的安全問題。開發(fā)風險、數(shù)據(jù)風險、應用風險和基礎(chǔ)環(huán)境風險這四大安全風險比較突出。開發(fā)方面,開源大模型要重點防范代碼缺陷和預留后門等問題;應用方面要防“內(nèi)鬼”對訓練數(shù)據(jù)投毒,進行模型篡改、配置篡改;數(shù)據(jù)方面,要小心內(nèi)部配置錯誤和弱口令等造成的數(shù)據(jù)庫暴露;基礎(chǔ)環(huán)境方面要重點關(guān)注云、API、傳統(tǒng)設(shè)備漏洞等等。目前,已有團隊發(fā)現(xiàn)DeepSeek存在嚴重漏洞,并可借此獲取后端隱私數(shù)據(jù)、API 密鑰、操作元數(shù)據(jù),盡管漏洞很快被修補,但是根據(jù)我們的經(jīng)驗,新漏洞會不斷被挖掘出來。
第二類是利用人工智能開展網(wǎng)絡(luò)攻擊的問題。人工智能促進了網(wǎng)絡(luò)攻擊手段的更新迭代,“飽和式”攻擊成為可能,攻擊者可以瞬時發(fā)動海量攻擊打垮已有的網(wǎng)絡(luò)安全體系。人工智能還提升了“以假亂真”的能力,深度偽造、認知戰(zhàn)、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息,開展網(wǎng)絡(luò)詐騙,或輸出背離主流價值觀的內(nèi)容危害認知安全。
第三類是通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。未來人工智能會成為社會的基礎(chǔ)設(shè)施,當大模型嵌入智慧城市、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時,會放大漏洞等傳統(tǒng)安全威脅,一旦人工智能大模型遭到攻擊可能會牽一發(fā)而動全身,引發(fā)社會服務(wù)中斷、生產(chǎn)停滯、隱私數(shù)據(jù)泄露等安全事件。
心智觀察所:在推動AI大模型安全標準或合規(guī)框架方面,與政府、學術(shù)界或其他企業(yè)展開合作的拓展點有哪些?例如針對大模型的數(shù)據(jù)安全與倫理問題。
齊向東:2024 年4月,公司推出的QAX-GPT安全機器人憑借多個方面的綜合表現(xiàn),獲得由中國計算機 行業(yè)協(xié)會人工智能專委會、中國軟件測評中心(工業(yè)和信息化部軟件與集成電路促進中心)聯(lián)合 頒發(fā)的國內(nèi)首批“大模型安全評定證書”,被認定符合二級評定資格要求。這是迄今為止大模型 安全服務(wù)能力的最高級別認證,處于業(yè)界領(lǐng)先水平。
心智觀察所:近年來國家強調(diào)“鏈主”企業(yè)的生態(tài)引領(lǐng)作用。奇安信作為網(wǎng)絡(luò)安全龍頭企業(yè),在參與行業(yè)標準制定、扶持中小企業(yè)協(xié)同創(chuàng)新方面有何具體規(guī)劃?未來如何通過兩會平臺推動建立更開放的產(chǎn)學研合作機制,助力產(chǎn)業(yè)整體競爭力提升?
齊向東:奇安信在人才培養(yǎng)方面的經(jīng)驗概括起來是三點:一是建立專業(yè)人才培養(yǎng)基地,我們在2018年,就在綿陽成立安全人才虎符基地,并先后在武漢、沈陽、揚州等地建立基地,目前已經(jīng)累計培養(yǎng)超1.5萬網(wǎng)絡(luò)安全人才;二是校企聯(lián)合進行高層次人才培養(yǎng),奇安信被中組部列為“培養(yǎng)卓越工程師重點企業(yè)”,與清華、北郵、北航等高校聯(lián)合培養(yǎng),目前在校在企的碩博士有60多名;三是以賽促學、以賽促教,我們積極開展網(wǎng)絡(luò)安全實戰(zhàn)大賽、打造眾創(chuàng)平臺、與高校合作建立實踐性的學科體系,探索出了多元化的實戰(zhàn)人才培養(yǎng)模式,為網(wǎng)絡(luò)安全事業(yè)的發(fā)展注入源源不斷的人才活水。
破除AI“人才荒”,關(guān)鍵是打通企業(yè)和高校兩個“蓄才池”,給青年創(chuàng)新人才更多施展拳腳的機會。我拿DeepSeek來舉例,DeepSeek團隊的核心成員多是來自清北、浙大等頂尖高校的應屆生、博士生,他們大多是90后。這樣一支人才隊伍,學術(shù)背景扎實,富有創(chuàng)新精神,為我國科技創(chuàng)新提供關(guān)鍵支撐。建議加大力度推動校企融合,通過選取人工智能領(lǐng)域相關(guān)的骨干科技企業(yè)作為大學生就業(yè)實訓基地、鼓勵校企開展聯(lián)合攻關(guān)等方式,給年輕人更多深入產(chǎn)業(yè)一線的機會,從而逐步化解我國面臨的 AI“人才荒”。
心智觀察所:奇安信是否計劃與云計算廠商、通信運營商、芯片企業(yè)或終端設(shè)備商共建AI安全生態(tài)?
齊向東:奇安信作為中國領(lǐng)先的網(wǎng)絡(luò)安全公司,一直致力于推動AI安全生態(tài)的建設(shè)。公司積極與云計算廠商、通信運營商、芯片企業(yè)和終端設(shè)備商展開合作,共同應對AI技術(shù)帶來的安全挑戰(zhàn)。通過多方協(xié)作,奇安信旨在構(gòu)建一個開放、協(xié)同的AI安全生態(tài)系統(tǒng),確保AI技術(shù)的安全應用與發(fā)展。
本文系觀察者網(wǎng)獨家稿件,文章內(nèi)容純屬作者個人觀點,不代表平臺觀點,未經(jīng)授權(quán),不得轉(zhuǎn)載,否則將追究法律責任。關(guān)注觀察者網(wǎng)微信guanchacn,每日閱讀趣味文章。
標簽 心智觀察所- 原標題:獨家對話|齊向東:大模型的安全挑戰(zhàn)日益嚴峻,如何應對 本文僅代表作者個人觀點。
- 責任編輯: 李昊 
-
獨家對話|謝耘:AI仍陷“前科學”困局,AGI未來何去何從?
2025-04-09 08:22 心智觀察所 -
南極秦嶺站已具備開展越冬考察保障能力
2025-04-08 15:07 -
“中國行動2.0”背后,閃動著“臺獨”魅影
2025-04-07 13:34 心智觀察所 -
等了十年還沒用上新干線,這真的很“印度”
2025-04-06 15:25 -
中國為什么是激光雷達技術(shù)突破的“應許之地”
2025-04-06 09:05 心智觀察所 -
中國科學家獲重要進展:讓金屬“不可能三角”成為可能
2025-04-05 14:38 科技前沿 -
這一重大科研裝置,成功部署!
2025-04-05 14:33 科技前沿 -
誰是美國對華科技戰(zhàn)“總架構(gòu)師”
2025-04-02 15:02 心智觀察所 -
賀利氏電子張靖:聚焦前沿需求,以創(chuàng)新材料把握歷史機遇
2025-04-02 14:58 -
近2000名美國頂尖科學家發(fā)“SOS”公開信
2025-04-02 13:26 美國政治 -
“中國人‘和諧共生’的價值觀,同樣適用于AI時代”
2025-04-01 20:52 -
這些人運作著美國對華技術(shù)遏制的政策軌道
2025-04-01 08:10 心智觀察所 -
來自4.8億年前,科學家發(fā)現(xiàn)迄今為止最古老的層孔海綿化石
2025-04-01 06:55 -
我國科學家牽頭成功構(gòu)建近全球地表太陽輻射高精度監(jiān)測系統(tǒng)
2025-03-31 14:05 -
“和中美搶占份額”,歐洲“光譜”首戰(zhàn)失敗
2025-03-31 11:59 航空航天 -
首飛失利,歐洲民營火箭這張入場券不好拿
2025-03-31 11:19 -
事關(guān)芯片!我國成功開發(fā)這一新技術(shù)
2025-03-28 10:51 科技前沿 -
AI與國運:AI發(fā)展到了向西還是向東的節(jié)點
2025-03-27 21:34 人工智能 -
梁文鋒,首登全球富豪榜
2025-03-27 14:33 科技前沿 -
兆瓦超充,如何讓“油電同速”夢想成真?
2025-03-27 14:11 心智觀察所
相關(guān)推薦 -
中俄元首在主觀禮臺出席紅場閱兵式 評論 5英方拿到了,“簡直像在平行宇宙,中國太超前了” 評論 85“全球都將研究,中國與西方最強大武器直接對決” 評論 367美國官員:殲-10擊落陣風,沒用F-16 評論 398最新聞 Hot
-
普京閱兵式演講:絕不接受歪曲歷史
-
“對華閹割版,又要降級”
-
“全球都將研究,中國與西方最強大武器直接對決”
-
英方拿到了,“簡直像在平行宇宙,中國太超前了”
-
微軟:從中企學到,誰先一步拿下,誰就難被取代
-
美國農(nóng)民發(fā)愁:雞爪、魚頭...除了中國,好難找到買家
-
首位“美國教皇”利奧十四世是誰?
-
許紅兵,主動投案
-
美國官員:殲-10擊落陣風,沒用F-16
-
特朗普:對華關(guān)稅145%到頂了,要降
-
美大使污蔑“中國不是好盟友”,我駐巴拿馬使館駁斥
-
印度稱軍事基地遭巴基斯坦襲擊,巴方否認
-
特朗普:可能找中國幫忙
-
大搞家庭式腐敗,甘肅省原副省長趙金云被決定逮捕
-
蓋茨怒懟:馬斯克就是在殺死兒童
-
微軟總裁瞎操心:不讓員工用DeepSeek
-