-
曾寫出毀滅人類計劃書,爆火的ChatGPT是一把“雙刃劍”
-
呂棟lvdong@guancha.cn
最后更新: 2024-05-08 18:10:31【文/觀察者網(wǎng) 呂棟】
這兩天,美國公司OpenAI推出的ChatGPT成為絕對的市場焦點。
憑借聊天、咨詢、翻譯甚至寫研報等類人的智能化表現(xiàn),ChatGPT注冊用戶很快破億,大有引領(lǐng)新一輪AI浪潮之勢,微軟、亞馬遜、谷歌等科技巨頭紛紛重金布局相關(guān)賽道。
在ChatGPT引爆AIGC(AI生成內(nèi)容)概念后,A股也開始有大量科技公司披露相關(guān)業(yè)務(wù),試圖借機蹭一波熱點,拉抬一下股價。
四維圖新披露,該公司參股公司普強利用類似ChatGPT的模型、算法和訓(xùn)練的技術(shù),結(jié)合現(xiàn)有的模型算法以及車載相關(guān)的海量數(shù)據(jù),支持了頭部車企的人機交互服務(wù)。
凡拓數(shù)創(chuàng)透露,該公司開發(fā)和提供的數(shù)智虛擬人、云虛擬展館等產(chǎn)品與AI技術(shù)緊密聯(lián)系,應(yīng)用了ChatGPT、國內(nèi)AI平臺等相關(guān)技術(shù)。
藍(lán)色光標(biāo)表示,該公司正在積極試用ChatGPT技術(shù),自有虛擬人蘇小妹已經(jīng)介入了AI多輪對話,AI作詩能力已經(jīng)進入技術(shù)測試階段,未來會結(jié)合AIGC和終端交互做更多數(shù)字化拓展。
首都在線表示,該公司自主研發(fā)的新一代算力平臺可為ChatGTP類人工智能應(yīng)用提供算力、算法、云渲染等技術(shù)服務(wù),目前已為國內(nèi)多家涉及人工智能類客戶提供服務(wù)......
不可否認(rèn),以ChatGPT為代表的新型AI技術(shù)的確具有產(chǎn)業(yè)賦能的潛在價值。但隨著AI技術(shù)進入新的發(fā)展階段,帶來的各種安全隱患也將更甚。
曾寫出“毀滅人類計劃書”
根據(jù)國內(nèi)外媒體報道,ChatGPT最初的爆火源于它在一位工程師誘導(dǎo)下,寫出了毀滅人類的計劃書,步驟甚至詳細(xì)到入侵各國計算機系統(tǒng)、控制武器、破壞通訊、交通系統(tǒng)等,甚至還給出了相應(yīng)的Python代碼。
ChatGPT聊天對話截圖
這并不是聳人聽聞。在ChatGPT推出幾周后,全球已有多家網(wǎng)絡(luò)安全公司發(fā)布一系列報告,證明該機器人可能被用于編寫惡意軟件。
截至目前,美國威脅情報公司Recorded Future在暗網(wǎng)中已發(fā)現(xiàn)1500多條關(guān)于使用ChatGPT開發(fā)惡意軟件、創(chuàng)建概念驗證代碼的參考資料,其中大部分代碼都公開可用。
Recorded Future認(rèn)為,ChatGPT對于“腳本小子、黑客行動主義者、欺詐分子/垃圾郵件發(fā)送者、支付卡欺騙者等技術(shù)水平不高的網(wǎng)絡(luò)犯罪分子”最有幫助,把惡意軟件、釣魚攻擊推向了規(guī)模化時代。
目前,網(wǎng)絡(luò)釣魚即服務(wù) (PhaaS) 和勒索軟件即服務(wù)(RaaS)可以向攻擊者提供收費工具包,使其可以輕松實施攻擊。而現(xiàn)在ChatGPT則使網(wǎng)絡(luò)犯罪活動正經(jīng)歷另一種演變:利用ChatGPT面向公眾免費開放的服務(wù),更多危險正在萌芽,這加劇了對于未來安全風(fēng)險的憂慮。
在此背景下,ChatGPT背后的OpenAI日前公開發(fā)聲警告稱,現(xiàn)在需要監(jiān)管機構(gòu)進行介入,以防止ChatGPT等生成式AI系統(tǒng)對社會產(chǎn)生潛在負(fù)面影響。
“我們沒有預(yù)料到把‘孩子’送到這個世界上會帶來這么大的反響。事實上,我們對此感到有些許不安?!監(jiān)penAI首席技術(shù)官Mira Murati在對話中坦言,人工智能可能被濫用,也可能被目的不純之人利用。
作為OpenAI的創(chuàng)始人之一,埃隆·馬斯克也曾警告過先進的AI對人類構(gòu)成的威脅,去年12月,他稱ChatGPT是“可怕的好東西”,并補充稱“我們離危險的強大人工智能不遠(yuǎn)了?!?
就在近日,國內(nèi)數(shù)字安全公司三六零也發(fā)布了《全球人工智能安全治理報告》。
報告指出,作為一種數(shù)字技術(shù),人工智能“雙刃劍”特征明顯,不僅自身存在數(shù)字安全威脅和隱患,隨著人工智能工程化、場景化、平臺化落地不斷加快,人工智能安全需求已經(jīng)超越單純技術(shù)范疇。
據(jù)三六零透露,目前360AI安全實驗室所開發(fā)的AI框架安全監(jiān)測平臺,已累計發(fā)現(xiàn)Tensorflow、Caffe、PyTorch等主流機器學(xué)習(xí)框架的漏洞200多個,其中提交給谷歌Tensorflow的漏洞數(shù)98個,包括24個高危、嚴(yán)重漏洞,在全球各大廠商中排名第一。
市場調(diào)研機構(gòu)Research And Markets預(yù)測,2030年網(wǎng)絡(luò)安全中人工智能產(chǎn)值將突破千億美元,2020年至2030年將達(dá)到25.7%的年復(fù)合增長率。隨著ChatGPT等AI技術(shù)產(chǎn)品的普及,AI安全市場將進一步爆發(fā)。
百度之后,三六零版ChatGPT也要來了?
雖然犀利地指出了人工智能發(fā)展帶來的潛在安全隱患,但在ChatGPT概念持續(xù)爆火之下,擁有搜索引擎業(yè)務(wù)的三六零,也十分熱衷于推出類似ChatGPT的產(chǎn)品。
- 責(zé)任編輯: 呂棟 
-
ST陽光:控股股東涉嫌內(nèi)幕交易被證監(jiān)會擬罰款2.32億元
2024-05-07 20:57 -
華為蘋果同日對決,背后還有中韓面板之爭
2024-05-07 17:23 觀網(wǎng)財經(jīng)-科創(chuàng) -
歷史性一幕!iPhone在華市場份額跌出前五
2024-05-07 11:13 觀網(wǎng)財經(jīng)-科創(chuàng) -
45億加碼“五五購物節(jié)”,拼多多助力上海“拼”出精彩
2024-05-06 19:32 -
美國?Tiktok法案的起草人,引火燒身了
2024-05-06 18:47 觀網(wǎng)財經(jīng)-金融 -
舒適賽道紅利釋放,紅豆股份品牌轉(zhuǎn)型出成效
2024-05-06 13:33 -
“五一”近3億人次出游,較2019年同期增長28.2%
2024-05-06 12:16 觀察者頭條 -
巴菲特股東大會要點來了!回應(yīng)減持蘋果、巨額現(xiàn)金儲備等
2024-05-05 08:28 -
武廣高鐵、滬杭客專等4條高鐵線漲價,漲幅近20%
2024-05-04 14:13 高鐵世紀(jì) -
深圳將取消福田、南山之外區(qū)域住房限購?深圳住建局回應(yīng)
2024-05-04 10:27 觀網(wǎng)財經(jīng)-房產(chǎn) -
庫克涉華最新發(fā)聲
2024-05-04 10:14 跨國企業(yè)在中國 -
20張營業(yè)執(zhí)照只有3家實存?央媒:問題在下頭,根子在上頭
2024-05-03 11:21 基層治理 -
上海推出商品住房“以舊換新”活動
2024-05-03 09:39 觀網(wǎng)財經(jīng)-房產(chǎn) -
中俄東線天然氣管道最新進展
2024-05-03 09:30 國企備忘錄 -
31省份“一季報”:蘇魯浙增速超6%,山西總量下滑
2024-05-02 21:39 宏觀經(jīng)濟 -
美聯(lián)儲維持利率不變,納指兩連跌星巴克重挫
2024-05-02 07:42 觀網(wǎng)財經(jīng)-海外 -
南京公積金新政:包括宣城、馬鞍山在內(nèi)的南京都市圈9城互認(rèn)互貸
2024-05-01 19:50 觀網(wǎng)財經(jīng)-房產(chǎn) -
美國當(dāng)前經(jīng)濟數(shù)據(jù)中,也許藏著高官接連訪華的答案
2024-05-01 09:24 -
余承東不再擔(dān)任華為終端BG CEO
2024-05-01 08:53 觀網(wǎng)財經(jīng)-科創(chuàng) -
“超級充電寶”來了!全球最大,并網(wǎng)發(fā)電
2024-05-01 08:14 產(chǎn)業(yè)萬象
相關(guān)推薦 -
-
最新聞 Hot
-
特朗普要“幫忙”,印度拒絕了
-
“他想在大馬士革建特朗普大廈”
-
中美日內(nèi)瓦經(jīng)貿(mào)會談聯(lián)合聲明
-
中方嚴(yán)管稀土出口,印度也“慌了”
-
“他有望在獄中贏得市長選舉”
-
石破茂再強硬表態(tài):美國,還不降
-
美方吹風(fēng)會:中美都不想“脫鉤”,同意稅率下調(diào)115%
-
卡塔爾送大禮引爭議,特朗普:免費的也罵?
-
美國小企業(yè)苦苦掙扎:利潤蒸發(fā)甚至變?yōu)樨?fù)數(shù),最糟的時刻還未到來
-
特朗普施壓后,澤連斯基表態(tài):我去土耳其等普京
-
日車企利潤暴跌超20%,“與中國競爭加劇”
-
中美會談結(jié)束后,美國股指期貨應(yīng)聲上漲
-
“特朗普夜不能寐,搞定全球問題比想象難得多”
-
靠岸中國貨船數(shù)“歸零”,美西港口官員驚到了
-
“出軌女下屬”,英國海軍一把手被免職
-
“聽加州的,否則美國最大經(jīng)濟體地位不?!?/a>
-