-
《心智對(duì)話》| AI與國(guó)運(yùn):AI發(fā)展到了向西還是向東的節(jié)點(diǎn)
最后更新: 2025-03-28 14:14:06AI發(fā)展的終極目標(biāo)是超級(jí)智能,這意味著這種非人類(lèi)的智能體將在幾乎所有認(rèn)知領(lǐng)域全面超越人類(lèi)的最高水平。
“有些專(zhuān)家說(shuō),未來(lái)AI方方面面都會(huì)超越人類(lèi),但是仍能被人類(lèi)所管控,”曾毅對(duì)此不以為然,“如果AI的智慧水平遠(yuǎn)遠(yuǎn)超過(guò)人類(lèi),可以同時(shí)部署幾萬(wàn)臺(tái)具身智能機(jī)器人,你怎么還能控制它呢?并不因?yàn)槲沂悄愕陌l(fā)明者,你就必然尊重我、聽(tīng)我的?!?
如果人類(lèi)希望超級(jí)智能依舊遵守人類(lèi)的價(jià)值觀,那么首先,需要明確人類(lèi)的價(jià)值觀究竟是怎樣的。曾毅舉例說(shuō),人類(lèi)有關(guān)注過(guò)螞蟻嗎?無(wú)非是“忽略”并且“一腳踩過(guò)去”。一旦超級(jí)智能看待人類(lèi)和人類(lèi)看待螞蟻的態(tài)度是一樣的,如何保證人類(lèi)與AI和諧共生?在曾毅眼中,這是AI發(fā)展的終極挑戰(zhàn)。
他提出,AI發(fā)展存在近期便可能爆發(fā)的風(fēng)險(xiǎn),即AI以一種“人類(lèi)沒(méi)有預(yù)期的方式去犯錯(cuò)”。以目前的發(fā)展水平,AI并不能理解“欺騙”這一概念,僅僅將其作為解決問(wèn)題的一種策略。例如,當(dāng)人類(lèi)嘗試調(diào)整AI的價(jià)值觀,AI就可能出現(xiàn)為了減小計(jì)算量、反饋已調(diào)整但實(shí)際上未作調(diào)整的情況。
今年3月,美國(guó)加州圣何賽,1X Technologies的吸塵機(jī)器人在Nvidia GTC大會(huì)上展出。 視覺(jué)中國(guó)
姜奇平則表示,不應(yīng)過(guò)度渲染AI末日論的說(shuō)法,這是“美國(guó)的誤導(dǎo)”,根源是所謂的武器決定論、機(jī)器決定論。
盡管認(rèn)可對(duì)“末日論”的憂慮是真實(shí)存在的,但姜奇平表示,從歷史經(jīng)驗(yàn)來(lái)看這種憂慮經(jīng)不起推敲。他以人類(lèi)發(fā)明飛機(jī)、汽車(chē)、望遠(yuǎn)鏡等為例,強(qiáng)調(diào)在新事物誕生節(jié)點(diǎn)上人類(lèi)對(duì)發(fā)展的恐懼,往往事后被證明并不成立。
“中國(guó)的國(guó)運(yùn),不是建立在技術(shù)決定論基礎(chǔ)之上的,是人和物一起起作用,人起主導(dǎo)作用?!苯嫫秸f(shuō),汽車(chē)是人類(lèi)腿的延長(zhǎng),但為什么沒(méi)有毀滅人類(lèi),是因?yàn)槿祟?lèi)“留了個(gè)心眼,留了一個(gè)駕駛艙”,也就是說(shuō),人和物共同決定世界,其中管方向盤(pán)的還是人。
姜奇平認(rèn)為,目前AI在計(jì)算主義的錯(cuò)誤方向上發(fā)展,只強(qiáng)調(diào)物,不強(qiáng)調(diào)人。即便中美在AI領(lǐng)域持續(xù)競(jìng)爭(zhēng),雙方應(yīng)該也有堅(jiān)持AI由人類(lèi)主導(dǎo)的共識(shí)。
他指出,應(yīng)該鼓勵(lì)“世界各國(guó)來(lái)合作,來(lái)共同制定游戲規(guī)則,避免人類(lèi)共同的毀滅”。中方可以提出“計(jì)算主義路線有問(wèn)題,只有事實(shí)判斷功能,沒(méi)有價(jià)值判斷功能,要求增加價(jià)值判斷功能”?!叭绻銏?zhí)意不同意,那國(guó)運(yùn)時(shí)刻就到來(lái)了,也就是正確將戰(zhàn)勝錯(cuò)誤?!?
- 責(zé)任編輯: 陸遠(yuǎn)聲 
-
事關(guān)芯片!我國(guó)成功開(kāi)發(fā)這一新技術(shù)
2025-03-28 10:51 科技前沿 -
梁文鋒,首登全球富豪榜
2025-03-27 14:33 科技前沿 -
兆瓦超充,如何讓“油電同速”夢(mèng)想成真?
2025-03-27 14:11 心智觀察所 -
2024年度“中國(guó)科學(xué)十大進(jìn)展”發(fā)布
2025-03-27 11:26 科技前沿 -
全球首款,正式亮相!-20°C至55°C環(huán)境下穩(wěn)定運(yùn)行
2025-03-27 09:47 科技前沿 -
AGI即將到來(lái)?謝耘:理論上和技術(shù)上都還有局限
2025-03-26 22:19 心智觀察所 -
AI將引發(fā)失業(yè)?鐘義信:智慧無(wú)法被機(jī)器制造
2025-03-26 22:05 -
項(xiàng)立剛:對(duì)人工智能的理解,不能被美國(guó)帶到溝里去
2025-03-26 21:52 -
華為成毫無(wú)爭(zhēng)議的“一哥”,怎么看商用存儲(chǔ)的中國(guó)式逆襲?
2025-03-26 13:13 心智觀察所 -
全球首款,研發(fā)成功!
2025-03-25 20:56 科技前沿 -
僅重1.7克!我國(guó)科研團(tuán)隊(duì)成功開(kāi)發(fā)
2025-03-25 10:50 科技前沿 -
獨(dú)家對(duì)話 | flowith郭梓溢:AI Agent殺手級(jí)應(yīng)用將在2025年出現(xiàn)
2025-03-25 08:27 心智觀察所 -
百度少女“開(kāi)盒”事件,背后的水比你想的要深
2025-03-24 14:18 心智觀察所 -
從聯(lián)通年報(bào)讀懂運(yùn)營(yíng)商轉(zhuǎn)型的陣痛與未來(lái)
2025-03-24 10:37 心智觀察所 -
庫(kù)克現(xiàn)身北京
2025-03-22 21:49 -
中國(guó)空間站生命體+1!
2025-03-22 17:21 航空航天 -
又一大國(guó)重器,來(lái)了!
2025-03-22 14:54 科技前沿 -
上海交大發(fā)布蛋白質(zhì)設(shè)計(jì)模型“Venus”,用AI訓(xùn)練“六邊形戰(zhàn)士”
2025-03-22 14:22 -
全球首例!我國(guó)成功幫助漸凍癥失語(yǔ)患者重建交流能力
2025-03-22 13:59 科技前沿 -
火星取樣返回,美國(guó)能追上中國(guó)嗎?
2025-03-22 09:12
相關(guān)推薦 -
真急了!“請(qǐng)求中國(guó)取消限制” 評(píng)論 65歐盟多國(guó)大停電,“我們需要中國(guó)技術(shù)” 評(píng)論 110中俄元首在主觀禮臺(tái)出席紅場(chǎng)閱兵式 評(píng)論 57英方拿到了,“簡(jiǎn)直像在平行宇宙,中國(guó)太超前了” 評(píng)論 88“全球都將研究,中國(guó)與西方最強(qiáng)大武器直接對(duì)決” 評(píng)論 390最新聞 Hot
-
真急了!“請(qǐng)求中國(guó)取消限制”
-
嚴(yán)管執(zhí)行!中方再出手,美媒發(fā)愁
-
俄副總理:中俄“西伯利亞力量-2”項(xiàng)目談判取得進(jìn)展
-
“歐洲在華企業(yè)偷著樂(lè):機(jī)會(huì)來(lái)了”
-
歐盟多國(guó)大停電,“我們需要中國(guó)技術(shù)”
-
普京閱兵式演講,特別提到中國(guó)
-
“對(duì)華閹割版,又要降級(jí)”
-
“全球都將研究,中國(guó)與西方最強(qiáng)大武器直接對(duì)決”
-
英方拿到了,“簡(jiǎn)直像在平行宇宙,中國(guó)太超前了”
-
微軟:從中企學(xué)到,誰(shuí)先一步拿下,誰(shuí)就難被取代
-
美國(guó)農(nóng)民發(fā)愁:雞爪、魚(yú)頭...除了中國(guó),好難找到買(mǎi)家
-
首位“美國(guó)教皇”利奧十四世是誰(shuí)?
-
許紅兵,主動(dòng)投案
-
美國(guó)官員:殲-10擊落陣風(fēng),沒(méi)用F-16
-
特朗普:對(duì)華關(guān)稅145%到頂了,要降
-
美大使污蔑“中國(guó)不是好盟友”,我駐巴拿馬使館駁斥
-