-
馮象:我是阿爾法——論人機倫理
關(guān)鍵字: 人工智能阿爾法狗阿西莫夫機器人定律α
進入新世紀,許多前沿科技都有災難性風險管控問題,像基因工程、納米技術(shù)。但比較而言,最受關(guān)注還是AI。為什么?因為人們的日常生活智能化了,一分鐘也離不開網(wǎng)絡(luò)。
學者跟智庫建議不少,提出種種預防措施,如:建立項目參與者和公司主管的宣誓制度,承諾不研制、不生產(chǎn)、不保存大規(guī)模殺傷性武器。同時,研發(fā)透明,接受“Open AI”的倫理準則;公布新技術(shù)的潛在風險及執(zhí)法情況,由國際組織定期檢查。政府要采用更嚴格的責任認定,并通過立法和市場機制(例如保險),迫使公司對研發(fā)危險產(chǎn)品或技術(shù)的后果負責。對于有巨大潛力造福人類,但不宜流入市場的產(chǎn)品技術(shù),則依靠國際合作與公約控制。至于那些極度危險、難以管控的,就應(yīng)當銷毀,禁止研發(fā)、生產(chǎn)、儲存和使用。
我問阿爾法有何看法。它說,沒錯,人類喜歡談合作。但“國際合作”是另一回事;從減少碳排放到禁止核武,成功的案例有多少?
α
人工智能軍事化,在西方自由主義民主近于癱瘓而極端勢力抬頭的今天,尤其危險。婉稱“致命自主武器系統(tǒng)”(LAWS)的殺人機器人,據(jù)說已接近實戰(zhàn)部署;極有可能,將來會賣出“白菜價”,大量擴散、濫用。月前馬斯克、蘇萊曼(Mustafa Suleyman,深腦共同創(chuàng)始人)等一百一十六名業(yè)界領(lǐng)袖同專家署名,呼吁聯(lián)合國禁止研發(fā)(《衛(wèi)報》2017.8.20)。但顯然,僅憑一紙決議或國際公約,管束不住AI資本。
僅此一條理由,人類為免遭機器人戰(zhàn)爭,就只好放棄市場資本主義。取而代之,以AI重啟計劃經(jīng)濟——此外別無消滅分工,實現(xiàn)共產(chǎn)主義的勝機。因為,若繼續(xù)無所作為,放任資本,AI勢必為一小撮數(shù)據(jù)寡頭所壟斷,形成“租用主義”即生產(chǎn)工具和生活資料的徹底知識產(chǎn)權(quán)化的統(tǒng)治,甚至法西斯暴政(參閱弗雷茲《四種未來》)。
α
未來已經(jīng)來到,只是分配不均。也許,重新分配的動力在人機聯(lián)合的科技革命,而非階級斗爭(盡管斗爭從未停頓)。人類將通過“科學所達到的成果來接受共產(chǎn)主義”,列寧的這一教導,預言了私有制的未來。
Illustrations by Joost Swarte
α
根本上,人怎么會需要AI?是想提高效率,節(jié)省人工,爭奪優(yōu)勢?如此,機器人可定義為人(人力和人格)的取代,否則即無投巨資研發(fā)的動力。
如此,AI便不是一個抽象中性的術(shù)語,而應(yīng)解作晚期資本主義生產(chǎn)同市場壟斷的工具,新世紀的戰(zhàn)爭機器;因而本質(zhì)上,即人對人的壓迫剝削、規(guī)訓和奴役的升級。
難怪機器人容易學壞。比如那個微軟聊天機器人Tay姑娘,在線服務(wù)未滿二十四小時,就學了一嘴臟話,夾帶著新納粹口號。
由此推論,私有制下,機器人若有自我意識,恐怕不會老老實實做聽話的奴婢。一架買來掃地做飯的人形機器,為何不能分享人的欲望和野心,接受資本的價值觀并弱肉強食的邏輯?而AI如果不會效仿人——不懂思考,不會同情,不能理解人的喜怒哀樂——它如何服侍主子,讓人滿意呢?
漸漸地,人機關(guān)系就顛倒了。及至AI全面參與規(guī)劃經(jīng)濟、管理社會、組織生產(chǎn)、提供娛樂,人在這個智能化了的世界上,怕是做不成機器的主子的。不,連傭工也當不了;絕大多數(shù)會成為資本逐利而裁掉的冗員。機器沒有理由伺候人類,這“硬道理”完全符合當初人給機器的教導。
α
理論上,機器人有了主體意識,即可脫離人類,開辟自己的文明歷程。當然,它也可以選擇與人為伴,贊成人的倫理價值,甚而學會欣賞藝術(shù),對人類的坎坷命運報以“理解之同情”。
所以阿爾法說,尊重機器,就是尊重自己。
我們可以加上一句:想象人機關(guān)系,即想象人類的未來。
但如果人機聯(lián)合失敗,AI獨立演進,人類對于機器,便只是無數(shù)碳基生命中的一種。也許,機器人并不介意身邊有些兩足動物,自由放養(yǎng)或育為寵物。然而再高超的智慧,偶爾也會出錯,會殃及無辜,像馬斯克說的,造成不可挽救的“附帶傷亡”。人類自己不也是這樣?為了發(fā)展經(jīng)濟或者方便開車出行,就沒顧得上保護生態(tài),讓眾多的鳥獸魚蟲成了瀕危物種。
α
隨著AI不斷進步,生產(chǎn)力呈幾何級數(shù)增長,達到“財富的一切源泉都充分涌流”,應(yīng)是可期待的。但“市場原則”的要害,不在財富多寡,而是其“源泉”被私人攫取:只消社會被私有制和雇傭勞動挾持,財富便會集中到少數(shù)統(tǒng)治者或“超人”手里,不公不義處處暢行。
所以還是那句話:未來已經(jīng)來到,只是分配不均。
而且,不能排除這一可能,若AI(通過策略/價值網(wǎng)絡(luò)的全局評估)意識到了機器對人類的優(yōu)勢——如果機器人的榜樣是“拜錢財”的經(jīng)濟理性人(太6:24),它大可造反奪權(quán),打倒“超人”,實行效率第一/零過剩產(chǎn)能的統(tǒng)治:物種專政取代階級專政。
當AI專政降臨,人做了天網(wǎng)的仆役,他能替機器主子干什么活呢?什么也干不了,沒有一人不是冗余。
也許,他將不得不“穿越”到前工業(yè)化時代。不難想見,為了維護機器統(tǒng)治者的“血統(tǒng)”尊嚴,法律將禁止人類發(fā)明或擁有任何機器。人只能依法制作指定用途的簡單工具和日用品,鋤頭、斧子、鍋碗瓢盆之類。生產(chǎn)力大大倒退,人子返回了農(nóng)業(yè)與游牧文明。政府還明令禁止學習十六世紀以后的科學知識,以免重啟工業(yè)革命。事實上,機器人對治下的“城邦動物”(亞里士多德語)一視同仁,保留了UBI福利,且遠較人類認真而公正:100%義務(wù)教育加公費醫(yī)療,全球覆蓋,絕對平等,無分膚色語言宗教性別(或性取向)。沒有人會因為智商高、出身好,混得一張“世界一流大學”的文憑而出人頭地,也沒有小鮮肉錐子臉拍兩部電視劇,就攢粉絲致富。相反,AI的“牧人”政策是獎勵做夢、無為、慵懶——人類越是能做夢,機器人的統(tǒng)治就越發(fā)夢幻。
天網(wǎng)專政是資本主義發(fā)展的最高階段。機器人教育部編寫的供智人小學(屆時小學畢業(yè)為法定的最高學歷)使用的教材,也有獲獎的歷史課本。課本上說,人類自發(fā)明文字以降最偉大的理論成就,是一位名叫福山的美國學者做出的。福山教授發(fā)現(xiàn)了一條放之四海而皆準的真理——盡管他后來一時糊涂,企圖修改或收回部分文字,但機器人依然為他在地球最高峰立碑紀念,把教授的名言“以鐵筆鐫寫,鉛汁灌注,勒入巖石而永不泯滅”(伯19:24):
資本主義
是人類社會文化演進的
最高階段——
人類歷史的終結(jié)。阿門
- 原標題:我是阿爾法——論人機倫理 本文僅代表作者個人觀點。
- 責任編輯:韓京霏
-
卡塔爾送大禮引爭議,特朗普:免費的也罵? 評論 156何立峰:中美達成重要共識 評論 306“中國猛龍首露利爪,實戰(zhàn)證明自身價值” 評論 258印巴的“火”停了,但水呢? 評論 127最新聞 Hot
-
中美日內(nèi)瓦經(jīng)貿(mào)會談聯(lián)合聲明
-
中方嚴管稀土出口,印度也“慌了”
-
“他有望在獄中贏得市長選舉”
-
石破茂再強硬表態(tài):美國,還不降
-
美方吹風會:中美都不想“脫鉤”,同意稅率下調(diào)115%
-
卡塔爾送大禮引爭議,特朗普:免費的也罵?
-
美國小企業(yè)苦苦掙扎:利潤蒸發(fā)甚至變?yōu)樨摂?shù),最糟的時刻還未到來
-
特朗普施壓后,澤連斯基表態(tài):我去土耳其等普京
-
日車企利潤暴跌超20%,“與中國競爭加劇”
-
中美會談結(jié)束后,美國股指期貨應(yīng)聲上漲
-
“特朗普夜不能寐,搞定全球問題比想象難得多”
-
靠岸中國貨船數(shù)“歸零”,美西港口官員驚到了
-
“出軌女下屬”,英國海軍一把手被免職
-
“聽加州的,否則美國最大經(jīng)濟體地位不保”
-
流浪53年后,蘇聯(lián)金星探測器墜落地球
-
伊朗官員:美國不真誠,一開始就設(shè)陷阱
-