-
谷智軒:用AI殺人,以色列可能遙遙領(lǐng)先了
以軍設(shè)計(jì)AI的時(shí)候,還考慮過這個(gè)問題。AI在做空襲規(guī)劃的時(shí)候,“附帶損害”也是一個(gè)參數(shù)。它會(huì)根據(jù)建筑物的大小以及登記的居民名單,計(jì)算戰(zhàn)前居住在此的平民人數(shù),再根據(jù)撤離的居民比例,來(lái)估算一個(gè)建筑物內(nèi)的即時(shí)人數(shù),再做相應(yīng)的規(guī)劃。比如說(shuō),一棟房子,名單上顯示戰(zhàn)前住了10個(gè)人,根據(jù)手機(jī)信號(hào)測(cè)算,小區(qū)撤了一半人,那么AI就認(rèn)為,房子里住了5個(gè)人。有時(shí)候,算出來(lái)的人數(shù),甚至不是整數(shù)。
我們光聽就知道,這種估算有多不靠譜。戰(zhàn)前和戰(zhàn)時(shí),根本是兩個(gè)概念。根據(jù)世界銀行的數(shù)據(jù),加沙地帶超過60%的房屋和80%的商業(yè)設(shè)施都已經(jīng)被摧毀,幾乎全部人口流離失所,這大幅削弱了軍隊(duì)數(shù)據(jù)庫(kù)的準(zhǔn)確性和AI自動(dòng)標(biāo)記住宅的能力。很多時(shí)候,戰(zhàn)爭(zhēng)期間居住的,完全就不是戰(zhàn)前的那批人,兩者之間也沒什么聯(lián)系。有時(shí)候,以軍炸了一棟房子,根本不知道房里是好幾戶人家躲在一起的。在以前的戰(zhàn)爭(zhēng)里面,情報(bào)人員會(huì)花大量的時(shí)間監(jiān)視房屋、核實(shí)人數(shù),事后還有一道炸彈損害評(píng)估程序(Bomb Damage Assessment),簡(jiǎn)稱BDA,檢查目標(biāo)是否死亡,以及造成了多少平民死亡。這一次,為了節(jié)省時(shí)間,事前事后的步驟,全都省略了,一切都交給了AI和統(tǒng)計(jì)學(xué)。情報(bào)人員對(duì)于會(huì)死多少,死了多少人,里面包不包括目標(biāo),可謂一概不知。他們唯一知道的,就是空軍告訴他們,房子被炸了,然后他們?cè)俑嬖V軍隊(duì),去炸更多的房子。
不過,有一個(gè)問題,依然沒交給統(tǒng)計(jì)學(xué),就是允許“附帶損害”的大小。軍方會(huì)事先給一個(gè)授權(quán),殺一個(gè)哈馬斯,允許多少平民陪葬,這個(gè)數(shù)字叫非戰(zhàn)斗人員傷亡值,簡(jiǎn)稱NCV(Non-combatant Casualty Value)。AI在計(jì)算殺誰(shuí)、怎么殺的時(shí)候,就會(huì)根據(jù)這個(gè)標(biāo)準(zhǔn)來(lái)。NCV是浮動(dòng)的,軍事價(jià)值越高,NCV越大——這是以軍自己承認(rèn)的,對(duì)高級(jí)哈馬斯成員,這個(gè)數(shù)字可以達(dá)到三位數(shù)。軍隊(duì)有一套大致的標(biāo)準(zhǔn),一個(gè)旅長(zhǎng)配多少人,一個(gè)營(yíng)長(zhǎng)配多少人,還會(huì)考慮到具體的情況。比如說(shuō)哈馬斯卡桑旅的指揮官艾曼·諾法爾(Ayman Nofal),以軍在擊殺他的時(shí)候,得到的位置情報(bào)不是很精確,軍方授權(quán)的人數(shù)是300人。對(duì)比一下,當(dāng)年美軍擊殺本·拉登,授權(quán)的NCV“只有”30。
路透社2023年10月17日?qǐng)?bào)道,以色列空襲加沙,擊殺了哈馬斯軍事指揮官艾曼·諾法爾
對(duì)于低級(jí)哈馬斯成員,這個(gè)標(biāo)準(zhǔn)還要“彈性”一點(diǎn)。去年10月7日的空襲之后,以軍陷入了歇斯底里的狀態(tài),只要目標(biāo)是哈馬斯,幾乎任何“附帶損害”都可以得到批準(zhǔn)。反正炸就是了,他們只在乎炸的目標(biāo)夠不夠多。有時(shí)候,他們知道目標(biāo)在一棟里面,然后就炸平了四棟樓。整個(gè)軍隊(duì)與其說(shuō)是在作戰(zhàn),還不如說(shuō)是在泄憤。之后,軍隊(duì)的行為稍微理性了一些,NCV被控制在了15人左右,也就是殺一個(gè)普通的哈馬斯,可以殺15個(gè)平民。有段時(shí)間降到5人,但軍方發(fā)現(xiàn),這讓空襲沒法進(jìn)行,因?yàn)橹灰繕?biāo)的家人都在家,他們就沒法炸屋子,所以又把上限提了上去。再后來(lái),以軍整體上減小了攻擊低級(jí)哈馬斯的頻率。這客觀上降低了“附帶損害”,卻不是因?yàn)橐攒娤虢档汀案綆p害”,而是考慮到彈藥經(jīng)濟(jì)性。以色列正準(zhǔn)備在北部地區(qū)和黎巴嫩真主黨動(dòng)手,這開頭幾波消耗的炸彈,委實(shí)有點(diǎn)多了。
由此可見,人工智能輔助下的“自動(dòng)化”殺人,并沒有什么“理性”的優(yōu)勢(shì)。AI對(duì)于人類干壞事,沒有什么限制和糾正作用。相反,它只是讓殺戮,變得更有效率。它降低了殺人的經(jīng)濟(jì)和道德成本,幫助人類在有限的資源和可承受的道德壓力下,殺掉盡可能多的目標(biāo)?!稗挂虏荨鄙擅麊?,“福音”標(biāo)記住宅,低級(jí)別的情報(bào)人員象征性地看一看,復(fù)制粘貼到“爸爸在哪兒”,執(zhí)行目標(biāo)追蹤,“火力工廠”據(jù)此分配彈藥,制定空襲計(jì)劃,在目標(biāo)回家的那一刻,由空軍完成擊殺。除了最后的擊殺外,整個(gè)流程,都實(shí)現(xiàn)了高度的自動(dòng)化,而這“最后一步”,可能在不久的將來(lái),也可以由自動(dòng)化的武器來(lái)完成。
我們之前做過一期節(jié)目,叫“定點(diǎn)清除”,讓網(wǎng)上一大群“烏友”破了大防,直到今天還陷在他們的邏輯謬誤中不能自拔,挺可憐的。我們?cè)賮?lái)復(fù)習(xí)一下相關(guān)專業(yè)知識(shí):“定點(diǎn)清除”,Targeted Killing,有時(shí)候也叫“斬首行動(dòng)”,Decapitation Strike,即通過消滅一個(gè)組織中的關(guān)鍵人物,來(lái)對(duì)組織造成破壞?,F(xiàn)在,“定點(diǎn)清除”和“斬首”之間,不能再劃等號(hào),它有了一個(gè)新分支,叫“Broad Hunting”,大范圍獵殺。從戰(zhàn)場(chǎng)表現(xiàn)來(lái)看,這種同時(shí)針對(duì)數(shù)萬(wàn)目標(biāo)的大規(guī)模“定點(diǎn)清除”,已經(jīng)成為了一種可行的、且經(jīng)過實(shí)踐應(yīng)用的戰(zhàn)術(shù)。
這是好是壞,尚有爭(zhēng)議。
支持的人說(shuō):它好過無(wú)差別襲擊。這次加沙戰(zhàn)爭(zhēng)持續(xù)了六個(gè)月,巴勒斯坦方面,傷亡總數(shù)超11萬(wàn);哈馬斯武裝分子,滿打滿算有三萬(wàn)多,占比達(dá)到30%。和歷史上的各種“屠城”相比,是不是要好上很多?AI是在降低“錯(cuò)殺率”?。?
反對(duì)的人說(shuō):除了“錯(cuò)殺率”,還有“錯(cuò)殺數(shù)”?!按蠓秶C殺”的應(yīng)用,實(shí)際上大幅增加了攻擊次數(shù),推高了平民的傷亡人數(shù)。而且,70%的錯(cuò)殺率,你覺得可以接受嗎?
然后,支持的人又會(huì)反駁:如果把技術(shù)改進(jìn)一下,把錯(cuò)殺率降到一半以下,你還會(huì)這么說(shuō)嘛?降到10%以下,1%以下呢?百分之0.000001呢?什么比例,是可以接受的呢?誰(shuí)能保證不殺錯(cuò)一個(gè)?你說(shuō)人命無(wú)價(jià),殺錯(cuò)一個(gè)都不行?我們是在打仗,國(guó)家利益為重,國(guó)民的安全為重。算個(gè)總賬,“錯(cuò)殺”帶來(lái)的損失,小于“殺對(duì)”帶來(lái)的利益就可以了。
最后那句話,我直接引用了以色列國(guó)防軍對(duì)“薰衣草”問題的回復(fù)。
以色列國(guó)防軍回應(yīng)在加沙地區(qū)使用“薰衣草”:算個(gè)總賬,“錯(cuò)殺”帶來(lái)的損失小于“殺對(duì)”帶來(lái)的利益就可以了
哲學(xué)上的論辯,很難有什么結(jié)果。但有一點(diǎn),我想大家是有共識(shí)的:為了剿滅三萬(wàn)多名哈馬斯,超過2.4萬(wàn)名巴勒斯坦婦女和兒童死亡,11萬(wàn)人死傷,110萬(wàn)人食不果腹,170萬(wàn)人流離失所,這超過了絕大部分人的道德紅線,但凡是有點(diǎn)良知的人,都無(wú)法接受。如果沒有AI,可能傷亡會(huì)更大,但即使有了AI,后果依然如此嚴(yán)重。
所以說(shuō),問題并不出在AI身上,該為此負(fù)責(zé)的,也并非人工智能。戰(zhàn)爭(zhēng),是高尚者的墓志銘,卑鄙者的通行證。戰(zhàn)場(chǎng)之上,以國(guó)之名,滔天的罪惡也能戴上正義的光環(huán)。如果殺錯(cuò)人之后,唯一的后果是浪費(fèi)了彈藥,那么AI存在的意義,也只能是減少了彈藥的浪費(fèi)。
從歷史經(jīng)驗(yàn)來(lái)看,把人工智能技術(shù)引入軍事作戰(zhàn)是不可避免的。聯(lián)合國(guó)主持了10年的談判,希望對(duì)AI在戰(zhàn)場(chǎng)的角色做一點(diǎn)限制,讓各國(guó)可以更加“負(fù)責(zé)任”地開發(fā)和利用軍用AI,但目前并沒有多少成果。至少還沒有一個(gè)國(guó)際公約規(guī)定,當(dāng)人工智能判斷錯(cuò)誤時(shí),誰(shuí)應(yīng)該對(duì)平民的傷亡和戰(zhàn)爭(zhēng)的意外升級(jí)負(fù)責(zé),也沒有一個(gè)有效機(jī)制,防止AI被有心之人濫用,成為排除異己、剝削“他者”的工具。去年2月,第一屆“全球軍事領(lǐng)域負(fù)責(zé)任的人工智能峰會(huì)”在荷蘭舉行,中國(guó)和美國(guó)等60多個(gè)國(guó)家參加,并簽署了《關(guān)于軍事領(lǐng)域負(fù)責(zé)任使用人工智能的行動(dòng)倡議》。以色列是唯一沒有簽署的與會(huì)國(guó)家。
所以,巴勒斯坦成千上萬(wàn)條被AI“錯(cuò)殺”的人命,到底該由誰(shuí)來(lái)負(fù)責(zé)呢?
本文系觀察者網(wǎng)獨(dú)家稿件,文章內(nèi)容純屬作者個(gè)人觀點(diǎn),不代表平臺(tái)觀點(diǎn),未經(jīng)授權(quán),不得轉(zhuǎn)載,否則將追究法律責(zé)任。關(guān)注觀察者網(wǎng)微信guanchacn,每日閱讀趣味文章。
|舉報(bào)-
違反法律法規(guī) -
垃圾信息、廣告 -
色情、淫穢信息 -
人身攻擊 -
謠言、不實(shí)信息 -
冒充,冒用信息 -
破壞社區(qū)秩序 -
其他 -
涉未成年人有害信息
-
本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 德力格爾 
-
韓國(guó)也想入伙“奧庫(kù)斯”?
2024-05-01 17:18 三八線之南 -
相比前兩艘航母,福建艦海試有何不同?
2024-05-01 12:00 航空航天 -
-
一年收到5架F-35 每架都有問題
2024-04-30 16:30 -
中越海警開展今年首次北部灣海域聯(lián)合巡邏
2024-04-30 16:21 -
從豹2到布雷德利 莫斯科勝利公園新到什么西方裝備?
2024-04-30 13:09 俄羅斯之聲 -
外媒緊盯福建艦:或馬上開始海試
2024-04-30 13:09 中國(guó)航母 -
烏軍總司令:前線局勢(shì)正在惡化,俄軍取得局部勝利
2024-04-29 11:14 烏克蘭之殤 -
德國(guó)豹2坦克運(yùn)抵莫斯科 將參加“勝利展覽”
2024-04-28 10:46 俄羅斯之聲 -
一周軍評(píng):“5·20”將近,美軍拿什么來(lái)西太平洋“維穩(wěn)”?
2024-04-28 09:24 -
美菲空軍舉行“雷霆對(duì)抗”演習(xí)
2024-04-27 18:36 -
巴基斯坦從中國(guó)訂購(gòu)的首艘潛艇“漢果”號(hào)下水
2024-04-27 18:30 -
胡塞稱再次擊落美軍無(wú)人機(jī),美軍承認(rèn)墜毀
2024-04-27 16:51 也門局勢(shì) -
董軍出席上合組織成員國(guó)防長(zhǎng)會(huì)議
2024-04-26 22:35 -
美官員:烏軍撤回前線“艾布拉姆斯”,正調(diào)整戰(zhàn)術(shù)應(yīng)對(duì)俄無(wú)人機(jī)
2024-04-26 17:45 -
“華盛頓”號(hào)出港部署,將第二次進(jìn)駐日本
2024-04-25 17:35 -
站在流動(dòng)的國(guó)土上,感受什么叫“百年之內(nèi),換了人間”
2024-04-25 08:44 -
英國(guó)宣布向?yàn)蹩颂m提供“有史以來(lái)最大的軍事援助”
2024-04-24 17:04 -
德國(guó)海軍“黑森”號(hào)護(hù)衛(wèi)艦結(jié)束紅海任務(wù)返航
2024-04-23 16:42 -
美菲開展“肩并肩”年度演習(xí),將在南海、呂宋海峽舉行海防演習(xí)
2024-04-23 10:29 南海局勢(shì)
相關(guān)推薦 -
-
拿錯(cuò)劇本?特朗普在沙特演講:美國(guó)不再說(shuō)教了 評(píng)論 90腦洞很大!前北約秘書長(zhǎng):新組織D7,可對(duì)付中美 評(píng)論 463“特朗普,聽聽勸吧,我們需借鑒中國(guó)” 評(píng)論 138“中國(guó)打樣后,印度突然硬氣了” 評(píng)論 248“中國(guó)在南美建巨型碼頭,確保替代美國(guó)糧食” 評(píng)論 104最新聞 Hot
-
“他們給小男孩戴上手銬,開槍打死了他”
-
拿錯(cuò)劇本?特朗普在沙特演講:美國(guó)不再說(shuō)教了
-
日本搜腸刮肚想轍,就這?
-
特朗普“忽視”以色列?
-
俄烏就幾點(diǎn)談判都能吵起來(lái)
-
盧拉本打算順路去莫斯科,勸普京親自參加談判
-
韓國(guó)人先愁上了:要是埃及掉頭去買殲-10了,咋辦?
-
伊朗官員:準(zhǔn)備用永不制造核武,換取美解除經(jīng)濟(jì)制裁
-
腦洞很大!前北約秘書長(zhǎng):新組織D7,可對(duì)付中美
-
被中方嚴(yán)重關(guān)切,英方忙解釋:沒有
-
當(dāng)真?默茨打算對(duì)中國(guó)硬氣一把…
-
“我都驚了,西方車企在中國(guó)這是要全軍覆沒啊…”
-
卡塔爾首相回應(yīng)送飛機(jī):要不合法,就算了
-
普京:光道歉不夠
-
特朗普也不去了
-
數(shù)字系統(tǒng)太難用,大量日本醫(yī)院選擇“換回傳真機(jī)”
-