-
谷智軒:用AI殺人,以色列可能遙遙領(lǐng)先了
咱們有句老話,叫“兵貴神速”。AI給出一份名單,還要人來核驗(yàn),這多浪費(fèi)時(shí)間?去年10月,哈馬斯發(fā)動(dòng)襲擊,殺了以色列1200人,綁架240人。以色列報(bào)之以“鐵劍行動(dòng)”(Operation Iron Swords),軍方火速?zèng)Q定,要把哈馬斯清除干凈,所有成員——不論他們高低貴賤,有多少軍事價(jià)值——一個(gè)不留。然后他們問了AI一個(gè)問題:薰衣草啊薰衣草,告訴我誰是哈馬斯?
這個(gè)名叫薰衣草的AI,生成了一份37000人左右的名單。8200的情報(bào)人員花了兩周時(shí)間,在名單里隨機(jī)挑了幾百個(gè)名字,檢查了一下是不是真的哈馬斯,結(jié)論是,薰衣草的正確率達(dá)到了90%。軍方很滿意,當(dāng)即授權(quán),就按照AI的名單來辦。程序上需要人工核驗(yàn),判斷是否擊殺?沒事,工作人員花上20秒,核驗(yàn)一下目標(biāo)是男是女,男的殺了,女的留下——決定在我。那還有10%的錯(cuò)誤率怎么辦?統(tǒng)計(jì)誤差嘛。誰讓這些人具有“哈馬斯特征”呢?誰讓他們是哈馬斯成員的親戚,或者和哈馬斯成員同名同姓、用同一個(gè)昵稱,或者使用的二手手機(jī),剛巧是一個(gè)哈馬斯成員用過的?再說了,統(tǒng)計(jì)學(xué)肯定比人更靠譜。要知道,很多以軍士兵都有親朋好友死在哈馬斯手里,他們很容易做出不理性的事情,手里的“誤殺”也不在少數(shù)。
以色列國防軍 8200 部隊(duì)數(shù)據(jù)科學(xué)和人工智能中心指揮官在特拉維夫大學(xué)的演講幻燈片中透露“薰衣草”擊殺目標(biāo)的步驟:建立目標(biāo)的特征,并根據(jù)目標(biāo)進(jìn)行排名
但問題是,統(tǒng)計(jì)學(xué)的那些規(guī)則、標(biāo)準(zhǔn),也是人設(shè)計(jì)出來的。
什么才叫“哈馬斯成員”呢?領(lǐng)哈馬斯錢的人?還是不拿錢,但幫哈馬斯做事的人?或者是幫了哈馬斯,但沒有實(shí)際危險(xiǎn)的人?畢竟,哈馬斯在加沙執(zhí)政多年,手底下有一大幫子公務(wù)員,配武器的也不少。還有,以前幫過哈馬斯,現(xiàn)在不幫了,算不算?這些個(gè)定義,是可以人為調(diào)整的。實(shí)際上,8200在訓(xùn)練AI的時(shí)候,使用了一個(gè)非常寬泛的定義,喂給AI的數(shù)據(jù)里面,至少包括了哈馬斯政府國內(nèi)安全部的雇員。
前面我們講過,AI會(huì)根據(jù)一個(gè)人的“哈馬斯特征”來打分,高于“及格線”的才會(huì)判定是哈馬斯成員。技術(shù)人員就可以通過操控“及格線”,來放寬和收窄“哈馬斯成員”的范圍。根據(jù)以色列官員的說法,在戰(zhàn)爭過程中,AI不斷生成名單,以軍照單殺人,但有時(shí)候,AI生成名單的速度,還跟不上以軍殺人的速度。以軍需要更多的打擊目標(biāo),就會(huì)把“及格線”調(diào)低。這樣,機(jī)器就會(huì)把很多新人加到名單上,比如民防人員和警察,他們有武裝,是在幫哈馬斯政府,湊合湊合,也能算是“哈馬斯成員”。3月底的時(shí)候,《耶路撒冷郵報(bào)》發(fā)了篇報(bào)道,說哈馬斯好像越打越多了。軍方一直估計(jì)有3萬人,但現(xiàn)在,光是已經(jīng)打死和打傷的人加在一起都不止這個(gè)數(shù),一會(huì)兒還這里又出來一堆哈馬斯,那里又打死一堆哈馬斯,數(shù)字根本對(duì)不上。我覺得,這里面估計(jì)也有“薰衣草”的鍋,誰讓它速度太慢,還需要靠人手動(dòng)給名單擴(kuò)容呢?
耶路撒冷郵報(bào)2024年3月27日?qǐng)?bào)道《震驚!哈馬斯的戰(zhàn)士比以色列初期預(yù)設(shè)的多數(shù)千人》
這種種的不靠譜,以色列軍方心知肚明,而且毫不在意。一切都掩蓋在了“戰(zhàn)爭”的名義之下。他們辯護(hù)說:情報(bào)機(jī)構(gòu)人力有限,不值得核查低級(jí)武裝分子上浪費(fèi)時(shí)間;咱們是在打仗,沒時(shí)間給每個(gè)目標(biāo)“定罪”,你得接受算法有誤差,接受殺錯(cuò)人的風(fēng)險(xiǎn)。
這話聽著很有道理,和“寧可錯(cuò)殺一萬,不可放過一個(gè)”,有異曲同工之妙。而且好像還要感謝AI,把錯(cuò)殺率,從萬分之九千九百九十九,降到了百分之十,讓大規(guī)模的“定點(diǎn)清除”成為可能。
這個(gè)邏輯的問題,我們等會(huì)兒再討論。退一萬步講,即使接受了邏輯,還有個(gè)程度的問題?!稗挂虏荨钡腻e(cuò)誤率有10%,不代表以色列每炸死10個(gè)人,有九個(gè)是哈馬斯。很多信源的數(shù)據(jù)都顯示,死在以色列炮火下的平民,遠(yuǎn)超哈馬斯武裝分子的數(shù)量。因?yàn)榇_定要?dú)⒄l之后,還有個(gè)怎么殺的問題,而這一步,以色列也是大幅仰仗AI的助力。
從目前收集到的信息看,除了“薰衣草”之外,明確在加沙戰(zhàn)場上出現(xiàn)過的AI,至少還有三個(gè)。第一個(gè)叫“福音”(The Gospel),它是專門和“薰衣草”打配合的?!稗挂虏荨贝_定要?dú)⒄l,“福音”則把這些人身處的建筑物標(biāo)記出來。第二個(gè)叫“爸爸在哪兒”(Where's Daddy),它負(fù)責(zé)利用各種監(jiān)視系統(tǒng)跟蹤目標(biāo),在對(duì)方進(jìn)入房間的那一刻發(fā)出信號(hào)。第三個(gè)叫“火力工廠”(Fire Factory),負(fù)責(zé)計(jì)算彈藥裝載量,對(duì)數(shù)千個(gè)目標(biāo)進(jìn)行優(yōu)先級(jí)排序,并將其分配給飛機(jī)和無人機(jī),再制定出一個(gè)空襲時(shí)間表。
我們?cè)谶^去的節(jié)目里面講過,“定點(diǎn)清除”的技術(shù)要領(lǐng),一在信息采集和處理,二在精確和快速的打擊技術(shù)。這四個(gè)AI相互配合,覆蓋了“定點(diǎn)清除”的全套流程,大幅提高了殺人的效率。它們具體是怎么做的呢?首先,要確定一個(gè)合適的擊殺地點(diǎn)。在哪里殺人更容易?當(dāng)然是目標(biāo)在家里的時(shí)候。對(duì)AI來說,它們很容易就能把目標(biāo)和他的私人住宅關(guān)聯(lián)起來。實(shí)際上,加沙的每個(gè)人都被標(biāo)記了對(duì)應(yīng)的住宅,誰住在什么地方,全部在以軍的數(shù)據(jù)庫當(dāng)中,在此基礎(chǔ)上,追蹤目標(biāo)歸家、離家的軌跡也不困難。除此之外,在民宅里面,反偵察、反打擊措施要薄弱許多,目標(biāo)在家中警戒心也低,簡直是理想的殺人場所。
但問題,這些民宅里面,往往不是只有一個(gè)人。加沙人習(xí)慣一大家子住在一起。爹媽老婆孩子兄弟姐妹,親朋好友、左鄰右舍,一發(fā)炮彈下去,就整整齊齊的了。
以軍攻擊民宅的理由有很多,比如哈馬斯就喜歡把窩點(diǎn)藏在民用設(shè)施當(dāng)中,拿平民當(dāng)擋箭牌,醫(yī)院、清真寺、學(xué)校、聯(lián)合國設(shè)施,大概率都有哈馬斯。但這解釋不了一個(gè)現(xiàn)象:為什么以家庭為單位的傷亡,占比特別高?開戰(zhàn)45天的時(shí)候,聯(lián)合國機(jī)構(gòu)公布過一個(gè)數(shù)據(jù):當(dāng)時(shí)巴勒斯坦方面死亡11078人,有501個(gè)家庭,死亡人數(shù)大于6人,312個(gè)家庭,死亡人數(shù)超過10人,至少有6120人,也就是一半以上,屬于825個(gè)家庭。
聯(lián)合國人道主義事務(wù)協(xié)調(diào)廳12月29日關(guān)于加沙-以色列危機(jī)傷亡情況的總結(jié)報(bào)告中顯示,巴勒斯坦地區(qū)至少有6120人的死亡以825個(gè)家庭的形式產(chǎn)生
這種以家庭為單位的傷亡模式,確實(shí)呼應(yīng)了以色列情報(bào)官員的說法:以軍在有意識(shí)地攻擊哈馬斯成員的私宅。當(dāng)然了,這也不算新聞,2014年以色列對(duì)加沙的空襲,也做了同樣的事情。那次襲擊當(dāng)中,共造成了超過2200名巴勒斯坦人的死亡,其中至少有70次針對(duì)私人住宅的襲擊,造成606人死亡,比例是27%。而這次提高到一半以上,估計(jì)就是AI的“助攻”了。
“薰衣草”生產(chǎn)名單的速度,那就不用說了?!鞍职衷谀膬骸笨梢酝瑫r(shí)跟蹤數(shù)千個(gè)目標(biāo),效率也是非同一般。再加上“火力工廠”,不但優(yōu)化了空襲的效率,而且還大幅降低了彈藥的成本。根據(jù)美國情報(bào)部門的估計(jì),以色列空軍在加沙使用的彈藥里面,有45%是非制導(dǎo)炸彈,也叫“傻彈”(dumb dombs)。它們比制導(dǎo)炸彈便宜很多,價(jià)格要差個(gè)幾倍,但命中精確度也低,會(huì)造成大量的“附帶損害”。但有了AI的幫助之后,命中的問題就解決了一大半。比如說,如果他們發(fā)現(xiàn)目標(biāo)住的是高層建筑,就不打了,因?yàn)樾枰锰厥獾木_制導(dǎo)炸彈來打穿樓板。那玩意兒太貴了,不值得浪費(fèi)在低級(jí)成員身上。但如果這些哈馬斯住在平房里面,那么只要在他們回家后扔個(gè)“傻彈”就行了,直接把房子給你平了,不存在什么命中問題。幾千美金換一個(gè)人頭,哪怕是低級(jí)成員,效費(fèi)比也可以接受。
然而,命中問題“解決”了,“附帶損害”的問題怎么辦呢?
-
本文僅代表作者個(gè)人觀點(diǎn)。
- 責(zé)任編輯: 德力格爾 
-
韓國也想入伙“奧庫斯”?
2024-05-01 17:18 三八線之南 -
相比前兩艘航母,福建艦海試有何不同?
2024-05-01 12:00 航空航天 -
-
一年收到5架F-35 每架都有問題
2024-04-30 16:30 -
中越海警開展今年首次北部灣海域聯(lián)合巡邏
2024-04-30 16:21 -
從豹2到布雷德利 莫斯科勝利公園新到什么西方裝備?
2024-04-30 13:09 俄羅斯之聲 -
外媒緊盯福建艦:或馬上開始海試
2024-04-30 13:09 中國航母 -
烏軍總司令:前線局勢正在惡化,俄軍取得局部勝利
2024-04-29 11:14 烏克蘭之殤 -
德國豹2坦克運(yùn)抵莫斯科 將參加“勝利展覽”
2024-04-28 10:46 俄羅斯之聲 -
一周軍評(píng):“5·20”將近,美軍拿什么來西太平洋“維穩(wěn)”?
2024-04-28 09:24 -
美菲空軍舉行“雷霆對(duì)抗”演習(xí)
2024-04-27 18:36 -
巴基斯坦從中國訂購的首艘潛艇“漢果”號(hào)下水
2024-04-27 18:30 -
胡塞稱再次擊落美軍無人機(jī),美軍承認(rèn)墜毀
2024-04-27 16:51 也門局勢 -
董軍出席上合組織成員國防長會(huì)議
2024-04-26 22:35 -
美官員:烏軍撤回前線“艾布拉姆斯”,正調(diào)整戰(zhàn)術(shù)應(yīng)對(duì)俄無人機(jī)
2024-04-26 17:45 -
“華盛頓”號(hào)出港部署,將第二次進(jìn)駐日本
2024-04-25 17:35 -
站在流動(dòng)的國土上,感受什么叫“百年之內(nèi),換了人間”
2024-04-25 08:44 -
英國宣布向?yàn)蹩颂m提供“有史以來最大的軍事援助”
2024-04-24 17:04 -
德國海軍“黑森”號(hào)護(hù)衛(wèi)艦結(jié)束紅海任務(wù)返航
2024-04-23 16:42 -
美菲開展“肩并肩”年度演習(xí),將在南海、呂宋海峽舉行海防演習(xí)
2024-04-23 10:29 南海局勢
相關(guān)推薦 -
拿錯(cuò)劇本?特朗普在沙特演講:美國不再說教了 評(píng)論 90腦洞很大!前北約秘書長:新組織D7,可對(duì)付中美 評(píng)論 463“特朗普,聽聽勸吧,我們需借鑒中國” 評(píng)論 138“中國打樣后,印度突然硬氣了” 評(píng)論 248“中國在南美建巨型碼頭,確保替代美國糧食” 評(píng)論 104最新聞 Hot
-
“他們給小男孩戴上手銬,開槍打死了他”
-
拿錯(cuò)劇本?特朗普在沙特演講:美國不再說教了
-
日本搜腸刮肚想轍,就這?
-
特朗普“忽視”以色列?
-
俄烏就幾點(diǎn)談判都能吵起來
-
盧拉本打算順路去莫斯科,勸普京親自參加談判
-
韓國人先愁上了:要是埃及掉頭去買殲-10了,咋辦?
-
伊朗官員:準(zhǔn)備用永不制造核武,換取美解除經(jīng)濟(jì)制裁
-
腦洞很大!前北約秘書長:新組織D7,可對(duì)付中美
-
被中方嚴(yán)重關(guān)切,英方忙解釋:沒有
-
當(dāng)真?默茨打算對(duì)中國硬氣一把…
-
“我都驚了,西方車企在中國這是要全軍覆沒啊…”
-
卡塔爾首相回應(yīng)送飛機(jī):要不合法,就算了
-
普京:光道歉不夠
-
特朗普也不去了
-
數(shù)字系統(tǒng)太難用,大量日本醫(yī)院選擇“換回傳真機(jī)”
-