-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控?cái)z像還安全么?
關(guān)鍵字:實(shí)驗(yàn)結(jié)果:顯著降低警報(bào),安全攝像頭還安全嗎?
通過實(shí)驗(yàn)結(jié)果評(píng)估 patch 的有效性。過程與訓(xùn)練過程相同(包括隨機(jī)變換),將結(jié)果應(yīng)用于 Inria 測(cè)試集上來進(jìn)行評(píng)估。
換句話說,研究人員提出一個(gè)問題:監(jiān)控系統(tǒng)產(chǎn)生的警報(bào),有多少可以通過使用貼紙來規(guī)避?
上表所示為使用不同貼紙的警報(bào)觸發(fā)分析結(jié)果。可以清楚地看到,貼紙(OBJ-CLS,OBJ 和 CLS)顯著降低了警報(bào)數(shù)量。
上圖所示為在 Inria 測(cè)試集中使用不同貼紙的效果對(duì)比示例。首先將 YOLOv2 檢測(cè)器用于沒有貼 patch 的圖像中(第 1 行),然后是使用隨機(jī)貼紙(第 2 行)以及生成的最佳貼紙的效果(第 3 行)。在大多數(shù)情況下,貼紙能夠成功地將人員隱藏在探測(cè)器中。如果效果不好,則可能是貼紙沒有和人對(duì)齊。因?yàn)樵趦?yōu)化期間,貼紙的中心對(duì)齊是僅僅由圖像邊框確定的。
上圖測(cè)試了印刷版貼紙?jiān)诂F(xiàn)實(shí)世界中的效果。一般情況下,效果還是不錯(cuò)的。由于上文所述的圖像訓(xùn)練對(duì)齊的原因,將貼紙保持在正確位置似乎是非常重要的。
結(jié)果生成的 “補(bǔ)丁”,可以應(yīng)用在衣服、包或其他物體上,佩戴這種 “補(bǔ)丁” 的人將成為隱形人 —— 使用 AI 檢測(cè)算法無法檢測(cè)到。
這種方法也可以用來隱藏某些對(duì)象。例如,如果監(jiān)視系統(tǒng)被設(shè)計(jì)為檢測(cè)物體而不是人,那么 “補(bǔ)丁” 也可以將汽車之類的物體隱藏起來。
可以想象,這種伎倆可以讓騙子躲避安全攝像頭?!拔覀兊墓ぷ髯C明,使用對(duì)抗性補(bǔ)丁繞過攝像機(jī)監(jiān)控系統(tǒng)是可能的,” 作者之一 Wiebe Van Ranst。
Van Ranst 說,將這種方法應(yīng)用于現(xiàn)成的視頻監(jiān)控系統(tǒng)應(yīng)該不會(huì)太難。“目前我們還需要知道使用的是哪種檢測(cè)器。我們未來想做的是生成一個(gè)補(bǔ)丁,可以同時(shí)在多個(gè)檢測(cè)器上工作,” 他說。“如果這種方法有效,那么這個(gè)補(bǔ)丁也很有可能對(duì)監(jiān)控系統(tǒng)中使用的檢測(cè)器有效。”
當(dāng)然,這個(gè) “補(bǔ)丁” 目前并非萬無一失,如果它在畫面中不是清晰可見的,或者角度發(fā)生了變化,AI 系統(tǒng)都能迅速 “發(fā)現(xiàn)” 畫面中的人類。
不過,這項(xiàng)研究是學(xué)術(shù)界首次嘗試使用 2D 打印技術(shù)將人類從檢測(cè)系統(tǒng)中隱藏起來。之前的工作主要是使用帶有特殊框架的眼鏡來欺騙人臉識(shí)別軟件,或使用對(duì)抗樣本欺騙圖像分類系統(tǒng),例如用一張貼紙就能令 AI 將香蕉誤認(rèn)為是烤面包機(jī),用幾張貼紙就能將自動(dòng)駕駛系統(tǒng) “騙” 進(jìn)反車道。
論文地址:
https://arxiv.org/pdf/1904.08653.pdf
開源地址:
https://gitlab.com/EAVISE/adversarial-yolo
- 原標(biāo)題:一張貼紙欺騙AI,對(duì)抗性補(bǔ)丁讓人類隱身,監(jiān)控?cái)z像危險(xiǎn)了!
- 責(zé)任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類首次檢測(cè)到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”,聯(lián)想Z6 Pro和小米9你選誰?
2019-04-24 17:20 手機(jī) -
廈門大學(xué)成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號(hào)”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國電信率先實(shí)現(xiàn)首個(gè)5G SA語音通話
2019-04-24 14:28 5G -
SK海力士新增動(dòng)產(chǎn)抵押信息 抵押金額高達(dá)35億美元
2019-04-24 14:25 -
英國將允許華為“有限”參與5G網(wǎng)絡(luò)建設(shè)
2019-04-24 10:46 -
為了京東,劉強(qiáng)東應(yīng)該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
聯(lián)想Z6 Pro發(fā)布,常程:手機(jī)業(yè)務(wù)對(duì)誰來說都是持久戰(zhàn)
2019-04-24 02:00 手機(jī) -
中國空間站公開征集科學(xué)實(shí)驗(yàn)和技術(shù)試驗(yàn)項(xiàng)目
2019-04-23 17:45 航空航天 -
中國聯(lián)通5G國際合作聯(lián)盟:美日德法英等8國企業(yè)加入
2019-04-23 16:13 5G -
進(jìn)軍韓國!華為下月將在首爾開設(shè)5G服務(wù)中心
2019-04-23 13:17 -
氫燃料電池“中國芯”研發(fā)獲得突破
2019-04-23 09:45 中國精造 -
華為推出“世界首款”5G車載模組
2019-04-23 09:18 -
三星:Galaxy Fold將推遲上市做進(jìn)一步改進(jìn)
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠,安森美4.3億美元接盤
2019-04-23 08:12 -
華為P30系列臺(tái)灣開賣,引3500人排隊(duì)搶購創(chuàng)紀(jì)錄
2019-04-22 22:24 華為 -
騰訊:登錄新游戲基礎(chǔ)準(zhǔn)入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國產(chǎn)固態(tài)硬盤控制芯片發(fā)布:讀寫速度500MB/s
2019-04-22 16:43 -
華為將為非洲國家杯推出首個(gè)5G手機(jī)網(wǎng)絡(luò)
2019-04-22 15:52
相關(guān)推薦 -
“中美暗流涌動(dòng):一個(gè)穩(wěn)推戰(zhàn)略,一個(gè)急著交易” 評(píng)論 39美國全球封殺華為昇騰芯片?“無理且自大” 評(píng)論 248“特朗普最大的中東外交豪賭” 評(píng)論 60拿錯(cuò)劇本?特朗普在沙特演講:美國不再說教了 評(píng)論 195腦洞很大!前北約秘書長:新組織D7,可對(duì)付中美 評(píng)論 491最新聞 Hot
-
“中美暗流涌動(dòng):一個(gè)穩(wěn)推戰(zhàn)略,一個(gè)急著交易”
-
“美匈關(guān)系有一條紅線,就是中國”
-
“銹帶衰落賴不著中國,但兩黨不敢認(rèn)”
-
劉曉慶回應(yīng)被舉報(bào)涉嫌偷稅漏稅
-
“到北京了”,美方公布簡歷
-
普京不來,澤連斯基急了
-
說好的硬氣?“印度將對(duì)美零關(guān)稅”
-
美國全球封殺華為昇騰芯片?“無理且自大”
-
歐盟也要加入CPTPP?美國急了
-
土耳其發(fā)聲,外媒都懵了
-
“特朗普最大的中東外交豪賭”
-
“要是中國不開門,給我再多水又能咋地?”
-
特朗普“二進(jìn)宮”,家族到底賺了多少錢?
-
“美國說了,不讓澤連斯基參加”
-
印尼網(wǎng)友質(zhì)疑采購“陣風(fēng)”:希望買殲-10
-
破防了?印度對(duì)中國媒體下黑手
-