觀察員
-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控?cái)z像還安全么？
關(guān)鍵字:導(dǎo)讀最新研究發(fā)現(xiàn)，只要一張打印出來(lái)的貼紙，就能“欺騙”AI系統(tǒng)，讓最先進(jìn)的檢測(cè)系統(tǒng)也無(wú)法看到眼前活生生的人。該研究也可能用于現(xiàn)實(shí)的視頻監(jiān)控系統(tǒng)，引起熱議。本文轉(zhuǎn)自新智元 編輯：肖琴、大明
一張貼紙讓你在AI面前”隱身“。
來(lái)自比利時(shí)魯汶大學(xué) (KU Leuven) 幾位研究人員最近的研究發(fā)現(xiàn)，借助一張簡(jiǎn)單打印出來(lái)的圖案，就可以完美避開(kāi) AI 視頻監(jiān)控系統(tǒng)。
研究人員表示，他們?cè)O(shè)計(jì)的圖像可以將整個(gè)人隱藏起來(lái)，不會(huì)讓計(jì)算機(jī)視覺(jué)系統(tǒng)發(fā)現(xiàn)。這項(xiàng)研究在YOLO (v2) 的開(kāi)源對(duì)象識(shí)別系統(tǒng)上進(jìn)行了演示。
如上圖所示，AI 系統(tǒng)成功檢測(cè)到左邊的人，而右邊的人被忽略了。右邊的人身上掛著一塊彩色紙板，在論文中被稱為 “對(duì)抗性補(bǔ)丁”(adversarial patch)，正是這塊補(bǔ)丁 “欺騙” 了 AI 系統(tǒng)，讓系統(tǒng)無(wú)法發(fā)現(xiàn)畫(huà)面中還有一個(gè)人。
這種欺騙利用了一種稱為對(duì)抗性機(jī)器學(xué)習(xí)的方法。大多數(shù)計(jì)算機(jī)視覺(jué)系統(tǒng)依賴訓(xùn)練 (卷積) 神經(jīng)網(wǎng)絡(luò)來(lái)識(shí)別不同的東西，方法是給它提供大量樣本，調(diào)整它的參數(shù)，直到它能正確地分類對(duì)象。通過(guò)將樣本輸入一個(gè)訓(xùn)練好的深度神經(jīng)網(wǎng)絡(luò)并監(jiān)控輸出，可以推斷出哪些類型的圖像讓系統(tǒng)感到困惑。
他們發(fā)表了題為 Fooling automated surveillance cameras: adversarial patches to attack person detection 的論文，并公布了用于生成圖像補(bǔ)丁的源代碼。
地址：
https://gitlab.com/EAVISE/adversarial-yolo
生成的補(bǔ)丁 (patch)能夠成功地將人在檢測(cè)器視線中隱藏起來(lái)。例如，這種攻擊可能被惡意地用來(lái)繞過(guò)監(jiān)視系統(tǒng)，入侵者只要將一小塊硬紙板放在身體前面，面向監(jiān)視攝像頭，就能不被監(jiān)視系統(tǒng)發(fā)現(xiàn)。
研究結(jié)果顯示，這個(gè)系統(tǒng)能夠顯著降低人體檢測(cè)器的精度。該方法在真實(shí)場(chǎng)景中也能很好地發(fā)揮作用。
如下面的 demo 所示，使用 YOLOv2 檢測(cè)拍攝的錄像，畫(huà)面中人、椅子、桌子等都被準(zhǔn)確地檢測(cè)出來(lái)，但只要拿上這塊 “補(bǔ)丁”，系統(tǒng)就無(wú)法檢測(cè)到人。
- 原標(biāo)題：一張貼紙欺騙AI，對(duì)抗性補(bǔ)丁讓人類隱身，監(jiān)控?cái)z像危險(xiǎn)了！
- 責(zé)任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類首次檢測(cè)到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”，聯(lián)想Z6 Pro和小米9你選誰(shuí)？
2019-04-24 17:20 手機(jī) -
廈門大學(xué)成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號(hào)”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國(guó)電信率先實(shí)現(xiàn)首個(gè)5G SA語(yǔ)音通話
2019-04-24 14:28 5G -
SK海力士新增動(dòng)產(chǎn)抵押信息 抵押金額高達(dá)35億美元
2019-04-24 14:25 -
英國(guó)將允許華為“有限”參與5G網(wǎng)絡(luò)建設(shè)
2019-04-24 10:46 -
為了京東，劉強(qiáng)東應(yīng)該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
-
中國(guó)空間站公開(kāi)征集科學(xué)實(shí)驗(yàn)和技術(shù)試驗(yàn)項(xiàng)目
2019-04-23 17:45 航空航天 -
中國(guó)聯(lián)通5G國(guó)際合作聯(lián)盟：美日德法英等8國(guó)企業(yè)加入
2019-04-23 16:13 5G -
進(jìn)軍韓國(guó)！華為下月將在首爾開(kāi)設(shè)5G服務(wù)中心
2019-04-23 13:17 -
氫燃料電池“中國(guó)芯”研發(fā)獲得突破
2019-04-23 09:45 中國(guó)精造 -
華為推出“世界首款”5G車載模組
2019-04-23 09:18 -
三星：Galaxy Fold將推遲上市做進(jìn)一步改進(jìn)
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠，安森美4.3億美元接盤(pán)
2019-04-23 08:12 -
華為P30系列臺(tái)灣開(kāi)賣，引3500人排隊(duì)搶購(gòu)創(chuàng)紀(jì)錄
2019-04-22 22:24 華為 -
騰訊：登錄新游戲基礎(chǔ)準(zhǔn)入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國(guó)產(chǎn)固態(tài)硬盤(pán)控制芯片發(fā)布：讀寫(xiě)速度500MB/s
2019-04-22 16:43 -
華為將為非洲國(guó)家杯推出首個(gè)5G手機(jī)網(wǎng)絡(luò)
2019-04-22 15:52
相關(guān)推薦 -
-
美國(guó)全球封殺華為昇騰芯片？“無(wú)理且自大” 評(píng)論 223
“特朗普最大的中東外交豪賭” 評(píng)論 57
拿錯(cuò)劇本？特朗普在沙特演講：美國(guó)不再說(shuō)教了 評(píng)論 193
腦洞很大！前北約秘書(shū)長(zhǎng)：新組織D7，可對(duì)付中美 評(píng)論 486最新聞 Hot-
“中美暗流涌動(dòng)：一個(gè)穩(wěn)推戰(zhàn)略，一個(gè)急著交易”
-
“美匈關(guān)系有一條紅線，就是中國(guó)”
-
“到北京了”，美方公布簡(jiǎn)歷
-
普京不來(lái)，澤連斯基急了
-
說(shuō)好的硬氣？“印度將對(duì)美零關(guān)稅”
-
美國(guó)全球封殺華為昇騰芯片？“無(wú)理且自大”
-
歐盟也要加入CPTPP？美國(guó)急了
-
土耳其發(fā)聲，外媒都懵了
-
“特朗普最大的中東外交豪賭”
-
“要是中國(guó)不開(kāi)門，給我再多水又能咋地？”
-
特朗普“二進(jìn)宮”，家族到底賺了多少錢？
-
“美國(guó)說(shuō)了，不讓澤連斯基參加”
-
印尼網(wǎng)友質(zhì)疑采購(gòu)“陣風(fēng)”：希望買殲-10
-
破防了？印度對(duì)中國(guó)媒體下黑手
-
“他們給小男孩戴上手銬，開(kāi)槍打死了他”
-
拿錯(cuò)劇本？特朗普在沙特演講：美國(guó)不再說(shuō)教了
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報(bào)鏈接
- 舉報(bào)制度規(guī)范
- 《網(wǎng)站自律管理承諾書(shū)》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號(hào)-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號(hào) 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營(yíng)許可證：（滬）字第03952號(hào)
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證：滬B2-20210968 違法及不良信息舉報(bào)電話：021-62376571
滬公網(wǎng)安備 31010502000027號(hào)
中國(guó)互聯(lián)網(wǎng)舉報(bào)中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報(bào)中心
