觀察員
-
僅用一張貼紙就能在AI前隱身 安全監(jiān)控?cái)z像還安全么？
關(guān)鍵字:生成“神奇補(bǔ)丁”，秒變隱形人
他們是如何生成這塊神奇的 “對抗性補(bǔ)丁” 的呢？
優(yōu)化目標(biāo)包括以下三個部分：
Lnps：非可打印性得分，這個因子表示貼紙中的顏色在多大程度上可由普通打印機(jī)打印出來。有下式：
其中 ppatch 是貼紙中的一個像素，而 cprint 是一組可打印顏色 C 中的顏色。這種損失有利于確保圖像中的顏色與可打印顏色集中的顏色密切相關(guān)。
Ltv：圖像總變化。該損失函數(shù)損失確保優(yōu)化器支持平滑顏色過渡的圖像并防止圖像噪聲?？梢杂?P 計(jì)算 Ltv：
如果相鄰像素相似則得分較低，如果相鄰像素不同則得分較高。
Lobj：圖像中的最大對象分?jǐn)?shù)。補(bǔ)丁的目標(biāo)是隱藏圖像中的人。所以訓(xùn)練的目標(biāo)是對探測器輸出的目標(biāo)或類別分?jǐn)?shù)實(shí)現(xiàn)最小化。將這三個部分相加得到總損失函數(shù)：
采用由經(jīng)驗(yàn)確定的因子 α 和 β 對三個部分進(jìn)行按比例縮放，然后求和，并使用 Adam 算法進(jìn)行優(yōu)化。優(yōu)化器的目標(biāo)是總損失 L 的最小化。在優(yōu)化過程中凍結(jié)網(wǎng)絡(luò)中的所有權(quán)重，并僅更改 patch 中的值。在過程開始時，以隨機(jī)值對 patch 進(jìn)行初始化。
圖 3 所示為目標(biāo)損失的計(jì)算，遵循相同的程序來計(jì)算類概率
YOLOv2 對象檢測器輸出一個單元網(wǎng)格，每個單元格包含一系列錨點(diǎn)（默認(rèn)值為五個）。每個錨點(diǎn)包含邊界框的位置、對象概率和類別得分。為了讓探測器忽略圖像中的人，研究人員嘗試了三種不同的方法：最小化類人的分類概率（圖 4d），最小化對象得分（圖 4c），或兩者的組合（圖 4b 和 4a）。
研究人員分別嘗試了每一種方法。最小化類分?jǐn)?shù)傾向于將類中的人員移至不同的類。在使用 MS COCO 數(shù)據(jù)集訓(xùn)練的 YOLO 探測器的實(shí)驗(yàn)中，研究人員發(fā)現(xiàn)生成的貼紙會作為 COCO 數(shù)據(jù)集中的另一個類被檢測到。圖 4a 和 4b 分別為采用類和對象概率的實(shí)例。
研究人員提出的最小化對象性得分的另一種方法則不存在這個問題。雖然在優(yōu)化過程中僅僅將其其置于 “人” 這一類別之上，但是生成的貼紙對于某個類的特定性低于其他方法，如圖 4c 所示。
研究團(tuán)隊(duì)對各種類型的 patch 進(jìn)行了實(shí)驗(yàn)，比如隨機(jī)生成的圖像噪聲或者模糊化的圖像，最后，他們發(fā)現(xiàn)經(jīng)過多次圖像處理的隨機(jī)物體的照片的效果最好。
例如，他們提出的圖像補(bǔ)丁 (圖 4c) 是通過隨機(jī)選取一幅圖像來創(chuàng)建的，圖像經(jīng)過了旋轉(zhuǎn)，隨機(jī)放大和縮小，隨機(jī)添加隨機(jī)噪聲，隨機(jī)修改正確率和對比度。
- 原標(biāo)題：一張貼紙欺騙AI，對抗性補(bǔ)丁讓人類隱身，監(jiān)控?cái)z像危險了！
- 責(zé)任編輯:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人類首次檢測到火星疑似地震
2019-04-24 17:47 航空航天 -
“孫悟空”大戰(zhàn)“阿麗塔”，聯(lián)想Z6 Pro和小米9你選誰？
2019-04-24 17:20 手機(jī) -
廈門大學(xué)成功發(fā)射一枚帶翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一號”今年新增20顆衛(wèi)星 將首次海上發(fā)射
2019-04-24 15:48 航空航天 -
中國電信率先實(shí)現(xiàn)首個5G SA語音通話
2019-04-24 14:28 5G -
SK海力士新增動產(chǎn)抵押信息 抵押金額高達(dá)35億美元
2019-04-24 14:25 -
英國將允許華為“有限”參與5G網(wǎng)絡(luò)建設(shè)
2019-04-24 10:46 -
為了京東，劉強(qiáng)東應(yīng)該辭去CEO
2019-04-24 09:49 互聯(lián)網(wǎng)大佬 -
聯(lián)想Z6 Pro發(fā)布，常程：手機(jī)業(yè)務(wù)對誰來說都是持久戰(zhàn)
2019-04-24 02:00 手機(jī) -
中國空間站公開征集科學(xué)實(shí)驗(yàn)和技術(shù)試驗(yàn)項(xiàng)目
2019-04-23 17:45 航空航天 -
中國聯(lián)通5G國際合作聯(lián)盟：美日德法英等8國企業(yè)加入
2019-04-23 16:13 5G -
進(jìn)軍韓國！華為下月將在首爾開設(shè)5G服務(wù)中心
2019-04-23 13:17 -
氫燃料電池“中國芯”研發(fā)獲得突破
2019-04-23 09:45 中國精造 -
華為推出“世界首款”5G車載模組
2019-04-23 09:18 -
三星：Galaxy Fold將推遲上市做進(jìn)一步改進(jìn)
2019-04-23 08:40 -
格芯宣布出售紐約州300mm晶圓廠，安森美4.3億美元接盤
2019-04-23 08:12 -
華為P30系列臺灣開賣，引3500人排隊(duì)搶購創(chuàng)紀(jì)錄
2019-04-22 22:24 華為 -
騰訊：登錄新游戲基礎(chǔ)準(zhǔn)入年齡從13周歲提升至16周歲
2019-04-22 20:27 -
首款全國產(chǎn)固態(tài)硬盤控制芯片發(fā)布：讀寫速度500MB/s
2019-04-22 16:43 -
華為將為非洲國家杯推出首個5G手機(jī)網(wǎng)絡(luò)
2019-04-22 15:52
相關(guān)推薦 -
-
美國全球封殺華為昇騰芯片？“無理且自大” 評論 248
“特朗普最大的中東外交豪賭” 評論 60
拿錯劇本？特朗普在沙特演講：美國不再說教了 評論 195
腦洞很大！前北約秘書長：新組織D7，可對付中美 評論 491最新聞 Hot-
“中美暗流涌動：一個穩(wěn)推戰(zhàn)略，一個急著交易”
-
“美匈關(guān)系有一條紅線，就是中國”
-
“銹帶衰落賴不著中國，但兩黨不敢認(rèn)”
-
劉曉慶回應(yīng)被舉報涉嫌偷稅漏稅
-
“到北京了”，美方公布簡歷
-
普京不來，澤連斯基急了
-
說好的硬氣？“印度將對美零關(guān)稅”
-
美國全球封殺華為昇騰芯片？“無理且自大”
-
歐盟也要加入CPTPP？美國急了
-
土耳其發(fā)聲，外媒都懵了
-
“特朗普最大的中東外交豪賭”
-
“要是中國不開門，給我再多水又能咋地？”
-
特朗普“二進(jìn)宮”，家族到底賺了多少錢？
-
“美國說了，不讓澤連斯基參加”
-
印尼網(wǎng)友質(zhì)疑采購“陣風(fēng)”：希望買殲-10
-
破防了？印度對中國媒體下黑手
-
- 聯(lián)系我們
- 關(guān)于我們
- 版權(quán)聲明
- 服務(wù)條款
- 刊登廣告
- 聯(lián)系微博
- 加入我們
- 網(wǎng)站地圖
- 舉報鏈接
- 舉報制度規(guī)范
- 《網(wǎng)站自律管理承諾書》
Copyright ? 2014-2024 觀察者 All rights reserved。
滬ICP備10213822號-2 互聯(lián)網(wǎng)新聞信息服務(wù)許可證：31220170001
網(wǎng)登網(wǎng)視備（滬）02020000041-1號 互聯(lián)網(wǎng)宗教信息服務(wù)許可證：滬（2024）0000009
廣播電視節(jié)目制作經(jīng)營許可證：（滬）字第03952號
增值電信業(yè)務(wù)經(jīng)營許可證：滬B2-20210968 違法及不良信息舉報電話：021-62376571
滬公網(wǎng)安備 31010502000027號
中國互聯(lián)網(wǎng)舉報中心
上海市互聯(lián)網(wǎng)違法與不良信息舉報中心
