據(jù)外媒報(bào)道，加州大學(xué)河濱分校的Amit Roy-Chowdhury教授領(lǐng)導(dǎo)的團(tuán)隊(duì)收到來(lái)自美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（DARPA）近100萬(wàn)美元的撥款，用于研究計(jì)算機(jī)視覺(jué)系統(tǒng)對(duì)抗性攻擊。該項(xiàng)目是DARPA AI探索項(xiàng)目（AI Explorations）中全機(jī)器視覺(jué)干擾（Total Machine Vision Disruption）項(xiàng)目的一部分，研究結(jié)果將在自動(dòng)駕駛汽車、監(jiān)控和國(guó)防領(lǐng)域得到廣泛應(yīng)用。團(tuán)隊(duì)成員包括加州大學(xué)河濱分校的研究人員Srikanth Krishnamurthy、Chengyu Song、Salman Asif，以及施樂(lè)（Xerox）旗下研發(fā)公司PARC。

（圖片來(lái)源：加州大學(xué)河濱分校）

當(dāng)人們看到某個(gè)物體時(shí)，也會(huì)注意到物體周圍的整個(gè)場(chǎng)景。這種更廣泛的視覺(jué)環(huán)境使人們更容易發(fā)現(xiàn)和解釋不規(guī)則的情況。人類駕駛員注意到貼在停車標(biāo)志上的貼紙，知道貼紙不會(huì)改變標(biāo)志的含義，還是會(huì)停車。然而，使用深度神經(jīng)網(wǎng)絡(luò)進(jìn)行物體識(shí)別的自動(dòng)駕駛汽車可能會(huì)因?yàn)橘N紙而無(wú)法識(shí)別停車標(biāo)志，并且很難順利通過(guò)交叉路口。

無(wú)論訓(xùn)練有素的計(jì)算機(jī)算法在識(shí)別目標(biāo)變化方面有多好，圖像干擾總是會(huì)增加計(jì)算機(jī)做出錯(cuò)誤決策或建議的可能性。深度神經(jīng)網(wǎng)絡(luò)對(duì)圖像處理的脆弱性使其成為黑客的攻擊目標(biāo)，這些黑客意圖干擾由視覺(jué)AI支持的決策和行動(dòng)。

Roy-Chowdhury表示，“如果有物體出現(xiàn)在不合適的位置，就會(huì)觸發(fā)防御機(jī)制。即使圖像的一部分受到干擾，如貼在停車標(biāo)志上的貼紙，我們也能做到這一點(diǎn)?！痹俦热纾?dāng)人們看到一匹馬或一艘船時(shí)，也會(huì)想要看到他們周圍的某些物體，比如谷倉(cāng)或湖。如果這些圖像之一受到干擾，如馬站在汽車經(jīng)銷店里，或船漂浮在云端，人們就能識(shí)別出錯(cuò)誤。Roy-Chowdhury的團(tuán)隊(duì)希望將此種能力用于計(jì)算機(jī)。

要做到這一點(diǎn)，研究人員首先需要確定可能的攻擊類型。DARPA的項(xiàng)目將專注于利用視覺(jué)環(huán)境信息產(chǎn)生對(duì)抗性攻擊，從而更好地理解機(jī)器視覺(jué)系統(tǒng)的弱點(diǎn)。Roy-Chowdhury表示，“我們將對(duì)圖像系統(tǒng)進(jìn)行干擾，使計(jì)算機(jī)給出錯(cuò)誤的答案，可能有助于設(shè)計(jì)針對(duì)攻擊的防御措施。”

返回第一電動(dòng)網(wǎng)首頁(yè) >