反面部識別系統(tǒng)被多倫多大學開發(fā) 人臉識別率降至0.5%

面部識別系統(tǒng)是有爭議的，至少可以這樣說。上周，亞馬遜因向執(zhí)法機構提供面部掃描技術而成為頭條新聞。研究表明，一些面部識別算法對某些種族存在固有的偏見。

人們對這種人工智能監(jiān)視系統(tǒng)的擔憂，促使多倫多的研究人員開發(fā)了一種針對它們的工具。多倫多大學的教授Parham Aarabi和研究生Avishek Bose發(fā)明了一種算法，通過對圖像進行光轉換，動態(tài)地破壞面部識別系統(tǒng)。

“隨著面部識別技術越來越先進，個人隱私成為了一個真正的問題，”Aarabi在一份聲明中說，“這就是反面部識別系統(tǒng)的用武之地。”

旨在破壞面部識別的產(chǎn)品和軟件并不是什么新鮮事物。在2016年11月的一項研究中，美國卡內(nèi)基梅隆大學的研究人員設計了一種眼鏡框，可以誤導面部識別系統(tǒng)，使其產(chǎn)生錯誤的識別。在2017年11月，麻省理工學院和日本九州大學的專家們用一種算法將一幅3D打印的海龜?shù)恼掌瑯擞洖榱瞬綐?，方法是改變照片中的一個像素。

但根據(jù)Bose和Aarabi的說法，這是使用人工智能的首批解決方案之一。他們的算法是在600張人臉的數(shù)據(jù)集上進行訓練的，它會發(fā)出一個實時的過濾器，可以應用到任何圖片上。因為它的目標——圖像中的單個像素——是特定的，因此它幾乎是肉眼無法察覺的。

這兩名研究人員采用了對抗訓練(adversarial training)技術。這種技術使兩個神經(jīng)網(wǎng)絡相互對抗——一個神經(jīng)網(wǎng)絡從數(shù)據(jù)中獲得信息，另一個試圖破壞第一個神經(jīng)網(wǎng)絡的任務。Aarabi和Bose的系統(tǒng)使用第一個神經(jīng)網(wǎng)絡來識別人臉，并利用第二個神經(jīng)網(wǎng)絡來擾亂面部識別過程。

他們的研究報告將在2018年IEEE國際多媒體信號處理研討會上發(fā)表。Bose和Aarabi聲稱，他們的算法將人臉識別系統(tǒng)中被檢測到的人臉的比例降低到了0.5%。他們希望在應用或網(wǎng)站上提供這種神經(jīng)網(wǎng)絡系統(tǒng)。

“十年前，這些算法必須是人類定義的，但現(xiàn)在神經(jīng)網(wǎng)絡可以自己學習——除了訓練數(shù)據(jù)之外，你不需要提供任何東西，”Aarabi說，“最終，他們可以做一些非常了不起的事情。這是一個很有意思的領域，有著巨大的潛力。”