研究評估性別對于AI人臉識別軟件的影響

（文章來源：教育新聞網(wǎng)）

人臉識別軟件工具如何準(zhǔn)確地識別不同性別，年齡和種族背景的人?根據(jù)美國國家標(biāo)準(zhǔn)技術(shù)研究院(NIST)的一項新研究，答案取決于系統(tǒng)核心的算法，使用該算法的應(yīng)用程序以及所饋送的數(shù)據(jù)，但是大多數(shù)人臉識別算法都具有人口統(tǒng)計學(xué)特征差異。差異意味著算法對同一個人的兩張圖像進(jìn)行匹配的能力在一個人口統(tǒng)計學(xué)組之間變化。

報告中捕獲的結(jié)果，即面部識別供應(yīng)商測試(FRVT)第3部分：人口統(tǒng)計影響(NISTIR 8280)，旨在為政策制定者提供信息，并幫助軟件開發(fā)人員更好地了解其算法的性能。面部識別技術(shù)之所以引起了公眾的爭論，部分原因是因為需要了解人口統(tǒng)計學(xué)對面部識別算法的影響。

NIST的計算機科學(xué)家，報告的主要作者帕特里克·格羅瑟(Patrick Grother)說：“雖然在各種算法中進(jìn)行陳述通常是不正確的，但我們發(fā)現(xiàn)了我們研究的大多數(shù)面部識別算法中存在人口統(tǒng)計學(xué)差異的經(jīng)驗證據(jù)?！薄氨M管我們不探討可能導(dǎo)致這些差異的原因，但這些數(shù)據(jù)對于決策者，開發(fā)人員和最終用戶在考慮這些算法的局限性和適當(dāng)使用時將是有價值的?！?/p>

這項研究是通過NIST的人臉識別供應(yīng)商測試(FRVT)程序進(jìn)行的，該程序?qū)π袠I(yè)和學(xué)術(shù)開發(fā)人員提交的人臉識別算法執(zhí)行不同任務(wù)的能力進(jìn)行了評估。雖然NIST并未測試使用這些算法的最終商業(yè)產(chǎn)品，但該程序顯示出該領(lǐng)域正在迅速發(fā)展。

NIST的研究評估了來自大多數(shù)行業(yè)的99位開發(fā)人員的189種軟件算法。它著重介紹每種算法在人臉識別最常見的應(yīng)用程序中執(zhí)行兩種不同任務(wù)之一的效果如何。確認(rèn)照片與數(shù)據(jù)庫中同一個人的另一張照片匹配的第一項任務(wù)稱為“一對一”匹配，通常用于驗證工作，例如解鎖智能手機或檢查護照。第二，確定照片中的人在數(shù)據(jù)庫中是否有任何匹配項，稱為“一對多”匹配項，可用于識別感興趣的人。

為了評估每種算法在其任務(wù)上的性能，該團隊測量了該軟件可能產(chǎn)生的兩類錯誤：誤報和誤報。誤報意味著軟件錯誤地認(rèn)為兩個不同的人的照片可以顯示同一個人，而誤報意味著軟件無法匹配實際上確實顯示同一人的兩張照片。
? ? ?