IBM將不再開(kāi)發(fā)人臉識(shí)別技術(shù)，已向國(guó)會(huì)致函

IBM宣布，隨著人們對(duì)人臉識(shí)別技術(shù)的影響越來(lái)越關(guān)注，他們將不再開(kāi)發(fā)相關(guān)人臉識(shí)別技術(shù)與功能。

在給國(guó)會(huì)的一封信中，IBM首席執(zhí)行官Arvind Krishna寫(xiě)道：

“基于價(jià)值觀和信任與透明度原則。IBM堅(jiān)決反對(duì)并且不會(huì)容忍將任何[面部識(shí)別]技術(shù)(包括其他供應(yīng)商提供的面部識(shí)別技術(shù))用于大規(guī)模監(jiān)視、種族歧視、侵犯基本人權(quán)和自由或與我們的目的不符的任何目的。

我們認(rèn)為現(xiàn)在是時(shí)候開(kāi)始關(guān)于國(guó)內(nèi)執(zhí)法機(jī)構(gòu)是否應(yīng)該使用面部識(shí)別技術(shù)以及如何使用面部識(shí)別技術(shù)的全國(guó)性對(duì)話?！?/p>

當(dāng)前，已經(jīng)發(fā)現(xiàn)面部識(shí)別技術(shù)具有種族偏見(jiàn)。 NIST和德克薩斯大學(xué)達(dá)拉斯分校的研究人員在2010年進(jìn)行的一項(xiàng)研究發(fā)現(xiàn)，在東亞設(shè)計(jì)和測(cè)試的算法在識(shí)別東亞人方面更好，而在西方國(guó)家設(shè)計(jì)的算法在發(fā)現(xiàn)高加索人方面更準(zhǔn)確。

美國(guó)公民自由聯(lián)盟的研究發(fā)現(xiàn)，當(dāng)使用亞馬遜的面部識(shí)別工具將眾議院和參議院所有成員的照片與25000張逮捕照片進(jìn)行比較時(shí)，匹配對(duì)國(guó)會(huì)黑人核心小組成員的影響不成比例。

上個(gè)月，美國(guó)公民自由聯(lián)盟(ACLU)對(duì)備受爭(zhēng)議的面部識(shí)別公司Clearview AI提起訴訟，稱(chēng)其為隱私的“噩夢(mèng)”。該公司與極右翼有廣泛的聯(lián)系，由于其從互聯(lián)網(wǎng)上抓取數(shù)十億張照片的做法，屢屢遭到抨擊。

在英國(guó)，平等與人權(quán)委員會(huì)(EHRC)呼吁在試驗(yàn)完全失敗之后，停止公開(kāi)使用面部識(shí)別。大都會(huì)警察在2016年的諾丁山狂歡節(jié)上進(jìn)行了初步審判，結(jié)果沒(méi)有發(fā)現(xiàn)一個(gè)人。次年的后續(xù)試驗(yàn)未導(dǎo)致合法比賽，但有35次誤報(bào)。

Peter Fussey教授和Daragh Murray博士去年就大都會(huì)警察的面部識(shí)別試驗(yàn)發(fā)表了一份媒體告，得出的結(jié)論是，僅在19%的案件中，報(bào)告是可驗(yàn)證的。

IBM已明確表示，它與開(kāi)發(fā)任何可用于大規(guī)模監(jiān)視的技術(shù)無(wú)關(guān)，尤其是當(dāng)它繼續(xù)存在嚴(yán)重的準(zhǔn)確性問(wèn)題(可能導(dǎo)致自動(dòng)種族特征分析)時(shí)。克里希納呼吁進(jìn)行更廣泛的政策改革，包括維持治安、負(fù)責(zé)任地使用技術(shù)以及擴(kuò)大技能和教育機(jī)會(huì)。