面部識(shí)別技術(shù)走到十字路口？

近日，面部識(shí)別技術(shù)又遭遇“突發(fā)事件”。本周二，由90個(gè)倡議團(tuán)體組成的小組給三巨頭AAM（亞馬遜、谷歌、微軟）寫(xiě)信，要求三家公司承諾不向政府出售面部識(shí)別技術(shù)。其中，這些團(tuán)體中包括了美國(guó)公民自由聯(lián)盟ACLU、難民移民教育和法律服務(wù)中心RAICES、電子前沿基金會(huì)EFF等重要組織。

這封信一經(jīng)公布，給予三家巨頭公司非常大的社會(huì)輿論壓力。三家公司都是面部識(shí)別技術(shù)系統(tǒng)領(lǐng)域的佼佼者，在該領(lǐng)域傾注了大量精力與努力。參見(jiàn)雷鋒網(wǎng)此前報(bào)道

人臉識(shí)別哪家強(qiáng)？亞馬遜、微軟、谷歌等大公司技術(shù)對(duì)比分析

。美國(guó)加利福尼亞州公民自由聯(lián)盟ACLU主任Nicole Ozer說(shuō)，“我們正在用人臉識(shí)別技術(shù)監(jiān)控交通路口，這些公司現(xiàn)在所作出的選擇，將會(huì)決定我們的下一代時(shí)時(shí)生活在政府的監(jiān)控之中。比如，是否參加了游行抗議活動(dòng)，監(jiān)控禮拜場(chǎng)所，甚至日常生活?！?/p>

1月18日早間，據(jù)彭博社消息，亞馬遜公司激進(jìn)派股東，就亞馬遜向政府機(jī)構(gòu)兜售面部識(shí)別軟件這一問(wèn)題提交決議，建議停止銷(xiāo)售行為，直到該項(xiàng)技術(shù)被認(rèn)定不會(huì)對(duì)公民權(quán)益產(chǎn)生威脅。該項(xiàng)決議將在2019年晚些時(shí)候，在亞馬遜年度大會(huì)上進(jìn)行表決。非盈利機(jī)構(gòu)Open MIC董事Michael Connor表示，亞馬遜向政府出售Rekognition，將自身和股東置于風(fēng)險(xiǎn)境地而不顧。ACLU則認(rèn)為，面部識(shí)別技術(shù)很容易將深色皮膚的人種進(jìn)行誤判。

事實(shí)上，這絕對(duì)不是ACLU等團(tuán)體的“小題大做”，2018年12月，美國(guó)特工處公布了一項(xiàng)關(guān)于在白宮周?chē)渴鹈娌孔R(shí)別監(jiān)控測(cè)試系統(tǒng)的計(jì)劃，其目的在于確定可能對(duì)總統(tǒng)構(gòu)成威脅的“目標(biāo)嫌疑人”。據(jù)了解，該文件于2018年11月底公布，文件顯示，面部識(shí)別系統(tǒng)將會(huì)對(duì)在白宮公共區(qū)域錄制的閉路視頻片段與圖像數(shù)據(jù)庫(kù)進(jìn)行對(duì)比，以監(jiān)控、跟蹤員工為特色。

該測(cè)試已于2018年11月19日啟動(dòng)，于2019年8月30日結(jié)束。系統(tǒng)運(yùn)行時(shí)，面部匹配的鏡頭圖像將會(huì)被保存，然后由人工審核人員確認(rèn)并進(jìn)行刪除工作。該文件承認(rèn)對(duì)于不知情的訪客，運(yùn)行此面部識(shí)別技術(shù)時(shí)可能具有侵略性。同時(shí)，它指出整個(gè)白宮已經(jīng)成為一個(gè)“高度監(jiān)控化的區(qū)域”，平民可以選擇回避該敏感區(qū)域。當(dāng)時(shí)，ACLU公開(kāi)表示，雖然白宮區(qū)域的監(jiān)控，看似應(yīng)用范圍狹窄，但它打開(kāi)了一個(gè)潘多拉盒子。即在公共場(chǎng)所對(duì)普通平民大眾進(jìn)行毫無(wú)理由的審查，跨越了隱私保護(hù)的邊界線。

目前，美國(guó)國(guó)土安全部門(mén)（美國(guó)特工處在其中參與）已經(jīng)將面部識(shí)別技術(shù)用于掃描國(guó)內(nèi)、國(guó)際航班上的乘客。該計(jì)劃可能將在未來(lái)幾年覆蓋到美國(guó)境內(nèi)更多的機(jī)場(chǎng)。與此同時(shí)，美國(guó)一部分公安機(jī)構(gòu)利用亞馬遜的面部識(shí)別工具RekogniTIon，實(shí)時(shí)地掃描視頻鏡頭中的圖像。例如，華盛頓警務(wù)室，奧蘭多市作為試點(diǎn)，近期進(jìn)行了RekogniTIon第二次測(cè)試。

今年1月3日，Nextgov披露美國(guó)聯(lián)邦調(diào)查局正在試用亞馬遜面部匹配軟件RekogniTIon，用于反恐調(diào)查。有消息稱，2018年夏天，亞馬遜就向移民和海關(guān)執(zhí)法人員提供了RekogniTIon軟件。亞馬遜現(xiàn)為美國(guó)政府最重要的云技術(shù)AWS提供商，中央情報(bào)局、國(guó)防部都是其客戶。但其面部識(shí)別軟件在政府以及社會(huì)公共部門(mén)使用的詳細(xì)情況并不被外界所知。

面部識(shí)別技術(shù)受到了來(lái)自民間團(tuán)體、社會(huì)輿論，以及監(jiān)管、立法機(jī)構(gòu)的激烈反應(yīng)，美國(guó)立法委員多次致信亞馬遜，要求提供關(guān)于亞馬遜Rekognition的更多信息。信中提到，“非常擔(dān)憂，該產(chǎn)品存在嚴(yán)重的準(zhǔn)確性問(wèn)題，給有色人種帶來(lái)打破平衡的精神負(fù)擔(dān)，并扼殺美國(guó)人在公眾場(chǎng)合行使第一修正法案中的權(quán)利?！币环矫?，面部識(shí)別技術(shù)巨頭加緊布局、侵入社會(huì)各個(gè)領(lǐng)域的應(yīng)用、機(jī)構(gòu)中。另一方面，巨頭內(nèi)部、巨頭之間對(duì)面部識(shí)別技術(shù)的態(tài)度，也頗為猶豫、曖昧，矛盾重重。

近期，谷歌、微軟承認(rèn)涉及面部識(shí)別服務(wù)存在的風(fēng)險(xiǎn)，以及被別有用心者濫用和監(jiān)視的可能性。特別是，去年12月，谷歌宣布在該技術(shù)漏洞不能被有效制止之前，將不會(huì)對(duì)外出售Vision API。微軟總裁布拉德·史密斯Brad Smith提出了一些保護(hù)性措施，以防止其被濫用。包括國(guó)會(huì)通過(guò)法律限制技術(shù)被濫用，具體而言，例如，減少偏見(jiàn)，必須通過(guò)法院的允許才可以進(jìn)行個(gè)人跟蹤。

去年年底，微軟總裁布拉德·史密斯Brad Smith在布魯金斯學(xué)會(huì)的演講中表示了擔(dān)憂：

我們認(rèn)為，2019年政府必須開(kāi)始通過(guò)法律來(lái)規(guī)范這項(xiàng)技術(shù)。面部識(shí)別技術(shù)已經(jīng)從充滿邪惡的盒子中出現(xiàn)。除非我們采取行動(dòng)，否則五年之后，當(dāng)我們覺(jué)醒過(guò)來(lái)。將會(huì)發(fā)現(xiàn)面部識(shí)別服務(wù)加劇了社會(huì)負(fù)面問(wèn)題的傳播，到那時(shí)，這些挑戰(zhàn)將會(huì)變得更加困難。

我們并不認(rèn)為企業(yè)可以通過(guò)商業(yè)競(jìng)爭(zhēng)，更好地服務(wù)于世界?？萍脊颈黄仍谏鐣?huì)責(zé)任與市場(chǎng)成功之間作出選擇。防止惡性競(jìng)爭(zhēng)的唯一方法是建立一個(gè)有效健康的市場(chǎng)責(zé)任制平臺(tái)。堅(jiān)實(shí)地要求企業(yè)確保該項(xiàng)技術(shù)開(kāi)發(fā)和使用受到法律的制約。

相比之下，微軟CEO薩提·亞納德拉Satya Nadella表達(dá)地更為直接，“一些技術(shù)一旦遭到濫用，將對(duì)社會(huì)造成很大的危害，政府應(yīng)該對(duì)其進(jìn)行監(jiān)管”，“面部識(shí)別技術(shù)太可怕了，絕對(duì)是一場(chǎng)徹頭徹尾的不良競(jìng)爭(zhēng)”，“以競(jìng)爭(zhēng)的名義，做任何沒(méi)有界限的交易，對(duì)行業(yè)或者整個(gè)社會(huì)都不會(huì)帶來(lái)好的結(jié)果?！边@番話語(yǔ)既指向了自身，也對(duì)準(zhǔn)了其競(jìng)爭(zhēng)對(duì)手亞馬遜，表達(dá)了對(duì)Rekognition的強(qiáng)烈不滿。

人臉識(shí)別為何引起如此大的爭(zhēng)議？首先，涉及準(zhǔn)確率的問(wèn)題，面部識(shí)別系統(tǒng)可能出現(xiàn)重大的錯(cuò)誤。去年的一次測(cè)試中，系統(tǒng)錯(cuò)誤地將28名國(guó)會(huì)議員與數(shù)據(jù)庫(kù)中的搶劫犯匹配成功。盡管后期被人工糾正，但當(dāng)工具范圍擴(kuò)大，在一定程度上，導(dǎo)致一些人在短期內(nèi)被當(dāng)作通緝犯。

特別是，辨別有色人種時(shí)，容易產(chǎn)生較大的誤差。背后的原因在于，不同人種采用的數(shù)據(jù)模型、算法是不同的，需要分開(kāi)部署。《紐約時(shí)報(bào)》曾經(jīng)報(bào)道，麻省理工學(xué)院媒體實(shí)驗(yàn)室對(duì)微軟、IBM、曠視科技人臉識(shí)別系統(tǒng)的試驗(yàn)研究。結(jié)果顯示在有色人種中，三者辨別非白種人的錯(cuò)誤率高達(dá)20%－30%。從而進(jìn)一步加劇社會(huì)種族歧視和偏見(jiàn)等問(wèn)題。

其次，從隱私的角度看，面部識(shí)別技術(shù)涉嫌侵犯?jìng)€(gè)人隱私權(quán)。這種技術(shù)的危害在于，很容易在未經(jīng)許可的情況下，被廣泛的濫用而不被普通人所察覺(jué)，個(gè)人隱私無(wú)所遁形。更為重要的是，一旦面部識(shí)別技術(shù)被用于軍事，將會(huì)帶給社會(huì)帶來(lái)毀滅性的打擊。

2018年4月，谷歌與軍方合作的Maven殺人機(jī)器人項(xiàng)目持續(xù)發(fā)酵，3千多名谷歌員工抗議，數(shù)十名員工請(qǐng)辭。國(guó)際機(jī)器人武器控制委員會(huì)ICRAC向谷歌CEO桑達(dá)爾·皮查伊Sundar Pichai、總裁拉里·佩奇Lawrence Edward Page、黛安·格林Diane Greene、李飛飛呼吁停止該項(xiàng)目，要求谷歌承諾不把該項(xiàng)技術(shù)用于軍事武器。

2017年，網(wǎng)絡(luò)流傳一段關(guān)于微型殺人機(jī)器人的視頻，機(jī)器人體型只有手掌1/2大小，可以輕易逃避人類的捕捉。通過(guò)自身視覺(jué)系統(tǒng)定位目標(biāo)，發(fā)射彈藥或者有毒化學(xué)物質(zhì)，殺害無(wú)辜的平民?；谌斯ぶ悄艿拿娌孔R(shí)別技術(shù)，同時(shí)集合快速定位、無(wú)人智能集群技術(shù)、靈敏傳感器、信息網(wǎng)絡(luò)等多種高端科技技術(shù)。當(dāng)時(shí)這段“模擬”的視頻已經(jīng)成為現(xiàn)實(shí)，早在2016年美國(guó)就將機(jī)器人用于警方制服犯罪分子，而俄羅斯也被傳出一直秘密地研發(fā)殺人機(jī)器人，用于監(jiān)控和偵測(cè)，并集成爆炸系統(tǒng)用以軍事防御。

除了以上技術(shù)、倫理、政治正確等原因，面部識(shí)別技術(shù)在GDPR準(zhǔn)則下，如何保證有效的數(shù)據(jù)庫(kù)，更好地演進(jìn)技術(shù)，也將成為面部識(shí)別公司們面臨的巨大挑戰(zhàn)。有趣的是，相同的事物在不同的地區(qū)，受到了截然不同的對(duì)待。近年，中國(guó)一直努力地推行復(fù)雜的面部識(shí)別技術(shù)，相關(guān)技術(shù)在安防、金融、日常C端產(chǎn)品中大量落地。相關(guān)數(shù)據(jù)顯示，國(guó)內(nèi)目前監(jiān)控?cái)z像頭安裝數(shù)量已突破兩億，是美國(guó)的四倍之多。

正是由于國(guó)內(nèi)對(duì)“新鮮事物”的包容心態(tài)，以及普通民眾對(duì)安全性的高需求，使得面部識(shí)別技術(shù)得以順利迅速地落地、推廣。就像國(guó)內(nèi)在移動(dòng)支付領(lǐng)域的“后發(fā)優(yōu)勢(shì)”，既有其特殊的歷史背景，又有民眾樂(lè)于嘗試先進(jìn)科技的好奇心所驅(qū)動(dòng)。