歐盟AI監(jiān)管再收緊，公共場(chǎng)所人臉識(shí)別或全面被禁

本文來源：新智元

近日，歐洲議會(huì)投票通過決議，呼吁全面禁止基于AI生物識(shí)別技術(shù)的大規(guī)模監(jiān)控。

此次決議呼吁全面禁止在公共場(chǎng)所進(jìn)行自動(dòng)面部識(shí)別，并對(duì)警方使用AI進(jìn)行預(yù)測(cè)性警務(wù)活動(dòng)實(shí)施嚴(yán)格限制措施。歐洲議會(huì)以 377 票贊成、248 票反對(duì)、62 票棄權(quán)的結(jié)果通過了決議。

決議還呼吁禁止使用私人面部識(shí)別數(shù)據(jù)庫，并表示基于行為數(shù)據(jù)的預(yù)測(cè)性警務(wù)活動(dòng)也應(yīng)該被取締。

此外，決議還希望禁止試圖根據(jù)公民的行為或個(gè)性，對(duì)公民的信用進(jìn)行評(píng)分的社會(huì)評(píng)分系統(tǒng)。

對(duì)于遠(yuǎn)程生物特征監(jiān)測(cè)的AI技術(shù)，委員會(huì)在報(bào)告中呼吁：?

「……通過立法和非立法手段，必要時(shí)通過侵權(quán)訴訟，禁止出于執(zhí)法目的生物識(shí)別數(shù)據(jù)處理，包括通過面部圖像識(shí)別，在公共場(chǎng)所進(jìn)行大規(guī)模監(jiān)視?！?/p>

歐洲議會(huì)成員Petar Vitanov在決議通過后的聲明中表示：?

「人類的基本權(quán)利是無條件的。我們有史以來第一次呼吁暫停部署用于執(zhí)法的面部識(shí)別系統(tǒng)，因?yàn)樵摷夹g(shù)已被證明是無效的，并且經(jīng)常導(dǎo)致歧視性結(jié)果。這份報(bào)告對(duì)所有歐洲公民來說都是一個(gè)巨大的勝利?！?/p>

從分級(jí)到全面禁止，歐盟「緊箍咒」越來越緊

實(shí)際上，早在今年4 月，歐盟提出防范和監(jiān)管AI技術(shù)高風(fēng)險(xiǎn)應(yīng)用的草案，名為「人工智能行業(yè)監(jiān)管草案」，其內(nèi)容就包括「原則上禁止」在公共場(chǎng)合使用遠(yuǎn)程生物識(shí)別監(jiān)控技術(shù)。

這個(gè)草案實(shí)際上為人工智能引入一個(gè)全面的監(jiān)管框架。其中一項(xiàng)措施是禁止在公共場(chǎng)所進(jìn)行遠(yuǎn)程生物識(shí)別（例如面部識(shí)別），除非它被用于處理重大犯罪，包括恐怖主義和綁架。

該案將人工智能應(yīng)用場(chǎng)景分為「低、有限、高、不可接受」四個(gè)風(fēng)險(xiǎn)等級(jí)，等級(jí)越高的應(yīng)用場(chǎng)景受到的限制越嚴(yán)格。

關(guān)于人工智能最受爭(zhēng)議的細(xì)分領(lǐng)域——人臉識(shí)別，以及所有遠(yuǎn)距離生物識(shí)別系統(tǒng)都被認(rèn)定為高風(fēng)險(xiǎn)，并禁止執(zhí)法部門在公共場(chǎng)合使用這一技術(shù)，除非發(fā)生兒童失蹤、恐怖襲擊、甄別犯罪分子等情況，上述情況也需得到司法部門授權(quán)。

聊天機(jī)器人等應(yīng)用屬于有限風(fēng)險(xiǎn)。這些應(yīng)用需要讓用戶知曉自己在與機(jī)器互動(dòng)，并有權(quán)決定是否繼續(xù)或退出該進(jìn)程。

基于人工智能的電子游戲、垃圾郵件識(shí)別屬于低風(fēng)險(xiǎn)，低風(fēng)險(xiǎn)應(yīng)用占目前歐盟人工智能應(yīng)用的絕大部分。對(duì)上述應(yīng)用不做約束。

早在2016年，歐盟的《通用數(shù)據(jù)保護(hù)條例》（GDPR）已對(duì)此有所限制，GDPR對(duì)生物數(shù)據(jù)的處理，遵循「原則禁止、特殊例外」的原則。數(shù)據(jù)控制者可援引「數(shù)據(jù)主體的同意」作為個(gè)人生物數(shù)據(jù)處理的例外，但該同意必須是「自由給予、明確、具體、不含混」的。

短短數(shù)年，歐盟對(duì)AI技術(shù)應(yīng)用，尤其是大規(guī)模人臉識(shí)別技術(shù)，就經(jīng)歷了從明確分級(jí)、到嚴(yán)格限制，再到全面禁止的過程。

近日通過的這個(gè)決議無疑表明，對(duì)AI技術(shù)，尤其是人臉識(shí)別技術(shù)的更嚴(yán)格的監(jiān)管框架已經(jīng)建立。

無論AI如何建議，最終必須由人來拍板

此次決議還針對(duì)AI算法強(qiáng)調(diào)了人類監(jiān)督，以防止人工智能的歧視——尤其是在執(zhí)法和過境檢查方面的應(yīng)用。

歐洲議會(huì)同意，無論AI輔助系統(tǒng)的建議如何，最終的決定必須始終由人類做出，并表示由人工智能驅(qū)動(dòng)的系統(tǒng)監(jiān)控的對(duì)象必須能夠獲得補(bǔ)救。

歐洲議會(huì)議員指出，這類系統(tǒng)已被證明會(huì)錯(cuò)誤識(shí)別少數(shù)族裔群體、LGBT人群、老年人和女性。算法應(yīng)該透明、可追溯并有充分的記錄。公共部門盡可能使用開源軟件，以提高透明度。

歐洲議會(huì)議員還針對(duì)一項(xiàng)有爭(zhēng)議的歐盟資助的研究項(xiàng)目——基于面部表情分析結(jié)果的「智能測(cè)謊儀」項(xiàng)目iBorderCtrl 應(yīng)該停止，該項(xiàng)目此前被用于自動(dòng)化邊境管理系統(tǒng)。

決議還呼吁禁止人工智能協(xié)助司法決策，這可能會(huì)鞏固和擴(kuò)大刑事司法系統(tǒng)中的系統(tǒng)性偏見。

怎么管好人臉識(shí)別？國內(nèi)外都難辦

實(shí)際上，這并不是人臉識(shí)別技術(shù)首次被禁了。

2019年，美國有9個(gè)州都頒布了關(guān)于禁用人臉識(shí)別技術(shù)的法案，嚴(yán)禁警察、政府部門以及在公共場(chǎng)所使用人臉識(shí)別技術(shù)。舊金山成為美國第一個(gè)禁止警察和其他政府官員使用人臉識(shí)別的大城市。在接下來的幾個(gè)月內(nèi)，奧克蘭和伯克利等地也通過了類似的法律。

許多技術(shù)公司，如IBM、亞馬遜、谷歌等，此前也曾暫?；蚍艞壛巳四樧R(shí)別相關(guān)業(yè)務(wù)。

類似問題在國內(nèi)也同樣存在。今年央視315晚會(huì)就曾曝光，科勒衛(wèi)浴等廠商在旗下衛(wèi)浴門店安裝人臉識(shí)別攝像頭，存在收集人臉數(shù)據(jù)的問題。嚴(yán)重侵犯?jìng)€(gè)人隱私，給個(gè)人數(shù)據(jù)安全帶來重大威脅。

國家市場(chǎng)監(jiān)管總局發(fā)布的《個(gè)人信息安全規(guī)范》明確規(guī)定，人臉信息屬于生物識(shí)別信息，也屬于個(gè)人敏感信息，收集個(gè)人信息時(shí)應(yīng)獲得個(gè)人信息主體的授權(quán)同意。

今年1月1日正式實(shí)施的《民法典》中規(guī)定，處理個(gè)人信息，應(yīng)征得該自然人或者其監(jiān)護(hù)人同意。

4月23日，國家標(biāo)準(zhǔn)化管理委員會(huì)發(fā)布《信息安全技術(shù)人臉識(shí)別數(shù)據(jù)安全要求》征求意見稿，對(duì)人臉識(shí)別技術(shù)應(yīng)用場(chǎng)景、安全要求、數(shù)據(jù)采集和處理等環(huán)節(jié)制定了標(biāo)準(zhǔn)化規(guī)范，彌補(bǔ)了相關(guān)法規(guī)和標(biāo)準(zhǔn)的缺失。

面對(duì)AI技術(shù)的日新月異，未來如何在充分利用人臉識(shí)別技術(shù)的同時(shí)，保障數(shù)據(jù)安全和個(gè)人隱私，依然有待探索。

~END~