細(xì)思恐極的AI技術(shù)與大數(shù)據(jù)是否值得人類足夠的擔(dān)憂

 談到人工智能，有人會(huì)覺得它的出現(xiàn)會(huì)造福全人類，例如Facebook的CEO馬克·扎克伯格。當(dāng)然，也有人持反面觀點(diǎn)，例如伊隆·馬斯克、史蒂芬·霍金，他們認(rèn)為人工智能發(fā)展到某種程度后，可能就會(huì)像好萊塢大片里的劇情一樣，威脅全人類。

那些持反面觀點(diǎn)的人，到底在怕什么？有證據(jù)么？今天，我們盤點(diǎn)一期那些讓人細(xì)思恐極的AI技術(shù)，來(lái)看看人工智能是否值得引起人類足夠的擔(dān)憂。

01 攝像頭監(jiān)控情緒，鑒別罪犯和性取向

近年來(lái)得益于深度學(xué)習(xí)的迅速發(fā)展，人臉識(shí)別領(lǐng)域取得了重大進(jìn)展。開發(fā)者可以基于神經(jīng)網(wǎng)絡(luò)讓機(jī)器模擬出人類大腦的學(xué)習(xí)過(guò)程，并通過(guò)卷積神經(jīng)網(wǎng)絡(luò)模型和海量的圖片數(shù)據(jù)進(jìn)行訓(xùn)練，使生物識(shí)別從以前70%、80%的準(zhǔn)確率提升至近幾年的99.6%甚至99.7%，具備商用條件。

于是，“刷臉”成為了熱詞，人臉識(shí)別技術(shù)不斷進(jìn)入大眾視野，在人們衣食住行的各個(gè)領(lǐng)域發(fā)力，迎來(lái)運(yùn)用的“井噴期”，其中，金融和安防等行業(yè)成為應(yīng)用“先鋒”領(lǐng)域。隨著人臉識(shí)別技術(shù)的商用場(chǎng)景不斷擴(kuò)充，市場(chǎng)潛力巨大，資本嗅到商機(jī)紛紛涌入。

但隨著人臉識(shí)別技術(shù)的不斷成熟與普及，這項(xiàng)技術(shù)也逐漸讓人覺得細(xì)思恐極。

首先，人臉特征與指紋、虹膜相比，是一個(gè)具有弱隱私的生物特征。例如，很多人都會(huì)發(fā)自拍照，也是相對(duì)公開的特征。如何保證用戶數(shù)據(jù)安全尤為關(guān)鍵。

據(jù)媒體報(bào)道，在一個(gè)名為“你的臉就是大數(shù)據(jù)”的項(xiàng)目中，俄羅斯攝影師葉戈?duì)?middot;茨韋特科夫在圣彼得堡用了6周時(shí)間拍攝100名地鐵乘客的人臉照片，之后利用人臉識(shí)別工具比對(duì)俄羅斯最大社交網(wǎng)站VK(VKontakte)上的5500萬(wàn)用戶，找到了大約70名乘客的個(gè)人資料。

因此，在如今公共場(chǎng)合遍布攝像頭、各種手機(jī)APP具備人臉識(shí)別功能的環(huán)境中，如何確保收集用戶數(shù)據(jù)的部門和企業(yè)有效保障數(shù)據(jù)安全是非常令人擔(dān)憂的事情。

其次，人臉識(shí)別技術(shù)存在濫用現(xiàn)象。如果說(shuō)在大街小巷安裝攝像頭、在火車站機(jī)場(chǎng)采用人臉識(shí)別技術(shù)是出于公共安全考慮，那么在學(xué)校課堂采用人臉監(jiān)控則引發(fā)大家的不適情緒了。

據(jù)媒體報(bào)道，杭州某中學(xué)將一款名為“智慧課堂行為管理系統(tǒng)”的科技應(yīng)用于課堂教學(xué)。該系統(tǒng)在學(xué)生上課起立時(shí)，幾秒鐘便可完成點(diǎn)名，用刷臉代替?zhèn)鹘y(tǒng)意義上的口頭點(diǎn)名和刷卡。

此外，該系統(tǒng)每隔30秒會(huì)進(jìn)行一次掃描，針對(duì)學(xué)生們閱讀、舉手、書寫、起立、聽講、趴桌子等6種行為，再結(jié)合面部表情是高興、傷心，還是憤怒、反感，分析出學(xué)生們?cè)谡n堂上的狀態(tài)。

該消息一經(jīng)報(bào)道，立刻引起網(wǎng)絡(luò)爭(zhēng)議。支持者認(rèn)為，這種行為沒有問題，畢竟一切是為了孩子的前途。反對(duì)者則認(rèn)為，科技是用來(lái)服務(wù)人的，而不是監(jiān)視人的。對(duì)學(xué)生上課行為實(shí)施全程監(jiān)控，侵犯了學(xué)生隱私，增加了學(xué)生的壓力，況且用同一個(gè)標(biāo)準(zhǔn)監(jiān)視學(xué)生對(duì)學(xué)生來(lái)說(shuō)也不公平。

或許，總會(huì)有一些家長(zhǎng)們?cè)诿鎸?duì)孩子學(xué)習(xí)情況時(shí)變身虎爸虎媽嚴(yán)苛無(wú)比，但當(dāng)他們自身經(jīng)歷被無(wú)處不在的攝像頭監(jiān)控并識(shí)別情緒、分析心理活動(dòng)時(shí)，就另當(dāng)別論了。此前百度宣布要推出一款基于人臉識(shí)別的社交軟件，能夠幫助戀愛小白識(shí)別對(duì)象的情緒，從而做出相應(yīng)舉動(dòng)。如果這項(xiàng)功能真的很成熟，這恐怕并非有助于戀愛，而是讓人感到害怕了。

試想一下，甲方爸爸教你學(xué)做人，你面帶微笑洗耳恭聽，這時(shí)對(duì)方拿出攝像頭企圖判斷你是否正在腹誹；你成為被告站在法庭上為自己辯護(hù)，來(lái)自各個(gè)方向的大大小小的攝像頭對(duì)準(zhǔn)你，記錄你每一個(gè)細(xì)微表情，分析你是否撒謊；或者中美貿(mào)易代表團(tuán)談判時(shí)，雙方都拿出攝像頭來(lái)試探對(duì)方底線……

這將是一個(gè)“老大哥正在看著你”的世界，人人企圖窺探別人內(nèi)心，人人也害怕被窺探到真實(shí)情緒。

除了AI技術(shù)識(shí)別情緒令人害怕，其他遭人非議的還有鑒定性取向、識(shí)別罪犯、政治傾向等。這種除了涉及到嚴(yán)重侵犯?jìng)€(gè)人隱私權(quán)的問題，還有可能由于算法存在偏見導(dǎo)致鑒定結(jié)果出現(xiàn)偏差。如果將這種不加修正和制約的AI技術(shù)作為參考依據(jù)，將會(huì)為全球因意識(shí)形態(tài)、宗教信仰不同所造成的摩擦斗爭(zhēng)火上澆油。

02 麥克風(fēng)偷聽用戶講話、監(jiān)聽手機(jī)打字

“我的命，我自己操盤”，這是《竊聽風(fēng)云2》中的經(jīng)典臺(tái)詞，但現(xiàn)實(shí)生活中，我們可能連自己手機(jī)的麥克風(fēng)都操盤不了。

你遇到過(guò)這樣的情況嗎？剛說(shuō)了想吃什么，手機(jī)里就蹦出了它的推薦；剛說(shuō)了要買什么，就出現(xiàn)了精準(zhǔn)推送的廣告。由于有多名用戶反映類似情況，有記者專門耗時(shí)3個(gè)多月，通過(guò)模擬用戶使用場(chǎng)景，對(duì)安卓手機(jī)、蘋果手機(jī)、蘋果平板電腦上的餓了么和美團(tuán)外賣進(jìn)行多輪測(cè)試。從測(cè)試情況來(lái)看，在隨后數(shù)分鐘到數(shù)小時(shí)的時(shí)間里，出現(xiàn)相關(guān)推薦的概率高達(dá)60%-70%。

盡管餓了么和美團(tuán)均否認(rèn)“監(jiān)聽用戶日常對(duì)話并做信息分析”，目前也沒有任何證據(jù)能夠證明APP通過(guò)麥克風(fēng)偷聽用戶講話，不過(guò)亞馬遜智能音箱Echo被爆“偷聽”用戶對(duì)話已是證據(jù)確鑿。

除了此前有Echo偷聽用戶談話，并將談話內(nèi)容發(fā)給其他聯(lián)系人的新聞傳出，最近亞馬遜還被彭博社爆出擁有千人監(jiān)聽團(tuán)隊(duì)，他們?nèi)斯ぢ犎『蜋z查用戶和智能語(yǔ)音助手Alexa的私人對(duì)話，目的是幫助Alexa改進(jìn)語(yǔ)音識(shí)別技術(shù)。

報(bào)道稱，有時(shí)候，參與其中的工作人員會(huì)聽到用戶私人的聲音片段，如一個(gè)女人洗澡時(shí)嚴(yán)重走調(diào)的歌聲，或者一個(gè)孩子尖叫著尋求幫助。還有兩名員工甚至稱，他們聽到過(guò)他們認(rèn)為是性侵案的聲音。當(dāng)這種事情發(fā)生時(shí)，他們會(huì)在內(nèi)部聊天室說(shuō)出來(lái)解壓。

盡管亞馬遜發(fā)言人辯解他們只會(huì)注釋極小一部分的Alexa錄音樣本，幫助訓(xùn)練語(yǔ)音識(shí)別和自然語(yǔ)言理解系統(tǒng)的信息，目的是為了改善用戶體驗(yàn)，“我們有嚴(yán)格的技術(shù)和操作保障，對(duì)濫用我們系統(tǒng)的行為采取零容忍政策。員工在工作流程中無(wú)法直接訪問能辨別用戶和賬號(hào)的信息。我們使用多重驗(yàn)證來(lái)限制訪問，對(duì)服務(wù)加密，審計(jì)我們的工作環(huán)境，以對(duì)所有信息高度保密。”

但亞馬遜在其宣傳和隱私政策的材料中，沒有明確表明Alexa獲取的一些對(duì)話錄音是人工來(lái)聽，只是在常見問題解答列表中提到了一句“我們使用您對(duì)Alexa的命令來(lái)訓(xùn)練我們的語(yǔ)音識(shí)別和自然語(yǔ)言理解系統(tǒng)”。Alexa的隱私設(shè)置中，公司給用戶提供了禁用錄音開發(fā)新功能的選項(xiàng)。

彭博社看到的截圖顯示，發(fā)送給工作人員的Alexa錄音沒有提供用戶的全名和地址，但與用戶的賬戶號(hào)、名稱和設(shè)備序列號(hào)相關(guān)聯(lián)。

除了Alexa，依賴人類員工填補(bǔ)算法空白的，還有谷歌、Siri。早在 2014 年，谷歌 Chrome 瀏覽器就被曝出其語(yǔ)音識(shí)別功能存在漏洞，或?qū)⒅率褂脩舻碾娔X麥克風(fēng)長(zhǎng)期被黑客監(jiān)聽。即使不是被黑客監(jiān)聽，Chrome 也一直被很多人質(zhì)疑通過(guò)麥克風(fēng)竊聽用戶談話，并通過(guò)談話內(nèi)容向用戶推薦相應(yīng)的廣告。

由此可見，那些需要進(jìn)行訓(xùn)練語(yǔ)音識(shí)別和自然語(yǔ)言理解系統(tǒng)的軟/硬件都存在竊聽的可能，麥克風(fēng)的安全隱患并不比攝像頭所帶來(lái)的小。并且，隨著科技的進(jìn)步，這種竊聽行為已達(dá)到細(xì)思恐極的地步。

不久前，媒體報(bào)道劍橋大學(xué)的一個(gè)科研團(tuán)隊(duì)通過(guò)手機(jī)的內(nèi)置麥克風(fēng)，搭配AI算法，就能讓輸入的每一個(gè)字處于監(jiān)聽狀態(tài)，哪怕是觸摸屏手機(jī)。

和大眾所了解的常識(shí)不同，事實(shí)上，即使是在觸摸屏上輕悄悄地操作，手指的每一次輕微的敲擊都會(huì)產(chǎn)生聲波。當(dāng)戳擊屏幕不同位置時(shí)，聲波信息也會(huì)有相應(yīng)的變化，這些信息恰巧可以被手機(jī)內(nèi)置的麥克風(fēng)捕捉到。

于是研究人員利用這個(gè)特點(diǎn)，開發(fā)了一個(gè)手機(jī)惡意應(yīng)用程序，當(dāng)這個(gè)程序被植入手機(jī)時(shí)，能夠調(diào)動(dòng)內(nèi)置麥克風(fēng)，讓其秘密開始工作，記錄下觸摸時(shí)的聲波信息。隨后，科學(xué)家們收集了聲波形狀與觸摸位置的對(duì)應(yīng)信息，訓(xùn)練出了一個(gè)AI模型，還原輸入內(nèi)容。

至此，作案流程已經(jīng)基本成型：惡意程序悄悄啟動(dòng)→悄悄捕捉輸入密碼時(shí)的聲波→AI模型預(yù)測(cè)手指對(duì)應(yīng)在屏幕的位置→還原輸入的密碼和信息。

AI伙同麥克風(fēng)，分工明確，里應(yīng)外合，井然有序地就能將你的隱私偷走。并且，隨著科學(xué)進(jìn)一步研究，目前能夠具備監(jiān)聽功能的遠(yuǎn)不只是麥克風(fēng)。

例如利用硬盤監(jiān)聽。硬盤工作的時(shí)候，主軸高速運(yùn)轉(zhuǎn)帶動(dòng)盤片，上面的磁頭會(huì)感應(yīng)盤片上的磁場(chǎng)變化，通過(guò)改變磁場(chǎng)，來(lái)寫入數(shù)據(jù)。這個(gè)過(guò)程非常精細(xì)。只要受到外部的聲波沖擊，磁頭就會(huì)發(fā)生偏移。硬盤的位置傳感器，產(chǎn)生的電壓信號(hào)里就會(huì)體現(xiàn)出這個(gè)偏移。然后，科學(xué)家會(huì)利用AI來(lái)分析這個(gè)細(xì)小的偏移，以此還原人類說(shuō)的話。

此外，科學(xué)家還認(rèn)為薯片包裝袋、鋁箔、水杯甚至盆栽植物，只要能受到聲波干擾的物體，便能變成監(jiān)聽工具。盡管這些方法尚在研究階段，但也足以讓人擔(dān)心。

03 智能機(jī)器人騷擾電話+大數(shù)據(jù)營(yíng)銷+探針盒子非法獲取用戶隱私

在今年的315晚會(huì)上，央視曝光了“機(jī)器人撥打騷擾電話+逃避監(jiān)管的特殊方法+惡意收集的隱私大數(shù)據(jù)”的一條龍產(chǎn)業(yè)，情況令人觸目驚心。

晚會(huì)報(bào)道稱，目前，屢禁不絕的騷擾電話部分是由機(jī)器人在撥打，而這類外呼機(jī)器人僅花費(fèi)3000元就能從一些高科技企業(yè)那買到。相較于人工一天最多撥出三五百個(gè)電話，機(jī)器人可以不休不眠地打電話，一天能打出幾千個(gè)。例如被央視曝光的某企業(yè)負(fù)責(zé)人就承認(rèn)，他們公司機(jī)器人在一年多時(shí)間里撥打出去的騷擾電話已經(jīng)超過(guò)40億。

AI電話機(jī)器人的工作原理很簡(jiǎn)單，就是將原始聲波轉(zhuǎn)為文字，然后電腦通過(guò)關(guān)鍵詞自動(dòng)識(shí)別語(yǔ)義，在話術(shù)庫(kù)中匹配到話術(shù)，然后播放出來(lái)。每套系統(tǒng)均被設(shè)定有總流程，一旦總流程走完，機(jī)器人將自動(dòng)掛斷電話。

目前，市場(chǎng)上常見電話機(jī)器人的總流程大致可分為介紹服務(wù)、信息問詢、索取聯(lián)系方式三個(gè)部分。由于基本話術(shù)有限，所以機(jī)器人不可能解答出所有被提問到的問題。對(duì)于機(jī)器人未能回答的問題，會(huì)被系統(tǒng)按照序號(hào)記錄下來(lái)，當(dāng)把對(duì)這些問題的解答錄音導(dǎo)入系統(tǒng)后，機(jī)器人再被問到相同問題就可以答復(fù)出來(lái)。

此外，AI電話機(jī)器人還可以在一定程度上識(shí)別人類聲音，迅速做出判斷，按照劇本引導(dǎo)用戶進(jìn)行對(duì)應(yīng)操作，并借助大數(shù)據(jù)識(shí)別過(guò)濾能力，篩選出更精準(zhǔn)的目標(biāo)用戶，這意味著AI電話呼叫有可能會(huì)朝著越來(lái)越垂直的方向發(fā)展。目前，AI電話營(yíng)銷機(jī)器人備受貸款、股票行業(yè)的青睞。

至于為何這種電銷公司如此猖狂、難以查封，則是因?yàn)橐恍C(jī)器人研發(fā)公司通過(guò)一種“硬件透?jìng)?rdquo;的方法將騷擾電話的記錄徹底隱藏，讓監(jiān)管部門也無(wú)據(jù)可查。

用機(jī)器人撥打騷擾電話，加上逃避監(jiān)管的特殊方法，一些外呼公司的外呼量大幅增加，那如何獲取更多號(hào)碼資源呢？

央視揭露，目前市場(chǎng)上存在一類名為“探針盒子”的產(chǎn)品，大小同充電寶一般。當(dāng)用戶手機(jī)無(wú)線局域網(wǎng)處于打開狀態(tài)時(shí)，會(huì)向周圍發(fā)出尋找WiFi的信號(hào)，“探針盒子”發(fā)現(xiàn)這個(gè)信號(hào)后，就能迅速識(shí)別出用戶手機(jī)的MAC地址。盒子采集到手機(jī)里面的MAC地址，自動(dòng)轉(zhuǎn)換成IMEI號(hào)，再轉(zhuǎn)換成手機(jī)號(hào)碼。

搜集附近用戶手機(jī)號(hào)碼、撥打騷擾電話只是探針盒子的功能之一，3·15晚會(huì)上還曝光了不少科技公司推出的類似產(chǎn)品。

例如璧合科技的招財(cái)喵、智子信息科技的智子盒子，不僅可以收集用戶手機(jī)號(hào)碼，甚至可以對(duì)用戶進(jìn)行精準(zhǔn)畫像，曝光的個(gè)人信息包括性別、年齡、婚姻狀況、學(xué)歷甚至于薪資。一些公司將這種產(chǎn)品放在商場(chǎng)、超市、便利店、寫字樓等地，在用戶毫不知情的情況下，搜集個(gè)人信息。

至于這些盒子背后的大數(shù)據(jù)，主要來(lái)源于用戶手機(jī)上所安裝的一些軟件。通常，我們?cè)诎惭b一個(gè)APP時(shí)，第一步跳出的是用戶服務(wù)條例。如果需要安裝這個(gè)APP，必須得點(diǎn)擊同意這個(gè)服務(wù)條例才能安裝。隨后，APP會(huì)要求開通權(quán)限，例如是否允許訪問通訊錄、手機(jī)文件夾、訪問麥克風(fēng)、攝像頭等。在你點(diǎn)擊允許之后，當(dāng)你使用APP時(shí)候會(huì)產(chǎn)生用戶數(shù)據(jù)，而這些數(shù)據(jù)可以用作商業(yè)營(yíng)銷用途。

為了能正常使用App，用戶只能同意被獲取個(gè)人號(hào)碼等信息，然而在用戶不知情的情況下，這些個(gè)人信息卻變成了一些企業(yè)的牟利工具，被房地產(chǎn)、貸款、教育培訓(xùn)等第三方公司，用作撥打騷擾電話等商業(yè)營(yíng)銷用途。

通過(guò)盤點(diǎn)我們發(fā)現(xiàn)，那些讓人細(xì)思恐極的AI技術(shù)，最令人害怕的地方都在于隱私泄露而大家毫不知情（萬(wàn)分慶幸AI軍事化被聯(lián)名抵制）。我們生活在一個(gè)安全感和信任感逐漸崩塌的時(shí)代，除了對(duì)衣食住行的安全需求，在這個(gè)信息化時(shí)代，個(gè)人信息的泄露同樣讓人失去安全感。

李彥宏曾在某論壇上表示中國(guó)人對(duì)隱私問題沒那么敏感，很多情況下愿意用隱私交換便捷性。這句話之所以引起眾人憤慨，是因?yàn)榈昧吮阋诉€賣乖。

事實(shí)上，用戶們?cè)诨ヂ?lián)網(wǎng)上“裸奔”全都是出于無(wú)奈。因?yàn)閹缀跛械幕ヂ?lián)網(wǎng)應(yīng)用都在盡可能地搜集你的信息、你的社交圈、你的消費(fèi)習(xí)慣、你的個(gè)人愛好，而且明里暗里的重重技術(shù)門檻，讓你防不勝防甚至防也沒用。除非不使用互聯(lián)網(wǎng)，否則你的信息和隱私就無(wú)處隱藏。

科技的進(jìn)步不應(yīng)該讓隱私保護(hù)成為空談，除了相關(guān)法律法規(guī)的完善，或許，我們還可以從歐美科技巨頭的做法中得到啟示。

此前谷歌宣布解散僅成立十天的AI道德委員會(huì)，引發(fā)業(yè)界轟動(dòng)。谷歌解散委員會(huì)是因?yàn)槠渲械牟糠殖蓡T的身份、個(gè)人主張引發(fā)爭(zhēng)議，不少人工智能專家表示反對(duì)，同時(shí)谷歌員工也開始以聯(lián)名信的形式要求剔除該成員。于是谷歌公司宣布在目前的環(huán)境中，人工智能道德委員會(huì)無(wú)法按照他們想要的方式運(yùn)作。所以，決定暫時(shí)關(guān)閉委員會(huì)從頭再來(lái)。

從此次事件可以看出，輿論承擔(dān)著監(jiān)督的作用，強(qiáng)大到不可想象。如果我們每個(gè)人都如此一般注重個(gè)人權(quán)益，注重科技發(fā)展是否遵循倫理道德，抗議科技巨頭無(wú)所顧忌地收集使用個(gè)人數(shù)據(jù)，抗議隱私泄露所造成的負(fù)面影響，即使目前科技發(fā)展的法律法規(guī)和倫理道德規(guī)范難以制定完善，也能消除“李彥宏們”的刻板印象，并讓他們投鼠忌器了。