可怕！你的臉正在成為色情片主角

網(wǎng)絡(luò)上曾出現(xiàn)過(guò)這樣的視頻：一名女子穿著粉色肩膊上衣，坐在床上，露出令人信服的微笑。

那的確是她的臉，但是在她不知情或不同意的情況下，被無(wú)縫地移植到了別人的身體上，而一群不知名的用戶一直在網(wǎng)絡(luò)上傳播著。

她感到惡心和羞恥，如果她的同事看到了怎么辦？她的家人、她的朋友呢？這會(huì)改變他們對(duì)她的看法嗎？他們會(huì)相信這是假的嗎？

“我感到被侵犯了，一種令人討厭的侵犯感。”這名40多歲的女性說(shuō)道。她要求匿名，因?yàn)樗龘?dān)心這段視頻可能會(huì)傷害她的婚姻或事業(yè)?！斑@是一種奇怪的感覺(jué)，你想從互聯(lián)網(wǎng)上撕扯掉一切，但是你知道并不能做到?！?/p>

Airbrush和Photoshop很久以前就可以對(duì)照片進(jìn)行修改。現(xiàn)在，視頻也變得越來(lái)越容易遭到篡改，更致命的是，這些假貨看起來(lái)很像真的。

這些栩栩如生的“深度虛假”視頻在Google開(kāi)發(fā)的強(qiáng)大且廣泛可用的人工智能軟件推動(dòng)下，正在互聯(lián)網(wǎng)上迅速成倍增長(zhǎng)，模糊了真相和謊言之間的界限。

但是，這些視頻也針對(duì)女性被武器化，成為了一種新的侮辱、騷擾和虐待的手段。這些虛假視頻往往非常清晰，被貼在熱門色情網(wǎng)站上，也越來(lái)越難以發(fā)現(xiàn)。

盡管其合法性還沒(méi)有在法庭上得到過(guò)檢驗(yàn)，但專家說(shuō)它們可能會(huì)受到第一修正案的保護(hù)—;—;雖然它們也可能被定性為誹謗、身份盜竊或欺詐。

令人不安的是，無(wú)論是名人還是普通女性，都有可能被盜用面孔。女演員斯嘉麗·約翰遜(“黑寡婦”)表示，她擔(dān)心“任何一個(gè)人成為恐怖偽造的目標(biāo)只是時(shí)間問(wèn)題”。

在過(guò)去的一年里，約翰森的面孔被疊加到了幾十個(gè)圖片性場(chǎng)景中，這些畫面已經(jīng)在網(wǎng)上流傳開(kāi)來(lái)，其中一段被錯(cuò)誤地描述為真實(shí)“泄露”鏡頭的視頻，已經(jīng)在一個(gè)主要色情網(wǎng)站上被觀看了超過(guò)150萬(wàn)次。

她說(shuō)，她擔(dān)心，對(duì)于婦女和兒童來(lái)說(shuō)，保護(hù)自己免受“幾乎無(wú)法無(wú)天的網(wǎng)絡(luò)深淵”傷害已經(jīng)太遲了。

“沒(méi)有什么能阻止不法分子剪切和粘貼我的圖像或者其他人的圖像到不同的身體上，并讓它看起來(lái)像你所希望的那樣逼真，”她說(shuō)，“事實(shí)是，試圖保護(hù)自己免受互聯(lián)網(wǎng)及其墮落的傷害，基本上是一個(gè)失敗的原因?；ヂ?lián)網(wǎng)是一個(gè)巨大的黑暗蟲(chóng)洞，不斷地吞噬著自己。”

今年9月，Google在其禁令名單中增加了“非自愿合成色情圖片”，允許任何人要求該搜索引擎阻止將它們虛假描述為“裸體或露骨色情圖片”的結(jié)果。但是要想解決制造和傳播問(wèn)題并不容易。

越來(lái)越多的深度假貨開(kāi)始針對(duì)遠(yuǎn)離公眾視線的女性，深度假貨討論板上的匿名用戶和私人聊天稱她們?yōu)橥?、同學(xué)和朋友。一些根據(jù)請(qǐng)求制作視頻的用戶表示，價(jià)格正在不斷上漲，目前每件贗品大約20美元。

視頻請(qǐng)求者將這位女性的臉?lè)旁谏眢w上，視頻中匯集了她491張臉的照片，其中許多照片來(lái)自她的Facebook賬戶。他告訴深度假貨網(wǎng)站的其他成員，他“愿意為好作品付費(fèi)?！?/p>

《媒體》的一名記者后來(lái)通過(guò)一個(gè)名為反向圖像搜索的在線工具，運(yùn)行這些照片找到了她，該工具可以定位照片最初共享的位置。

在一個(gè)自稱為“創(chuàng)造者”的團(tuán)隊(duì)提出交付要求兩天之后，一個(gè)不露面的在線觀眾慶祝了這一努力?！昂玫拈_(kāi)始！”請(qǐng)求者寫道。

“這就像一場(chǎng)攻擊，充滿著權(quán)力感和控制感，”加州家庭暴力庇護(hù)所Laura's House的法律總監(jiān)Adam Dodge說(shuō)。Dodge上個(gè)月為警探和治安官代表舉辦了一次培訓(xùn)課程，內(nèi)容是虐待他人的伴侶或配偶會(huì)如何使用深度假貨。Dodge說(shuō)：“這種制作色情作品的能力，讓每個(gè)人都成為了潛在的目標(biāo)?！?/p>

幾十年來(lái)，視頻一直是真實(shí)性的基準(zhǔn)，與容易失真的照片有著明顯的區(qū)別。對(duì)于除了高級(jí)藝術(shù)家和電影制片廠以外的所有人來(lái)說(shuō)，假視頻在技術(shù)上總是過(guò)于復(fù)雜，無(wú)法正確處理。

但是，最近機(jī)器學(xué)習(xí)技術(shù)的突破，讓偽造視頻創(chuàng)作變得比以往任何時(shí)候都更容易獲得，這些技術(shù)被那些競(jìng)相改進(jìn)和完善贗品的創(chuàng)作者所采用。要在幾個(gè)小時(shí)內(nèi)做出一個(gè)有說(shuō)服力的模仿，只需要一臺(tái)電腦和一組強(qiáng)有力的照片，比如數(shù)百萬(wàn)人每天在社交媒體上發(fā)布的照片。

這樣造成的結(jié)果是一種可怕新方式的誕生，從而給不露面的陌生人造成尷尬、苦惱或羞恥?！叭绻闶鞘澜缟献钣憛捙说娜?，”邁阿密大學(xué)法學(xué)教授兼網(wǎng)絡(luò)民權(quán)倡議主席Mary Anne Franks說(shuō)。“這項(xiàng)技術(shù)會(huì)讓你實(shí)現(xiàn)想要的一切?！?/p>

男性出現(xiàn)在這些假冒視頻中幾乎都是玩笑性質(zhì)，比如一個(gè)受歡迎的模仿展示了演員尼古拉斯·凱奇的臉疊加在了特朗普總統(tǒng)的臉上，但虛假女性視頻卻主要都是色情的，暴露了同樣類型的人工智能技術(shù)是如何鼓勵(lì)女性的性客觀化的，要知道這種技術(shù)是可以支撐網(wǎng)絡(luò)的未來(lái)的。

媒體評(píng)論家Anita Sarkeesian因其對(duì)流行文化和視頻游戲的女權(quán)主義批評(píng)而在網(wǎng)上遭到抨擊，今年她被插入到一個(gè)色請(qǐng)視頻中，并被在成人視頻網(wǎng)站Pornhub上觀看了3萬(wàn)多次。

在深度假貨論壇上，匿名發(fā)布者稱，他們很興奮能在她的Twitter和電子郵件賬戶上與她當(dāng)面對(duì)質(zhì)，并分享了她的聯(lián)系信息，并告訴她，他們是如何確保視頻易于獲取并且無(wú)法刪除的。

社交網(wǎng)站Voat上的一名用戶Its-Okay-To-Be-White寫道：“這是我們需要和應(yīng)該得到的深度假貨?！绷硪幻脩鬑ypercyberpastelgooth寫道：“她首先攻擊了我們。她只需要張開(kāi)她那張小嘴?！?/p>

Sarkeesian說(shuō)，這些深度假貨更多地證明了“在互聯(lián)網(wǎng)上做一個(gè)女人是多么可怕，因?yàn)樵诨ヂ?lián)網(wǎng)上，所有這些男人都覺(jué)得有資格擁有女人的身體?！?/p>

Sarkeesian說(shuō)：“對(duì)于那些不知名的人來(lái)說(shuō)，這會(huì)損害你的工作前景、人際關(guān)系、聲譽(yù)和精神健康。它被用作一種武器來(lái)壓制女性，貶低女性，展示對(duì)女性的力量，把我們變成性物品。這不是一個(gè)有趣的游戲，這會(huì)毀掉一個(gè)人的生活。”

“更脆弱”

聲稱深度假貨的人工智能方法起始于一個(gè)簡(jiǎn)單的想法：兩組相對(duì)的深度學(xué)習(xí)算法創(chuàng)造、改進(jìn)和重新創(chuàng)造了一個(gè)越來(lái)越復(fù)雜的結(jié)果。

由Google研究科學(xué)家Ian Goodfellow領(lǐng)導(dǎo)的一個(gè)團(tuán)隊(duì)，在2014年通過(guò)比較偽造者和警察之間的斗爭(zhēng)，引入了這一想法，雙方都在努力“改進(jìn)他們的方法，直到偽造者無(wú)法辨別。

該系統(tǒng)將制作逼真人臉交換視頻繁瑣和耗時(shí)的工作進(jìn)行了自動(dòng)化：找到匹配的面部表情，無(wú)縫替換它們，每秒鐘重復(fù)任務(wù)60次。許多基于Google人工智能庫(kù)的深度偽造工具都是公開(kāi)的，可以免費(fèi)使用。

去年，一名匿名創(chuàng)作者使用在線名稱“深度假貨”，開(kāi)始使用該軟件來(lái)制作像女演員Gal Gadot的換臉色情視頻，并將其發(fā)布到討論板巨頭Reddit上，贏得了廣泛關(guān)注，也引發(fā)了一波模仿浪潮。

這些視頻質(zhì)量參差不齊，許多都很浮華或具有明顯的缺點(diǎn)。但是深度假貨的創(chuàng)造者說(shuō)，這項(xiàng)技術(shù)正在迅速改進(jìn)，從而無(wú)法看出假冒。

雖然深度偽造過(guò)程需要一些技術(shù)訣竅，但最近幾個(gè)月，一個(gè)匿名的網(wǎng)絡(luò)創(chuàng)作者社區(qū)已經(jīng)為感興趣的初學(xué)者排除了許多障礙，他們制作了操作指南，提供了提示和疑難解答建議，并開(kāi)始自己滿足假冒色情的要求。

為了簡(jiǎn)化任務(wù)，深度偽造的創(chuàng)作者通常會(huì)編輯大量的面部圖像，稱為“面部集”，以及他們稱之為“捐獻(xiàn)者身體”的女性性場(chǎng)景視頻。一些創(chuàng)作者使用軟件從視頻和社交媒體帖子中自動(dòng)提取女性的臉部。其他人已經(jīng)嘗試了語(yǔ)音克隆軟件來(lái)產(chǎn)生潛在的令人信服的音頻。

并非所有針對(duì)女性的虛假視頻都依賴色情來(lái)獲取震撼的價(jià)值或政治觀點(diǎn)。今年春天，一段篡改的視頻顯示Parkland學(xué)校槍擊案幸存者Emma González撕毀了憲法。保守主義活動(dòng)人士分享了這段視頻，認(rèn)為這是她背叛美國(guó)的證據(jù)；事實(shí)上，視頻顯示她是在一個(gè)射擊場(chǎng)內(nèi)撕毀了一個(gè)紙質(zhì)的物體。

但是深度假貨在色情作品中的使用出現(xiàn)激增。討論板8chan上的一位創(chuàng)作者制作了一個(gè)四分鐘的深度假貨，展示了一位年輕的德國(guó)化妝博主的臉，這位創(chuàng)作者在她2014年錄制的頭發(fā)教程中提取了成千上萬(wàn)張臉圖像。

Reddit和Pornhub今年禁止了這些視頻，但新的替代品迅速涌現(xiàn)，取代了它們。主要的在線討論板如8chan和Voat的代表沒(méi)有回應(yīng)評(píng)論請(qǐng)求。他們也在經(jīng)營(yíng)著自己的深度假貨論壇，并由于他們的傳播，導(dǎo)致這些視頻也可以在獨(dú)立網(wǎng)站上找到。

一個(gè)深度假貨網(wǎng)站的創(chuàng)建者，由于害怕遭到判決，要求匿名。他說(shuō)他建立10個(gè)月的網(wǎng)站每天接收超過(guò)2萬(wàn)名觀眾，并依靠廣告賺取微薄的利潤(rùn)。他說(shuō)，名人是最吸引流量的工具之一。他補(bǔ)充說(shuō)，他相信名人的名氣以及大量的公開(kāi)畫面，頗有成效地讓他們成為這場(chǎng)游戲的核心。

網(wǎng)站上唯一的規(guī)則是，目標(biāo)必須是18歲及以上的人，并且不能“以負(fù)面方式”進(jìn)行描述，比如圖形暴力或強(qiáng)奸場(chǎng)景。他補(bǔ)充說(shuō)，該網(wǎng)站“只是半監(jiān)管”，依靠用戶自己進(jìn)行監(jiān)管。

一位名為“Cerciusx”的深度假貨創(chuàng)作者表示，他拒絕了有關(guān)非名人的請(qǐng)求，因?yàn)檫@些請(qǐng)求很容易在學(xué)校校園或工作場(chǎng)所傳播，并給一個(gè)人的生活留下疤痕。

然而，許多創(chuàng)作者滿足了這樣的要求，讓一個(gè)女人看起來(lái)“更脆弱”，或者給生活帶來(lái)黑暗的幻想。

“大多數(shù)男人從來(lái)沒(méi)有找到他們的夢(mèng)中情人，”他說(shuō)，“這就是深度假貨盛行的原因?！?/p>

今年4月，印度的一名調(diào)查記者Rana Ayyub被一個(gè)消息來(lái)源提醒注意一段深度假貨性愛(ài)視頻，該視頻顯示了她的臉出現(xiàn)在了一名年輕女性的身上。該視頻在Facebook、Twitter和WhatsApp上得到成千上萬(wàn)人的傳播，有時(shí)還會(huì)伴隨著強(qiáng)奸威脅，她的家庭地址也被泄漏出來(lái)。

34歲的Ayyub說(shuō)，她已經(jīng)忍受了多年的網(wǎng)絡(luò)騷擾，但是深度假貨讓她感覺(jué)不同。當(dāng)她看到時(shí)，她吐了出來(lái)，哭了好幾天，然后匆忙趕到醫(yī)院，焦慮萬(wàn)分。她說(shuō)，在警察局，警察拒絕提交報(bào)告，她甚至可以看到他們?cè)谟^看視頻時(shí)面帶微笑。

“它確實(shí)讓我崩潰了。這是壓倒性的。我能想到的只是我的性格：這就是人們對(duì)我的看法嗎？”她說(shuō)?！斑@比實(shí)際威脅要可怕得多，對(duì)你的思想有持久的影響。沒(méi)有什么能阻止它再次發(fā)生在我身上?！?/p>

身份盜竊

深度假貨的受害者幾乎沒(méi)有反擊的工具。法律專家表示，深度假貨往往難以追查，無(wú)法調(diào)查，并且存在于法律灰色地帶。由于基于公開(kāi)照片，它們實(shí)際上算是新的創(chuàng)作，意味著它們可以作為言論自由受到保護(hù)。

民權(quán)倡導(dǎo)者正在采取未經(jīng)測(cè)試的法律手段來(lái)打擊他們所謂的“非性感色情”，使用類似的策略來(lái)打擊網(wǎng)絡(luò)騷擾、網(wǎng)絡(luò)跟蹤和復(fù)仇色情。

律師表示，如果他們對(duì)深度假冒創(chuàng)作者的身份或策略了解足夠多，他們可以采用騷擾或誹謗法，或者發(fā)布限制令和撤銷通知。

2016年，當(dāng)一名加州男子被指控在網(wǎng)絡(luò)色情圖片中添加前妻照片時(shí)，當(dāng)?shù)貦z察官嘗試了一種非常規(guī)策略，指控他犯有11項(xiàng)身份盜竊罪。

馬里蘭大學(xué)的法學(xué)教授Danielle Citron研究了打擊網(wǎng)絡(luò)虐待的方法，她表示，美國(guó)迫切需要一項(xiàng)更全面的刑事法規(guī)，涵蓋她所說(shuō)的“侵犯性隱私和性格謀殺”?！拔覀冃枰嬲耐兀彼f(shuō)。"否則，這只是一場(chǎng)打鼴鼠的游戲?！?/p>

Google代表表示，該公司認(rèn)真對(duì)待其道德責(zé)任，但對(duì)其人工智能工具的限制最終可能會(huì)限制開(kāi)發(fā)人員積極推動(dòng)這項(xiàng)技術(shù)。

但是專門研究被操縱照片和視頻的達(dá)特茅斯學(xué)院計(jì)算機(jī)科學(xué)教授Hany Farid說(shuō)，Google和其他科技巨頭需要“更加嚴(yán)肅地看待這項(xiàng)技術(shù)的武器化程度”。

“如果一位生物學(xué)家說(shuō)，‘這是一種非?？岬牟《荆屛覀兛纯垂姼腥舅鼤r(shí)會(huì)發(fā)生什么’，這明顯是不可接受的。然而這正是硅谷一直在做的事情，”他說(shuō)?！斑@表明它是一個(gè)非常不成熟的行業(yè)。我們必須了解這種危害，并放慢部署這種技術(shù)的速度?！?/p>

到目前為止，少數(shù)提議的解決方案對(duì)被攻擊的女性可能收效甚微。在看完視頻后，她說(shuō)她非常憤怒，表示要采取法律行動(dòng)。

但是她尋找請(qǐng)求者的努力沒(méi)有取得任何進(jìn)展。他沒(méi)有回復(fù)郵件，帖子也已經(jīng)被刪除，他的賬號(hào)消失得無(wú)影無(wú)蹤。剩下的只是深度假貨視頻，而它已經(jīng)又被觀看了400多次。