大家好,我們是社交網(wǎng)絡(luò)審核員
「刪除,刪除,保留,保留,這條刪除比較保險(xiǎn)……」2018 年上映的紀(jì)錄片(The Cleaners)影像化了內(nèi)容審核工廠的日常作業(yè):在菲律賓馬尼拉一間逼仄的辦公室里,一群人坐在各自的電腦屏幕前,用審判的眼光看著或許發(fā)生在馬尼拉千萬公里開外的,來自世界各地的帖子。
赤裸的色情、嘶鳴的槍響、血腥的暴力都直白地鋪在他們的屏幕上,這些圖片、視頻是被互聯(lián)網(wǎng)平臺(tái)用戶舉報(bào)后聚集到審核隊(duì)列里的。審查員們面無表情,稍作判斷,按下鼠標(biāo)。
▲紀(jì)錄片截圖
「(能拍攝到他們)絕非易事,F(xiàn)acebook、Twitter 和其他公司在馬尼拉雇用外包公司,使用業(yè)界暗語(yǔ),還會(huì)用報(bào)復(fù)和恐嚇等手段,阻止數(shù)千名員工披露他們的雇主身份?!箤?dǎo)演透露。因此,有些出鏡的受訪者使用了化名,也只露了背影。
網(wǎng)絡(luò)審查員的工作內(nèi)容不能對(duì)外宣講,甚至,這個(gè)人群曾經(jīng)都是被藏起來的。他們有些每天要審核 2.5 萬條內(nèi)容,有的因承受不了暴力內(nèi)容和雇主壓力而選擇自殺。
他們?cè)诤突ヂ?lián)網(wǎng)的黑暗面貼身肉搏,做著算法還不能完全做到的事,就像社交網(wǎng)絡(luò)中的「人肉盾牌」,網(wǎng)絡(luò)審查員受到的傷害卻很少有人關(guān)注。
底層的「審判者」在人們眼中,網(wǎng)絡(luò)審查員似乎把握著對(duì)平臺(tái)內(nèi)容的「生殺大權(quán)」,是審查員決定了用戶最終能看到什么?;ヂ?lián)網(wǎng)上也不乏「質(zhì)問」審查員的聲音。
「有的時(shí)候你會(huì)有那種感覺,對(duì)內(nèi)容的生殺大權(quán)掌握在我們手里,我讓它放就放,不讓它放就不放。但其實(shí)我們只是根據(jù)規(guī)則去執(zhí)行。審核人員制定規(guī)則是很少的。我提出這條規(guī)則,會(huì)有多方評(píng)估,包括風(fēng)險(xiǎn)評(píng)控的、運(yùn)營(yíng)人員、產(chǎn)品經(jīng)理的評(píng)估…… 不可能只有一個(gè)人。審核人員是屬于這條鏈條的最底端?!挂晃辉谥袊?guó)工作的網(wǎng)絡(luò)審查員向媒體透露稱。
不光沒有決策權(quán),網(wǎng)絡(luò)審核員的工作環(huán)境同樣令人堪憂,他們就像富士康工廠流水線上的工人,只不過手里重復(fù)的只是「刪除」和「保留」的動(dòng)作。
The Verge 記者 Casey Newton 去年對(duì)同一公司的十幾位網(wǎng)絡(luò)審查員進(jìn)行了深入調(diào)查,他了解到,Cognizant 這家受雇于 Facebook 的外包公司提供的工作環(huán)境極其惡劣。
比如,由于內(nèi)容審查工作需要全天候有人在崗,所以公司分為 4 班輪職,輪值員工共享辦公桌等設(shè)施。這里的主管連員工上廁所的時(shí)間都嚴(yán)格控管,員工每天上班固定兩次 15 分鐘休息和 30 分鐘的午餐時(shí)間,另外還有 9 分鐘所謂的「健康時(shí)間」(wellness time)。有媒體稱,這種公司就像是信息行業(yè)的富士康。
這些審查員不僅要承受惡劣工作環(huán)境的摧殘,還需要適應(yīng)審核細(xì)則的朝令夕改。他們每天幾乎要面對(duì)一版更新的審核標(biāo)準(zhǔn),而突發(fā)性事件也會(huì)導(dǎo)致規(guī)范發(fā)生變更。但在審查員審核帖子時(shí),有時(shí)候會(huì)使用最新的標(biāo)準(zhǔn)審核稍早的帖子,導(dǎo)致標(biāo)準(zhǔn)不一,增加了申訴案件的數(shù)量。
盡管審核內(nèi)容的標(biāo)準(zhǔn)拿捏不一,但 Facebook 對(duì)于外包商的「準(zhǔn)確率」卻有極高的要求。他們?cè)O(shè)定的準(zhǔn)確率必須達(dá)到 95%,但 Cognizant 每個(gè)月內(nèi)容審核的平均準(zhǔn)確率大約落在 85% 到 95% 之間。
▲你每天看到的信息已經(jīng)過了一輪人工過濾|Pixabay
這群互聯(lián)網(wǎng)最底層的「審判者」好比是人肉機(jī)器,他們遵照雇主制定的規(guī)則對(duì)內(nèi)容進(jìn)行審核,完成 KPI 的同時(shí)還要努力保證準(zhǔn)確率,這種雙重壓力的交織顯然會(huì)讓他們?cè)谂袛嗌舷萑肽@鈨煽傻木车亍?/p>
只不過「保留」或「刪除」似乎又成了社交媒體與用戶之間形成的內(nèi)容價(jià)值判斷的鴻溝,這種沖突式的對(duì)立似乎還沒有標(biāo)準(zhǔn)的解決方案。
在中,導(dǎo)演展示了審查員的「誤判」過程。他有意讓審查員判斷伊戰(zhàn)美軍虐囚事件中的圖片,結(jié)果并不知曉相關(guān)歷史的審查員直接將其判定為 ISIS 士兵虐囚,并表示圖片應(yīng)該被刪除。
值得一提的是,F(xiàn)acebook 曾在平臺(tái)上「誤刪」了那張拍攝于 1972 年的著名反越戰(zhàn)照片。照片中,被南越空軍投擲汽油彈燒傷的小女孩,萬分驚恐地奔逃著、哭喊著。她赤身裸體。這讓 Facebook 遭到多方聲討。后來,平臺(tái)修改了審核細(xì)則,允許「反戰(zhàn)」原則之下、「具有新聞價(jià)值」的裸露,但是還是禁止發(fā)布「大屠殺背景下的兒童裸體照片」。
網(wǎng)絡(luò)審查員的入行門檻并不高,能吃苦耐勞是基本,遵照審查表刪帖并保證準(zhǔn)確度就算進(jìn)階。這些也在他們的收入上有所體現(xiàn)。
做個(gè)對(duì)比,F(xiàn)acebook 正式員工的平均年薪是 24 萬美元,但據(jù) The Verge 去年的調(diào)查,替 Facebook 做平臺(tái)審查的外包勞工薪水卻只有前者收入的零頭——工作時(shí)薪僅 15 美元(年薪 2.8 萬美元)。
內(nèi)容審核要求高標(biāo)準(zhǔn),巨大的工作量和時(shí)刻變更的細(xì)則,逼仄的工作環(huán)境和微薄的收入,這些都讓審查員變得不堪重負(fù),更別提他們所要瀏覽的內(nèi)容幾乎都是互聯(lián)網(wǎng)上最偏激的東西了。
「戰(zhàn)場(chǎng)」上歸來的士兵「每天必須瀏覽 25000 條,我覺得這可以申請(qǐng)世界紀(jì)錄了?!挂晃换ヂ?lián)網(wǎng)內(nèi)容審查員在紀(jì)錄片中說道。按照這個(gè)指標(biāo),以 1 秒 1 條的速度計(jì)算,做完也需要整整七個(gè)小時(shí)。
而被安排去審核色情內(nèi)容的一名女性審查員,原本對(duì)她要審核的內(nèi)容毫無概念。而現(xiàn)在,這位「鑒黃師」學(xué)習(xí)了英語(yǔ)里各種有關(guān)下半身的臟話、俗語(yǔ),然后還對(duì)男女的人體構(gòu)造研究透徹,還得知曉不少讓人難以接受的性癖。下班后,她還得去成人用品店了解新品。唯有這樣,她才能在審核色情內(nèi)容的時(shí)候不出錯(cuò)。按紀(jì)錄片所述,他們每個(gè)月只有三次出錯(cuò)的機(jī)會(huì),否則將被辭退。
審核恐怖主義內(nèi)容的員工平靜地說,「我看過上百場(chǎng)斬首的場(chǎng)面。對(duì)于一些人而言,他們很幸運(yùn),因?yàn)榭吃谒麄儾弊由系牡逗茕h利」,她還在屏幕比劃著,「如果用的是鈍一點(diǎn)的刀,切口就不會(huì)這么利落了?!?/p>
在某家大型內(nèi)容平臺(tái)信任團(tuán)隊(duì)工作的 Remy,告訴 Medium 旗下出版物 OneZero:「舉個(gè)例子,舉重運(yùn)動(dòng)員為了承受巨大的壓力,身體也適應(yīng)成了一種奇怪的形狀。而審核團(tuán)隊(duì)心理上的自適應(yīng),就是不斷被磨煉的判斷力和意志力,永遠(yuǎn)保持在正確的時(shí)間、正確的地點(diǎn),做正確的決定?!?/p>
面對(duì)互聯(lián)網(wǎng)上那些難以名狀的負(fù)面內(nèi)容,許多網(wǎng)絡(luò)審查員都撐不住了。
其中部分人出現(xiàn)了 PTSD(創(chuàng)傷后應(yīng)激障礙)。這種疾病指的是人在經(jīng)歷過情感、戰(zhàn)爭(zhēng)、交通事故等創(chuàng)傷事件后,所導(dǎo)致的個(gè)體延遲出現(xiàn)和持續(xù)存在的精神障礙。審查員和從戰(zhàn)場(chǎng)上返家的士兵們癥狀相同,兩者的區(qū)別在于前者必須隱姓埋名。
▲他們是一群必須使用化名的人|紀(jì)錄片截圖
天天都是接觸偏激內(nèi)容,有些員工也開始被這些邊緣觀點(diǎn)「洗腦」了。有一個(gè)員工在辦公室里成天宣揚(yáng)「地平論」,另一個(gè)前員工則表示「再也不相信 911 是恐怖攻擊事件」,他的工作已漸漸改變了他的世界觀。
據(jù) Facebook 公開透露,2017 年 5 月 3 日,扎克伯格宣布擴(kuò)大 Facebook 的「社區(qū)經(jīng)營(yíng)」團(tuán)隊(duì)。到 2018 年底,從原有的 4500 位審查員擴(kuò)展至 30000 位,其中大約有一半負(fù)責(zé)內(nèi)容審核。這些人中,有的已經(jīng)不堪重負(fù),對(duì)社交媒體發(fā)起了起訴。
2018 年 9 月,一位名叫 Selena Scola 的審查員向 Facebook 提起訴訟。Scola 在連續(xù) 9 個(gè)月觀看謀殺、自殺等圖像后,被診斷為 PTSD。今年 2 月 7 日,雙方達(dá)成了初步和解。在這個(gè)案子中,F(xiàn)acebook 承認(rèn)內(nèi)容審核會(huì)給員工帶來巨大的傷害,并同意向在職及離職的審查員支付總額為 5200 萬美元的賠款,用以補(bǔ)償他們因工作產(chǎn)生心理健康問題。如果被診斷出患有 PTSD 或其他相關(guān)疾病,每名審查員將獲得至少 1000 美元的賠償。
但外包公司的審查員似乎就沒有這種待遇了。在 The Verge 的報(bào)道中,Cognizant 提供了員工一些消除工作壓力的方式,他們提供現(xiàn)場(chǎng)的心理咨詢師,以及員工協(xié)助課程等。不過,受訪的員工多半認(rèn)為這些資源并不足夠。他們空閑時(shí)靠抽食大麻疏解壓力。
擁有較好工作環(huán)境的 Facebook 正式員工尚且如此,外包公司審查員的遭遇可想而知|視覺中國(guó)
在中,一位出身貧苦的審查員對(duì)著鏡頭講述,父母靠撿垃圾維生,她被教導(dǎo)要認(rèn)真學(xué)習(xí),才能躲避他們的命運(yùn)。然而坐在電腦前點(diǎn)擊「刪除」或「保留」,就像是在翻找網(wǎng)絡(luò)世界的垃圾。最后,她選擇辭職,沿著堆滿垃圾的沙路走回了家。
偏激內(nèi)容的「替罪羊」社交媒體一貫以超高的自由度和靈活的內(nèi)容呈現(xiàn)方式,讓用戶深陷其中。但「自由」是相對(duì)的,只有遵守平臺(tái)規(guī)則和法律規(guī)定的內(nèi)容才能得以留存,而社交媒體在審核上投入巨資的同時(shí),也讓自己站在了所謂的用戶「對(duì)立面」上,時(shí)不時(shí)就會(huì)承受用戶怒火的平臺(tái)也變得如履薄冰。
然而,社交媒體設(shè)置的「轉(zhuǎn)發(fā)」和「點(diǎn)贊」,都催生了人們對(duì)內(nèi)容熱度的渴求。那些迎合大眾、駭人聽聞的言論往往能獲得更多人的目光。而過濾掉那些越來越偏激內(nèi)容的工作,被平臺(tái)外包給第三方公司,「人肉防護(hù)」的擔(dān)子就這樣放到了底層的網(wǎng)絡(luò)審查員肩上。
而平臺(tái)和網(wǎng)絡(luò)暴民的矛盾也在不斷激化。以「美國(guó)貼吧」Reddit 為例,在這個(gè)月活達(dá) 3.3 億社區(qū)里,也不乏宣揚(yáng)暴力和有色情暗示的主題。比如,曾有一個(gè)名為「r/FatPeopleHate」的討論組,關(guān)注者超過 15 萬。這個(gè)活躍社區(qū),以尋找超重人士的滑稽照片為樂,帖子主要針對(duì)女性,并且會(huì)為照片加上刻薄的題注。圖片貼出后,Reddit 用戶還會(huì)把它們轉(zhuǎn)貼到受害者的 Facebook 頁(yè)面上。
2015 年,官方封禁了「r/FatPeopleHate」等幾大活躍的惡意討論組。Reddit 前產(chǎn)品高級(jí)副總裁 Dan McComas 和家人后續(xù)就被網(wǎng)絡(luò)暴民人肉和襲擊。因?yàn)檫@次封禁,Reddit 當(dāng)時(shí)的 CEO Ellen Pao 之后每天都被罵「暴君」。一個(gè)月后,她辭了職。
「互聯(lián)網(wǎng)最初是一個(gè)可以表達(dá)自由的堡壘?!顾谏蠈懙?,「但現(xiàn)在,我們想要達(dá)成平衡越來越難了。網(wǎng)絡(luò)暴民贏了?!?/p>
互聯(lián)網(wǎng)的日漸繁榮,人們的部分表達(dá)空間從現(xiàn)實(shí)轉(zhuǎn)移到了網(wǎng)絡(luò),而社交媒體似乎更崇尚「流量」,于是,不適宜的偏誤內(nèi)容越來越多,也直接催生了「網(wǎng)絡(luò)審查員」這個(gè)新的工種。
他們被定義為「一群夾在社交媒體平臺(tái)和用戶的中間人」,是這兩者矛盾的緩沖角色。平臺(tái)求得增長(zhǎng),就一定會(huì)堆積不夠溫和的內(nèi)容。而平臺(tái)和用戶的矛盾,目前也只能主要靠人來解決。
更人道的做法相比 Reddit 這樣的平臺(tái),Twitter 和 Facebook 是受眾量更大的社區(qū),要做好平衡顯然會(huì)更難。它們選擇把部分壓力轉(zhuǎn)嫁到網(wǎng)絡(luò)審查員身上。但面對(duì)這些互聯(lián)網(wǎng)底層民工受到的精神傷害,以技術(shù)傍身的大公司卻似乎沒有找到更好的解決方法。
Google 負(fù)責(zé)信任和安全業(yè)務(wù)的副總裁 Kristie Canegallo 也曾表示,公司的確正致力于開發(fā)機(jī)器學(xué)習(xí)系統(tǒng)來抓取包含不良內(nèi)容的視頻,但在技術(shù)應(yīng)用的初期,審查員依然是不可或缺的,他們需要幫助訓(xùn)練系統(tǒng)。
眼下除了恰當(dāng)?shù)剡^濾掉一些偏激的聲音外,對(duì)網(wǎng)絡(luò)審查員施以更人道的關(guān)懷也是要事。比如,Google 就正在測(cè)試將待審查內(nèi)容中的血液換成綠色,或許這將有助于減少審查員們的壓力。