Facebook宣布其開(kāi)發(fā)出了一款能夠用來(lái)檢測(cè)仇恨性言論的新型人工智能系統(tǒng)

今日，F(xiàn)acebook宣布其開(kāi)發(fā)出了一款新型人工智能系統(tǒng)，能夠用來(lái)檢測(cè)仇恨性言論。有美國(guó)科技媒體認(rèn)為，這款AI系統(tǒng)對(duì)于Facebook面臨的內(nèi)容審查困境將會(huì)大有用處。

一直以來(lái)，無(wú)論海內(nèi)外的社交媒體平臺(tái)都面臨著內(nèi)容審查艱難、容易有“漏網(wǎng)之魚(yú)”的局面，作為社交巨頭的Facebook也無(wú)法避免。之前，F(xiàn)acebook曾被指責(zé)需要對(duì)緬甸、斯里蘭卡和印度的暴力事件負(fù)有一定程度上的責(zé)任。于是，近幾個(gè)月，F(xiàn)acebook正在采取行動(dòng)，組織緬甸宣傳仇恨內(nèi)容的傳播。但目前，緬甸國(guó)內(nèi)針對(duì)羅新亞穆斯林的種族暴力依舊在持續(xù)，盡管Facebook刪掉了18個(gè)賬戶(hù)與52個(gè)與緬甸軍方相關(guān)的網(wǎng)頁(yè)。

本次，F(xiàn)acebook推出的這款A(yù)I系統(tǒng)代號(hào)為“Rosetta”，能夠幫助計(jì)算機(jī)閱讀理解每天發(fā)布到Facebook上的數(shù)十億張圖像和視頻。這將促使Facebook能夠更加容易發(fā)現(xiàn)平臺(tái)上有哪些內(nèi)容是仇恨言論。該系統(tǒng)適用于Facebook和Instagram，并且，還能夠用于改進(jìn)照片搜索和新聞流表面的內(nèi)容。據(jù)悉，該系統(tǒng)是通過(guò)十多億個(gè)圖像和視頻幀中實(shí)時(shí)提取不同的語(yǔ)言文本，對(duì)平臺(tái)內(nèi)容進(jìn)行監(jiān)控。

近期，F(xiàn)acebook首席運(yùn)營(yíng)官雪莉·桑德伯格和Twitter首席執(zhí)行官杰克·多爾西共同到國(guó)會(huì)作證，就是因?yàn)樾枰獙?duì)其公司為保護(hù)用戶(hù)所設(shè)立的內(nèi)容審查政策和安全措施進(jìn)行闡述。這也足以看到，其在內(nèi)容審查方面面臨的困境。

與此同時(shí)，F(xiàn)acebook針對(duì)的內(nèi)容的審核也越來(lái)越嚴(yán)格。此前，其只禁止暴力內(nèi)容，今年7月份開(kāi)始，F(xiàn)acebook已經(jīng)開(kāi)始刪除旨在煽動(dòng)或者加劇暴力的虛假信息。該系統(tǒng)的推出意味著Facebook在針對(duì)內(nèi)容審查方面更進(jìn)一步的完善。

最后，F(xiàn)acebook還表示，其正在向自動(dòng)翻譯工具添加新的語(yǔ)言。新近增加的24種新語(yǔ)種包括豪薩語(yǔ)、烏爾都語(yǔ)和尼泊爾語(yǔ)等。