內(nèi)容審查利器，F(xiàn)acebook推出新AI系統(tǒng)，代號(hào)“Rosetta”

Facebook宣布開(kāi)發(fā)出一款新型人工智能(AI)系統(tǒng)，可用于檢測(cè)仇恨性言論。美國(guó)科技媒體CNET認(rèn)為，這款“武器”的推出可謂恰逢其時(shí)，在Facebook面臨內(nèi)容審查的當(dāng)下，會(huì)大有用處。

這一系統(tǒng)的代號(hào)為“Rosetta”，可幫助計(jì)算機(jī)閱讀和理解每天發(fā)布到社交網(wǎng)絡(luò)的數(shù)十億張圖像和視頻。憑借這套新系統(tǒng)，F(xiàn)acebook可以更容易地發(fā)現(xiàn)平臺(tái)上哪些內(nèi)容違反了反仇恨言論規(guī)則。

通常情況下，計(jì)算機(jī)使用一種名為光學(xué)字符識(shí)別(OCR)的方法來(lái)識(shí)別圖片或視頻中的內(nèi)容，但是，由于Facebook網(wǎng)信息龐大——每個(gè)月有22億人使用該社交網(wǎng)絡(luò)——OCR的缺點(diǎn)暴露無(wú)遺。因此，F(xiàn)acebook宣布建立一套更大規(guī)模的系統(tǒng)。

該系統(tǒng)同時(shí)適用于Facebook和Instagram，還可用于改進(jìn)照片搜索和新聞流的表面內(nèi)容。Rosetta通過(guò)從十多億個(gè)圖像和視頻幀中實(shí)時(shí)地提取不同語(yǔ)言的文本，對(duì)網(wǎng)站內(nèi)容實(shí)施監(jiān)測(cè)。

隨著Facebook在社交網(wǎng)絡(luò)上對(duì)內(nèi)容進(jìn)行審查，這套系統(tǒng)肯定會(huì)派上用場(chǎng)。此前，F(xiàn)acebook網(wǎng)曾被指責(zé)對(duì)緬甸、斯里蘭卡和印度的暴力事件負(fù)有一定責(zé)任。上個(gè)月，該社交網(wǎng)絡(luò)表示，由于在Facebook平臺(tái)發(fā)現(xiàn)虛假信息，該公司正在采取行動(dòng)，阻止緬甸的“仇恨傳播”，截止到目前，鑒于緬甸國(guó)內(nèi)針對(duì)羅辛亞穆斯林的種族暴力仍在繼續(xù)，F(xiàn)acebook已刪除了18個(gè)帳戶(hù)和52個(gè)與緬甸軍方有關(guān)的網(wǎng)頁(yè)。

今年7月，F(xiàn)acebook表示將開(kāi)始刪除旨在煽動(dòng)或加劇暴力的虛假信息，包括書(shū)面帖子和受人操縱的圖像。此前，F(xiàn)acebook只禁止直接調(diào)用暴力內(nèi)容，當(dāng)前的新政策還涵蓋有可能激起身體傷害的假新聞。

上周，F(xiàn)acebook首席運(yùn)營(yíng)官雪莉·桑德伯格(Sheryl Sandberg)和Twitter首席執(zhí)行官杰克·多爾西(Jack Dorsey)一起到國(guó)會(huì)作證，就公司為保護(hù)用戶(hù)而設(shè)立的內(nèi)容審查政策和安全措施進(jìn)行闡述。

Facebook的首席執(zhí)行官馬克·扎克伯格過(guò)去經(jīng)常說(shuō)，正在尋求利用人工智能技術(shù)，以便積極主動(dòng)地檢測(cè)平臺(tái)上令人討厭的內(nèi)容，而不是等待人們?nèi)?biāo)記舉報(bào)。但是當(dāng)該公司開(kāi)發(fā)這項(xiàng)技術(shù)時(shí)，他又說(shuō)，社交網(wǎng)絡(luò)正在雇用兩萬(wàn)名人類(lèi)主持人來(lái)監(jiān)管平臺(tái)上的有害信息。

此外，F(xiàn)acebook星期二還表示，正在向自動(dòng)翻譯工具集添加新的語(yǔ)言。新近增加的24種新語(yǔ)種包括豪撒語(yǔ)、烏爾都語(yǔ)和尼泊爾語(yǔ)，至此，翻譯語(yǔ)言總數(shù)已超過(guò)125種。