北京時間6月27日早間消息，據(jù)美國《財富》網(wǎng)站報道，F(xiàn)acebook正在制定一項監(jiān)管政策，對“換臉”（deepfake）視頻加以規(guī)范。這種視頻是用戶采用人工智能（AI）深度合成技術來篡改視頻內容，以達到傳播錯誤信息的目的，是Facebook面臨的最新威脅。
但是，F(xiàn)acebook CEO馬克·扎克伯格（Mark Zuckerberg）說，這是一個復雜的問題，因為公司不會刪除假視頻，但會讓用戶知道它不是真的。
“我們需要非常謹慎，”扎克伯格本周三在科羅拉多州的阿斯彭創(chuàng)意節(jié)（Aspen Ideas Festival）上表示，“通過我們的服務，每天有超過100萬條信息在系統(tǒng)中流動，我們希望確保以精確的方式加以認定?！?/p>
在過去幾年里，換臉視頻已經(jīng)成為公眾關注焦點，因為它們有可能通過在人們的言論中插入詞語來造成嚴重損害。雖然今天看上去這項技術還不夠成熟，但在未來，該技術的質量有望不斷提升，成為真實視頻中不可分割的一部分。
人們擔心這類換臉視頻可觸發(fā)戰(zhàn)爭、干擾選舉，或者被用來敲詐勒索。
Facebook目前正在與人工智能專家討論這一問題，對換臉視頻進行監(jiān)管規(guī)范。該公司將制定一項新的政策，將換臉視頻與虛假信息分而治之。
上個月，針對用戶發(fā)到Facebook平臺的一段“佩洛西在新聞發(fā)布會上結結巴巴”的視頻，該公司做出了一項飽受爭議的決定。扎克伯格表示，該公司將把它標注為誤導信息，以減緩它在社交網(wǎng)絡上的傳播速度。但一天過去了，F(xiàn)acebook尚未采取行動，導致該視頻在千百萬用戶中間不斷傳播。扎克伯格說，反應緩慢屬于“執(zhí)行錯誤”，但他補充說，不希望Facebook僅僅因為“不正確事實”而刪除用戶發(fā)布的內容。
“我認為我們不應該采取過激行動，作為一家私人公司，我們不能因為帖子中存在一些事實上不正確的內容就阻止用戶發(fā)言，”扎克伯格說?！皩ξ襾碚f，那樣就走得太遠了?！?/p>
本月早些時候，一家科技初創(chuàng)公司的兩位藝術家在Instagram上發(fā)布了一段有關馬克·扎克伯格的換臉視頻，令人非常不安，之后，F(xiàn)acebook開始對上述新政策進行測試。
“想象一下，如果一個人完全控制著數(shù)十億人的的數(shù)據(jù)—;—;他們所有的秘密，他們的生活，他們的未來。”假的扎克伯格在換臉視頻中說。“掌控數(shù)據(jù)，意味著掌控未來。”
盡管該視頻被允許保留在Instagram上，但扎克伯格表示，他認為有必要制定一項政策，以解決可能造成更嚴重傷害的換臉視頻問題。例如，換臉視頻可以模擬美國總統(tǒng)特朗普宣戰(zhàn)。
“隨著技術的發(fā)展，政策也在不斷演變，”扎克伯格說，“但我認為，應該謹慎對待這一問題，應該咨詢專家，而不是草率或單方面行事?！?/p>
下載文檔
