AI造假音視頻風波不斷，網(wǎng)信辦新規(guī)：明年起，AI造假音視頻不得隨意發(fā)布

 近日，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，自2020年1月1日起施行。

《規(guī)定》明確，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當依法取得法律、行政法規(guī)規(guī)定的相關(guān)資質(zhì);網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當落實信息內(nèi)容安全管理主體責任，配備與服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，建立健全用戶注冊、信息發(fā)布審核、信息安全管理、應(yīng)急處置、從業(yè)人員教育培訓(xùn)、未成年人保護、知識產(chǎn)權(quán)保護等制度，具有與新技術(shù)新應(yīng)用發(fā)展相適應(yīng)的安全可控的技術(shù)保障和防范措施，有效應(yīng)對網(wǎng)絡(luò)安全事件，防范網(wǎng)絡(luò)違法犯罪活動，維護網(wǎng)絡(luò)數(shù)據(jù)的完整性、安全性和可用性。

《規(guī)定》明確，網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于新技術(shù)新應(yīng)用上線具有媒體屬性或者社會動員功能的音視頻信息服務(wù)，或者調(diào)整增設(shè)相關(guān)功能的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估;網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當以顯著方式予以標識，不得利用基于深度學(xué)習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。

《規(guī)定》明確，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當部署應(yīng)用違法違規(guī)音視頻以及非真實音視頻鑒別技術(shù)，發(fā)現(xiàn)音視頻信息服務(wù)使用者制作、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容的，應(yīng)當依法依約停止傳輸該信息，采取消除等處置措施;網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當建立健全辟謠機制，發(fā)現(xiàn)網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習、虛擬現(xiàn)實等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的，應(yīng)當及時采取相應(yīng)的辟謠措施，并將相關(guān)信息報網(wǎng)信、文化和旅游、廣播電視等部門備案。

《規(guī)定》強調(diào)，網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反《規(guī)定》的，由網(wǎng)信、文化和旅游、廣播電視等部門依照《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽節(jié)目服務(wù)管理規(guī)定》等相關(guān)法律法規(guī)規(guī)定處理;構(gòu)成違反治安管理行為的，依法給予治安管理處罰;構(gòu)成犯罪的，依法追究刑事責任。

附：

網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定

第一條 為促進網(wǎng)絡(luò)音視頻信息服務(wù)健康有序發(fā)展，保護公民、法人和其他組織的合法權(quán)益，維護國家安全和公共利益，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽節(jié)目服務(wù)管理規(guī)定》，制定本規(guī)定。

第二條 在中華人民共和國境內(nèi)從事網(wǎng)絡(luò)音視頻信息服務(wù)，應(yīng)當遵守本規(guī)定。

本規(guī)定所稱網(wǎng)絡(luò)音視頻信息服務(wù)，是指通過互聯(lián)網(wǎng)站、應(yīng)用程序等網(wǎng)絡(luò)平臺，向社會公眾提供音視頻信息制作、發(fā)布、傳播的服務(wù)。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者，是指向社會公眾提供網(wǎng)絡(luò)音視頻信息服務(wù)的組織或者個人。網(wǎng)絡(luò)音視頻信息服務(wù)使用者，是指使用網(wǎng)絡(luò)音視頻信息服務(wù)的組織或者個人。

第三條 各級網(wǎng)信、文化和旅游、廣播電視等部門依據(jù)各自職責開展網(wǎng)絡(luò)音視頻信息服務(wù)的監(jiān)督管理工作。

第四條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者和使用者應(yīng)當遵守憲法、法律和行政法規(guī)，堅持正確政治方向、輿論導(dǎo)向和價值取向，弘揚社會主義核心價值觀，促進形成積極健康、向上向善的網(wǎng)絡(luò)文化。

第五條 國家鼓勵和指導(dǎo)互聯(lián)網(wǎng)行業(yè)組織加強行業(yè)自律，建立健全網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)標準和行業(yè)準則，推動網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)信用體系建設(shè)，督促網(wǎng)絡(luò)音視頻信息服務(wù)提供者依法提供服務(wù)、接受社會監(jiān)督，提高網(wǎng)絡(luò)音視頻信息服務(wù)從業(yè)人員職業(yè)素養(yǎng)，促進行業(yè)健康有序發(fā)展。

第六條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當依法取得法律、行政法規(guī)規(guī)定的相關(guān)資質(zhì)。

第七條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當落實信息內(nèi)容安全管理主體責任，配備與服務(wù)規(guī)模相適應(yīng)的專業(yè)人員，建立健全用戶注冊、信息發(fā)布審核、信息安全管理、應(yīng)急處置、從業(yè)人員教育培訓(xùn)、未成年人保護、知識產(chǎn)權(quán)保護等制度，具有與新技術(shù)新應(yīng)用發(fā)展相適應(yīng)的安全可控的技術(shù)保障和防范措施，有效應(yīng)對網(wǎng)絡(luò)安全事件，防范網(wǎng)絡(luò)違法犯罪活動，維護網(wǎng)絡(luò)數(shù)據(jù)的完整性、安全性和可用性。

第八條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當依照《中華人民共和國網(wǎng)絡(luò)安全法》的規(guī)定，對用戶進行基于組織機構(gòu)代碼、身份證件號碼、移動電話號碼等方式的真實身份信息認證。用戶不提供真實身份信息的，網(wǎng)絡(luò)音視頻信息服務(wù)提供者不得為其提供信息發(fā)布服務(wù)。

第九條 任何組織和個人不得利用網(wǎng)絡(luò)音視頻信息服務(wù)以及相關(guān)信息技術(shù)從事危害國家安全、破壞社會穩(wěn)定、擾亂社會秩序、侵犯他人合法權(quán)益等法律法規(guī)禁止的活動，不得制作、發(fā)布、傳播煽動顛覆國家政權(quán)、危害政治安全和社會穩(wěn)定、網(wǎng)絡(luò)謠言、淫穢色情，以及侵害他人名譽權(quán)、肖像權(quán)、隱私權(quán)、知識產(chǎn)權(quán)和其他合法權(quán)益等法律法規(guī)禁止的信息內(nèi)容。

第十條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者基于深度學(xué)習、虛擬現(xiàn)實等新技術(shù)新應(yīng)用上線具有媒體屬性或者社會動員功能的音視頻信息服務(wù)，或者調(diào)整增設(shè)相關(guān)功能的，應(yīng)當按照國家有關(guān)規(guī)定開展安全評估。

第十一條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當以顯著方式予以標識。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者不得利用基于深度學(xué)習、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載音視頻新聞信息的，應(yīng)當依法轉(zhuǎn)載國家規(guī)定范圍內(nèi)的單位發(fā)布的音視頻新聞信息。

第十二條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當加強對網(wǎng)絡(luò)音視頻信息服務(wù)使用者發(fā)布的音視頻信息的管理，部署應(yīng)用違法違規(guī)音視頻以及非真實音視頻鑒別技術(shù)，發(fā)現(xiàn)音視頻信息服務(wù)使用者制作、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容的，應(yīng)當依法依約停止傳輸該信息，采取消除等處置措施，防止信息擴散，保存有關(guān)記錄，并向網(wǎng)信、文化和旅游、廣播電視等部門報告。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者發(fā)現(xiàn)不符合本規(guī)定第十一條第一款要求的信息內(nèi)容的，應(yīng)當立即停止傳輸該信息，以顯著方式標識后方可繼續(xù)傳輸該信息。

第十三條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當建立健全辟謠機制，發(fā)現(xiàn)網(wǎng)絡(luò)音視頻信息服務(wù)使用者利用基于深度學(xué)習、虛擬現(xiàn)實等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的，應(yīng)當及時采取相應(yīng)的辟謠措施，并將相關(guān)信息報網(wǎng)信、文化和旅游、廣播電視等部門備案。

第十四條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當在與網(wǎng)絡(luò)音視頻信息服務(wù)使用者簽訂的服務(wù)協(xié)議中，明確雙方權(quán)利、義務(wù)，要求網(wǎng)絡(luò)音視頻信息服務(wù)使用者遵守本規(guī)定及相關(guān)法律法規(guī)。對違反本規(guī)定、相關(guān)法律法規(guī)及服務(wù)協(xié)議的網(wǎng)絡(luò)音視頻信息服務(wù)使用者依法依約采取警示整改、限制功能、暫停更新、關(guān)閉賬號等處置措施，保存有關(guān)記錄，并向網(wǎng)信、文化和旅游、廣播電視等部門報告。

第十五條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當自覺接受社會監(jiān)督，設(shè)置便捷的投訴舉報入口，公布投訴、舉報方式等信息，及時受理并處理公眾投訴舉報。

第十六條 為網(wǎng)絡(luò)音視頻信息服務(wù)提供技術(shù)支持的主體應(yīng)當遵守相關(guān)法律法規(guī)規(guī)定和國家標準規(guī)范，采取技術(shù)措施和其他必要措施，保障網(wǎng)絡(luò)安全、穩(wěn)定運行。

第十七條 各級網(wǎng)信、文化和旅游、廣播電視等部門應(yīng)當建立日常監(jiān)督檢查和定期檢查相結(jié)合的監(jiān)督管理制度，指導(dǎo)督促網(wǎng)絡(luò)音視頻信息服務(wù)提供者依據(jù)法律法規(guī)和服務(wù)協(xié)議規(guī)范網(wǎng)絡(luò)音視頻信息服務(wù)行為。

網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當遵守相關(guān)法律法規(guī)規(guī)定，依法留存網(wǎng)絡(luò)日志，配合網(wǎng)信、文化和旅游、廣播電視等部門開展監(jiān)督管理執(zhí)法工作，并提供必要的技術(shù)、數(shù)據(jù)支持和協(xié)助。

第十八條 網(wǎng)絡(luò)音視頻信息服務(wù)提供者和網(wǎng)絡(luò)音視頻信息服務(wù)使用者違反本規(guī)定的，由網(wǎng)信、文化和旅游、廣播電視等部門依照《中華人民共和國網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)文化管理暫行規(guī)定》《互聯(lián)網(wǎng)視聽節(jié)目服務(wù)管理規(guī)定》等相關(guān)法律法規(guī)規(guī)定處理;構(gòu)成違反治安管理行為的，依法給予治安管理處罰;構(gòu)成犯罪的，依法追究刑事責任。

第十九條 本規(guī)定自2020年1月1日起施行。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人表示，出臺《規(guī)定》，旨在促進網(wǎng)絡(luò)音視頻信息服務(wù)健康有序發(fā)展，保護公民、法人和其他組織的合法權(quán)益，維護國家安全和公共利益。