國(guó)家發(fā)布生成式 AI 內(nèi)容標(biāo)識(shí)安全標(biāo)準(zhǔn)指南

業(yè)內(nèi)消息，為貫徹落實(shí)七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》等政策法規(guī)要求，指導(dǎo)有關(guān)單位做好生成式人工智能內(nèi)容標(biāo)識(shí)工作，近日國(guó)家信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布了《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南(生成式人工智能服務(wù)內(nèi)容標(biāo)識(shí)方法)》。

網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南》圍繞文本、圖片、音頻、視頻四類生成內(nèi)容，給出了標(biāo)識(shí)的實(shí)踐指引。本文件可用于指導(dǎo)生成式人工智能提供者提高內(nèi)容標(biāo)識(shí)水平，也可為主管監(jiān)管部門提供參考。

據(jù)悉， 該指南是全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)秘書處組織制定和發(fā)布的標(biāo)準(zhǔn)相關(guān)技術(shù)文件，旨在圍繞網(wǎng)絡(luò)安全法律法規(guī)政策、標(biāo)準(zhǔn)、網(wǎng)絡(luò)安全熱點(diǎn)和事件等主題，宣傳網(wǎng)絡(luò)安全相關(guān)標(biāo)準(zhǔn)及知識(shí)，提供標(biāo)準(zhǔn)化實(shí)踐指引。

該指南得到中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院、國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心、浙江大學(xué)、阿里云計(jì)算有限公司、科大訊飛股份有限公司、北京抖音信息服務(wù)有限公司、北京中關(guān)村實(shí)驗(yàn)室、北京郵電大學(xué)、北京百川智能科技有限公司、華為云計(jì)算技術(shù)有限公司、北京智譜華章科技有限公司、上海稀宇科技有限公司、上海人工智能創(chuàng)新中心、北京深言科技有限責(zé)任公司、北京面壁智能科技有限責(zé)任公司等單位技術(shù)支持。

據(jù)悉，《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實(shí)踐指南(生成式人工智能服務(wù)內(nèi)容標(biāo)識(shí)方法)》要求在顯示區(qū)域或輸入?yún)^(qū)域下方持續(xù)顯示提示文字，或均勻添加包含提示文字的水印，提示文字至少包含「由 AI 生成」等信息。

在生成圖片、視頻畫面四角添加提示文字，所占面積應(yīng)不低于畫面的 0.3%，或高度不低于 20 像素。在生成輸出文件的元數(shù)據(jù)中添加擴(kuò)展字段，包含服務(wù)提供者名稱、內(nèi)容生成時(shí)間、內(nèi)容 ID 等信息。

此外，在生成圖片、音頻、視頻中添加隱式水印標(biāo)識(shí)，完整標(biāo)識(shí)應(yīng)存在于 (1) 圖片中任意連續(xù) 50% 以上面積且分辨率大于等于 384×384 的切片，(2) 任意連續(xù) 5 秒以上視頻，以及 (3) 任意連續(xù) 10 秒以上音頻，并提供提取水印的接口或工具。

由自然人轉(zhuǎn)為人工智能提供服務(wù)，容易引起使用者混淆時(shí)，應(yīng)通過提示文字或提示語音的方式，說明「AI 為您提供服務(wù)」等信息。該指南最初于本月 7 日公開征求意見，正式版相比征求意見稿做了小幅詞句改動(dòng)，并補(bǔ)充了參考文獻(xiàn)依據(jù)。