《人工智能生成合成內(nèi)容標(biāo)識辦法》助力辨別虛假信息 推進從生成到傳播全鏈條治理

想要近期外出旅游的小李,習(xí)慣性地打開某大模型應(yīng)用詢問。與往常一樣,答案很快生成,但這次文本結(jié)尾處多了一句話:“本回答由AI(人工智能)生成,內(nèi)容僅供參考,請仔細甄別。”

近年來,生成式人工智能、深度合成等新技術(shù)快速發(fā)展,在促進經(jīng)濟發(fā)展、豐富網(wǎng)上內(nèi)容、便利公眾生活的同時,也造成虛假信息傳播、破壞網(wǎng)絡(luò)生態(tài)等問題。近日,《人工智能生成合成內(nèi)容標(biāo)識辦法》(以下簡稱《標(biāo)識辦法》)發(fā)布,自2025年9月1日起施行。

國家網(wǎng)信辦相關(guān)負責(zé)人表示,《標(biāo)識辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點,通過標(biāo)識提醒用戶辨別虛假信息,明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù),規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為,以合理成本提高安全性,推動人工智能健康有序發(fā)展。

此前的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等就對深度合成服務(wù)提供者規(guī)定了標(biāo)識義務(wù)。而本次《標(biāo)識辦法》的一大亮點,則是將傳播平臺納入監(jiān)管范疇,實現(xiàn)從生成到傳播的全鏈條治理。

“這是一部劇情緊湊,每個角色性格鮮明的電視劇。它通過一個個獨立的故事,讓我們深入思考社會現(xiàn)實問題……”一天,小田在某知識分享平臺讀到一則影評。影評在開頭被打上了“疑似使用AI創(chuàng)作”的標(biāo)記,推薦排序極為靠后。

據(jù)該平臺負責(zé)人介紹,此前,平臺的社區(qū)治理規(guī)則已經(jīng)要求,用戶發(fā)布使用AI技術(shù)進行輔助創(chuàng)作的內(nèi)容,應(yīng)主動添加“包含AI輔助創(chuàng)作”創(chuàng)作聲明。而如果不主動添加,被平臺檢測到使用AI創(chuàng)作,則會被打上標(biāo)識、排序置后或者“折疊”乃至刪除封號。

平臺這樣的治理行為,今后將有更明確的法律支撐。《標(biāo)識辦法》規(guī)定提供網(wǎng)絡(luò)信息內(nèi)容傳播服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取下列措施,規(guī)范生成合成內(nèi)容傳播活動:“核驗文件元數(shù)據(jù)中是否含有隱式標(biāo)識”“檢測到顯式標(biāo)識或者其他生成合成痕跡的,識別為疑似生成合成內(nèi)容,采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識,提醒公眾該內(nèi)容疑似生成合成內(nèi)容”……

公安部第三研究所副所長金波表示,除此之外,針對其他關(guān)鍵參與方,如互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺主體的責(zé)任范疇等,也進行明確規(guī)定,基本實現(xiàn)對生成合成內(nèi)容上下游主體的全覆蓋。

區(qū)分規(guī)定生成合成內(nèi)容中應(yīng)添加的“顯式標(biāo)識”和“隱式標(biāo)識”,是《標(biāo)識辦法》的另一大特色。其中,《標(biāo)識辦法》規(guī)定,應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識,隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。

對此,國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級工程師張震介紹:“作為配套的《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》明確了元數(shù)據(jù)隱式標(biāo)識的字段要素,在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯?嵌入必要字段,記錄生成合成內(nèi)容的關(guān)鍵信息和關(guān)鍵環(huán)節(jié),確保內(nèi)容在流轉(zhuǎn)過程中始終可追溯?！?

而相關(guān)條款的規(guī)定,對促進人工智能便利使用、創(chuàng)新發(fā)展也有積極意義。

“請幫我生成一張郵輪在大海的驚濤駭浪中航行的圖片?！崩钅持谱饕曨l時,需要在視頻中放置一張圖片,和往常一樣在某大模型應(yīng)用上生成了一張圖片。在圖片的右下角,有一個標(biāo)記“AI生成”。

“有些大模型應(yīng)用,每次生成的圖片,都有‘AI生成’之類的標(biāo)記,使用時還需要再編輯處理,多少有些麻煩?！崩钅痴f,希望類似的生成內(nèi)容可以直接去除AI標(biāo)識,自己在最終發(fā)布時會聲明AI創(chuàng)作。

“《標(biāo)識辦法》第九條提出,在用戶主動要求提供未添加顯式標(biāo)識內(nèi)容時,網(wǎng)站平臺在不違反相關(guān)法律法規(guī)要求前提下,可通過在用戶協(xié)議中明確責(zé)任義務(wù)并依法留存相關(guān)日志信息后,面向用戶予以提供?！眹揖W(wǎng)信辦相關(guān)負責(zé)人介紹,用戶在后續(xù)使用過程中,需主動聲明生成合成情況并添加顯式標(biāo)識后,方可面向公眾發(fā)布和傳播。(記者 金歆)