近日,，國家互聯(lián)網(wǎng)信息辦公室,、工業(yè)和信息化部、公安部,、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《標(biāo)識辦法》）,，自2025年9月1日起施行,。據(jù)悉，《標(biāo)識辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點,，通過標(biāo)識提醒用戶辨別虛假信息,，明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù)，規(guī)范內(nèi)容制作,、傳播各環(huán)節(jié)標(biāo)識行為,，促進人工智能在文本對話、內(nèi)容制作,、輔助設(shè)計等各應(yīng)用場景加快落地,，同時減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險行為,。
專家表示,，《標(biāo)識辦法》是對我國人工智能算法治理體系的進一步完善，著力構(gòu)建開放,、公正,、有效的治理機制，營造公平有序發(fā)展環(huán)境,，推動人工智能產(chǎn)業(yè)健康有序發(fā)展,。
近年來，人工智能技術(shù)快速發(fā)展,，為生成合成文字,、圖片、音頻,、視頻等信息提供了便利工具,，海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺傳播，在促進經(jīng)濟社會發(fā)展的同時，也產(chǎn)生了生成合成技術(shù)濫用,、虛假信息傳播擴散加劇等問題,。
《標(biāo)識辦法》明確了服務(wù)提供者應(yīng)當(dāng)對文本、音頻,、圖片,、視頻、虛擬場景等生成合成內(nèi)容添加顯式標(biāo)識,，在提供生成合成內(nèi)容下載,、復(fù)制、導(dǎo)出等功能時,，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識,；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識。
面向互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺,，《標(biāo)識辦法》明確,，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù),，并核驗其生成合成內(nèi)容標(biāo)識相關(guān)材料,。
此外，《標(biāo)識辦法》強調(diào),，任何組織和個人不得惡意刪除,、篡改,、偽造,、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識，不得為他人實施上述惡意行為提供工具或者服務(wù),，不得通過不正當(dāng)標(biāo)識手段損害他人合法權(quán)益,。
國家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《標(biāo)識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題,，推動由生成到傳播各環(huán)節(jié)的全流程安全管理,，力爭打造可信賴的人工智能技術(shù)。
國家計算機網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級工程師張震認(rèn)為,，《標(biāo)識辦法》重點關(guān)注人工智能生成合成內(nèi)容傳播環(huán)節(jié)的安全治理,，有效銜接已有的備案評估、風(fēng)險防范等管理措施,，逐步完善面向人工智能全生命流程管理的新技術(shù)安全體系：一是明確了文本,、圖像、音頻,、視頻等多模態(tài)的標(biāo)識要求,，將安全治理深入到內(nèi)容模態(tài)層面；二是創(chuàng)新性地將傳播平臺納入監(jiān)管范疇，實現(xiàn)從生成到傳播的全鏈條治理,；三是明確了隱式標(biāo)識的技術(shù)實現(xiàn)方式,，通過元數(shù)據(jù)標(biāo)識為安全追溯提供了可靠保障。
此外,，配套《標(biāo)識辦法》,，強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》（以下簡稱《標(biāo)識標(biāo)準(zhǔn)》），已由國家市場監(jiān)督管理總局,、國家標(biāo)準(zhǔn)化管理委員會正式批準(zhǔn)發(fā)布,，2025年9月1日與《標(biāo)識辦法》同步實施。
中國工程院院士,、浙江大學(xué)教授陳純表示,，《標(biāo)識辦法》和《標(biāo)識標(biāo)準(zhǔn)》不僅為行業(yè)提供了明確的技術(shù)指導(dǎo)原則，極大地提升了技術(shù)的透明度和可追溯性,，為生成式人工智能技術(shù)應(yīng)用劃定了紅線,，也為有效溯源和遏制虛假信息傳播提供了技術(shù)抓手。此外,，二者通過細(xì)化生成合成內(nèi)容管理規(guī)則,，推動了人工智能產(chǎn)業(yè)標(biāo)準(zhǔn)化進程，構(gòu)建了一個更加公平,、透明且高效的市場環(huán)境,。
