記者 喻琰

　　伴隨著人工智能技術(shù)的加速發(fā)展近年來，關(guān)于AI深度偽造技術(shù)、AI虛假泛濫等現(xiàn)象屢禁不止，日前國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》(以下簡(jiǎn)稱“《標(biāo)識(shí)辦法》”)，對(duì)AI內(nèi)容的標(biāo)識(shí)提出了三大核心要求，涉及顯式標(biāo)識(shí)、隱式標(biāo)識(shí)和平臺(tái)責(zé)任�！稑�(biāo)識(shí)辦法》自2025年9月1日起施行。

　　在專家看來，當(dāng)前監(jiān)管部門針對(duì)人工智能的治理，尤其是內(nèi)容治理，所遵循的思路是“小步快走”，而非追求大而全。這一思路也符合人工智能技術(shù)的發(fā)展現(xiàn)狀，與人工智能技術(shù)在大規(guī)模應(yīng)用中的產(chǎn)業(yè)場(chǎng)景相契合。

　　　AI生成營(yíng)銷內(nèi)容必須規(guī)范標(biāo)注

　　根據(jù)此次發(fā)布的《標(biāo)識(shí)辦法》，人工智能生成合成內(nèi)容標(biāo)識(shí)主要包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式，顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標(biāo)識(shí)；隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。

　　《標(biāo)識(shí)辦法》提出，服務(wù)提供者提供的生成合成服務(wù)，應(yīng)當(dāng)按照下列要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)：包括在文本的起始、末尾、中間適當(dāng)位置添加文字提示或通用符號(hào)提示等標(biāo)識(shí)，或在交互場(chǎng)景界面或文字周邊添加顯著的提示標(biāo)識(shí)；在音頻的起始、末尾或中間適當(dāng)位置添加語(yǔ)音提示或音頻節(jié)奏提示等標(biāo)識(shí)，或在交互場(chǎng)景界面中添加顯著的提示標(biāo)識(shí)等。《標(biāo)識(shí)辦法》明確，違反規(guī)定的，將由網(wǎng)信、電信、公安和廣播電視等有關(guān)主管部門依據(jù)職責(zé)，按照有關(guān)法律、行政法規(guī)、部門規(guī)章的規(guī)定予以處理。

　　中國(guó)科學(xué)院科技戰(zhàn)略咨詢研究院研究員肖尤丹向澎湃科技表示，此次新規(guī)雖然切口小，但應(yīng)當(dāng)把它放到生成式人工智能內(nèi)容治理的總體框架里，與算法備案管理、生成式人工智能服務(wù)管理、深度合成管理相互協(xié)調(diào)、共同發(fā)揮作用的角度去理解。

　　在肖尤丹看來，當(dāng)前人工智能的治理，尤其是內(nèi)容治理，所遵循的思路是“小步快走”，而非追求大而全。這種思路符合人工智能技術(shù)的發(fā)展現(xiàn)狀，也與人工智能技術(shù)在大規(guī)模應(yīng)用中的產(chǎn)業(yè)場(chǎng)景相契合。

　　專注于AI信息安全與數(shù)字資產(chǎn)保護(hù)，隱拓智安科技有限公司的工作人員萬(wàn)嗣芳向澎湃科技分析認(rèn)為，今后用戶刷到AI生成的明星廣告時(shí)，一眼就會(huì)看到“AI生成”提示，會(huì)避免被虛假宣傳誤導(dǎo)。對(duì)于AI公司和互聯(lián)網(wǎng)平臺(tái)來說，直觀的影響在于，使用AI批量生成營(yíng)銷內(nèi)容時(shí)，必須像給商品貼成分表一樣規(guī)范標(biāo)注，否則可能面臨處罰。

　　萬(wàn)嗣芳稱，這次文件明確要求，AI服務(wù)提供者和內(nèi)容傳播平臺(tái)必須采取措施對(duì)AI生成內(nèi)容進(jìn)行標(biāo)識(shí)�？梢灶A(yù)見，未來AI服務(wù)平臺(tái)和各類媒體平臺(tái)上都將更加清晰地展示相關(guān)標(biāo)識(shí)，幫助公眾更便捷地識(shí)別AI生成內(nèi)容和深度偽造信息，相應(yīng)由AI偽造帶來的謠言情況也會(huì)隨之減少。

　　肖尤丹認(rèn)為，接下來AI公司和平臺(tái)更需要適應(yīng)新規(guī)范下的運(yùn)營(yíng)流程。社會(huì)對(duì)該辦法出臺(tái)的預(yù)期比較穩(wěn)定，辦法也預(yù)留了半年左右的準(zhǔn)備時(shí)間，因此，對(duì)大多數(shù)AIGC服務(wù)提供者來說，履行辦法中的“標(biāo)識(shí)義務(wù)”并沒有太大的技術(shù)難度和合規(guī)成本。尤其是現(xiàn)在國(guó)內(nèi)主流的AI服務(wù)提供商，實(shí)際上已經(jīng)在采取類似的標(biāo)識(shí)方式。不過，對(duì)于那些提供接口服務(wù)或間接向公眾提供AI服務(wù)的公司來說，或許會(huì)需要一個(gè)技術(shù)調(diào)整與合規(guī)的過程。

　　對(duì)AI深度偽造病毒式傳播是一次“致命打擊”

　　澎湃科技注意到，《標(biāo)識(shí)辦法》中第十條明確規(guī)定，用戶使用網(wǎng)絡(luò)信息傳播服務(wù)發(fā)布生成合成內(nèi)容的，應(yīng)當(dāng)主動(dòng)聲明并使用服務(wù)提供者提供的標(biāo)識(shí)功能進(jìn)行標(biāo)識(shí)。

　　在肖尤丹看來，這一細(xì)則的好處在于，對(duì)于那些利用AI技術(shù)抄襲、搬運(yùn)內(nèi)容的新媒體營(yíng)銷號(hào)無(wú)疑是一次“致命打擊”。

　　肖尤丹稱，使用者在使用網(wǎng)絡(luò)信息服務(wù)發(fā)布生成合成內(nèi)容時(shí)，必須要添加相應(yīng)的隱式或顯式標(biāo)識(shí)，否則將無(wú)法通過合規(guī)要求。“一旦使用者在二次傳播過程中添加了自己的內(nèi)容，卻又刪除了原有的隱性標(biāo)識(shí)，那么從隱性標(biāo)識(shí)的角度來看，使用者就違反了保證標(biāo)識(shí)完整性和真實(shí)性的義務(wù)。這與標(biāo)識(shí)義務(wù)本身是不同的�！�

　　肖尤丹表示，《標(biāo)識(shí)辦法》制度未來的優(yōu)勢(shì)在于，過往對(duì)于生成式人工智能的監(jiān)管需要按照每個(gè)個(gè)案判斷，這對(duì)平臺(tái)來說監(jiān)管識(shí)別難度非常大。而該辦法出臺(tái)后，平臺(tái)方也可以追溯到服務(wù)提供者，明確其是否履行了標(biāo)識(shí)義務(wù)。

　　比如，如果使用AI偽造的聲音，系統(tǒng)要求在該聲音的前后段必須加上顯性標(biāo)識(shí)。同時(shí)，錄音文件本身也應(yīng)包含隱性標(biāo)識(shí)。如果有人直接搬運(yùn)并使用偽造聲音進(jìn)行模仿，那么傳播平臺(tái)理論上可以通過顯式標(biāo)識(shí)識(shí)別出來，可以有效避免AI偽造聲音在平臺(tái)大量傳播。

　　“標(biāo)識(shí)制度的主要目的是用較小的合規(guī)成本，較好地解決當(dāng)前AI技術(shù)快速發(fā)展帶來的新問題。因?yàn)闃?biāo)識(shí)制度的主要目標(biāo)是實(shí)現(xiàn)大規(guī)模、高可靠性和低成本的監(jiān)管�！毙び鹊ふf。

　　律師李昀鍇曾代理全國(guó)首例AI生成圖片著作權(quán)侵權(quán)案，他認(rèn)為，《標(biāo)識(shí)辦法》的核心是為了遏制AI偽造內(nèi)容的傳播，減少謠言、詐騙等社會(huì)危害，也能夠推動(dòng)AI技術(shù)在合法框架內(nèi)發(fā)展，保護(hù)公眾知情權(quán)。

　　如果真的出現(xiàn)被誤導(dǎo)和詐騙的情況，也可以通過標(biāo)識(shí)水印追溯到實(shí)際的侵權(quán)人、犯罪者。以后，各類平臺(tái)均可能強(qiáng)制要求標(biāo)注，未合規(guī)的內(nèi)容可能無(wú)法發(fā)布。

　　不過，李昀鍇指出，目前來看，隱式標(biāo)識(shí)在技術(shù)上能否被有效地規(guī)避和移除可能還需要各平臺(tái)繼續(xù)探索，尋找一條技術(shù)上可行的統(tǒng)一路線。

　　肖尤丹稱，AI技術(shù)發(fā)展和AI安全發(fā)展本身是“一體兩面”的關(guān)系，但近兩年，從投資上的熱情來看，大家更愿意投入人工智能技術(shù)發(fā)展，而不愿意投入人工智能安全方面。他認(rèn)為，此次《標(biāo)識(shí)辦法》的出臺(tái)，對(duì)于AI安全行業(yè)的發(fā)展也是一個(gè)利好的信號(hào)。

　　萬(wàn)嗣芳也坦言，在過去兩年，AI行業(yè)主要聚焦于模型能力和應(yīng)用的快速迭代上，安全問題往往被視為次要考量。《標(biāo)識(shí)辦法》的出臺(tái)將使企業(yè)意識(shí)到安全合規(guī)的重要性，推動(dòng)企業(yè)加大在安全能力建設(shè)方面的投入，相應(yīng)也為AI安全技術(shù)公司創(chuàng)造更多市場(chǎng)機(jī)遇。