內地新規 AI生成合成內容須顯著標識

規範製作傳播各環節責任義務 不得惡意刪改偽造隱匿

香港文匯報訊（記者 劉凝哲 北京報道）國家互聯網信息辦公室聯合工業和信息化部、公安部、國家廣播電視總局14日聯合發布《人工智能生成合成內容標識辦法》（下稱：標識辦法），自今年9月1日起施行。標識辦法明確生成合成內容製作傳播各主體的責任義務，重點解決「哪些是生成的」「誰生成的」「從哪裏生成的」等問題，推動由生成到傳播各環節的全流程安全管理。標識辦法明確人工智能生成合成內容服務提供者對文本、圖片、音頻、視頻、虛擬場景等內容，添加文字、角標、語音、節奏等顯式標識的方法，在內容生成合成環節提出了顯著提示公眾、防範混淆誤認的方案。

當前以ChatGPT、DeepSeek等為代表的生成式人工智能迅猛發展，借助人工智能生成合成文本、圖像、音頻、視頻、虛擬場景等，逐漸演變為重要的信息生產模式。

文件數據須加隱式標識

然而，伴隨技術門檻降低，虛假信息、深度偽造、惡意輸出等安全問題突出，加劇傳統信息安全風險的動態性、滲透性和全局性。雷軍、張文宏等名人都曾深受AI濫用之害，在剛剛結束的全國兩會上，規範人工智能生成內容也是代表委員們關注的焦點之一。

標識辦法明確，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現並可以被用戶明顯感知到的標識；隱式標識是指採取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

標識辦法又規定，任何組織和個人不得惡意刪除、篡改、偽造、隱匿規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

據介紹，配套標識辦法，強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》已由國家市場監督管理總局、國家標準化管理委員會正式批准發布。

香港文匯報記者查詢此前發布的《互聯網信息服務深度合成管理規定》發現，須添加顯式標識的，包括智能對話、智能寫作、合成人聲、人臉替換、人臉操控、沉浸式擬真場景等多種服務。標識辦法明確，要在生成合成內容的文件元數據中添加隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等製作要素信息；鼓勵在生成合成內容中添加數字水印等形式的隱式標識。

AI標識已成為國際慣例

「生成合成內容標識已成為國際慣例」，公安部第三研究所副所長金波在「網信中國」撰文指出，儘管各國對數字水印、數字指紋、加密元數據等標識技術的具體要求存在不同，對平台標識義務的強度設定也存在差異，但在從事後內容審核轉向生成端風險內嵌控制、提高人工智能治理技術能力的理念是一致的。標識辦法等出台，是中國人工智能法治建設進程中的重要一步。

中國工程院院士、浙江大學教授陳純認為，標識辦法等出台，共同聚焦人工智能生成合成內容服務安全風險，健全了人工智能生成合成內容標識規範，為人類駕馭智能文明提供了至關重要的制度性公共產品，標誌着中國在生成式人工智能領域邁出了構建安全可信生態的關鍵一步。

AI造假惡劣事件簿（部分）

「被雷軍罵七天」事件：2024年國慶，各大短視頻平台湧現大量AI合成的小米集團創始人「雷軍罵人」視頻，原來是網友通過AI平台複製雷軍的聲音生成。視頻中，粗鄙的罵聲令雷軍形象受損，後來AI平台下架了雷軍語言模型。今年全國兩會上，身為全國人大代表的雷軍就此提出加強AI換臉擬聲違法侵權治理的建議。

張文宏被冒名帶貨：2024年底，不法分子利用深度偽造技術偽造張文宏醫生的形象和聲音，直播推銷蛋白棒，導致公眾受騙。張文宏本人多次投訴無效，稱此類虛假信息如「蝗災」般氾濫，嚴重損害其專業形象 。

「假靳東」詐騙老年人：AI生成的虛假靳東賬號通過情感誘導騙取老年人錢財。作為全國政協委員的靳東早前也在全國兩會上呼籲加強監管。

MCN機構日生成數千篇假新聞：2024年6月中旬，一家MCN機構的實際控制人王某某因利用AI軟件生成虛假新聞並大肆傳播，擾亂公共秩序，被警方行政拘留。據通報，王某某經營5家MCN機構，運營賬號842個，自今年1月以來，王某某通過AI軟件生成虛假新聞，最高峰一天能生成4,000至7,000篇。

民眾偽造災難現場干擾救援：2024年初發生的雲南山體滑坡災害中，楊某某利用AI生成虛假新聞稿件，捏造傷亡數據，並通過自媒體平台傳播，引發社會恐慌。此後，公安機關對楊某某處以行政拘留並罰款。2024年底西藏定日發生地震後，一張「小男孩被埋」的圖片在社交媒體上瘋傳，但最後被證實是AI生成，造成惡劣影響。

●整理：香港文匯報記者 劉凝哲