AI生成內容須有「專屬水印」！內地監管放大招

香港文匯報訊（記者 劉凝哲 北京報道）國家互聯網信息辦公室聯合工業和信息化部、公安部、國家廣播電視總局14日聯合發布《人工智能生成合成內容標識辦法》（下稱：標識辦法），自今年9月1日起施行。標識辦法明確生成合成內容製作傳播各主體的責任義務，重點解決「哪些是生成的」「誰生成的」「從哪裏生成的」等問題，推動由生成到傳播各環節的全流程安全管理。標識辦法明確人工智能生成合成內容服務提供者對文本、圖片、音頻、視頻、虛擬場景等內容，添加文字、角標、語音、節奏等顯式標識的方法，在內容生成合成環節提出了顯著提示公眾、防範混淆誤認的方案。

當前以ChatGPT、DeepSeek等為代表的生成式人工智能迅猛發展，借助人工智能生成合成文本、圖像、音頻、視頻、虛擬場景等，逐漸演變為重要的信息生產模式。

文件數據須加隱式標識

然而，伴隨技術門檻降低，虛假信息、深度偽造、惡意輸出等安全問題突出，加劇傳統信息安全風險的動態性、滲透性和全局性。雷軍、張文宏等名人都曾深受AI濫用之害，在剛剛結束的全國兩會上，規範人工智能生成內容也是代表委員們關注的焦點之一。

標識辦法明確，人工智能生成合成內容標識主要包括顯式標識和隱式標識兩種形式，顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現並可以被用戶明顯感知到的標識；隱式標識是指採取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

標識辦法又規定，任何組織和個人不得惡意刪除、篡改、偽造、隱匿規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

據介紹，配套標識辦法，強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》已由國家市場監督管理總局、國家標準化管理委員會正式批准發布。

香港文匯報記者查詢此前發布的《互聯網信息服務深度合成管理規定》發現，須添加顯式標識的，包括智能對話、智能寫作、合成人聲、人臉替換、人臉操控、沉浸式擬真場景等多種服務。標識辦法明確，要在生成合成內容的文件元數據中添加隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或者編碼、內容編號等製作要素信息；鼓勵在生成合成內容中添加數字水印等形式的隱式標識。

AI標識已成為國際慣例

「生成合成內容標識已成為國際慣例」，公安部第三研究所副所長金波在「網信中國」撰文指出，儘管各國對數字水印、數字指紋、加密元數據等標識技術的具體要求存在不同，對平台標識義務的強度設定也存在差異，但在從事後內容審核轉向生成端風險內嵌控制、提高人工智能治理技術能力的理念是一致的。標識辦法等出台，是中國人工智能法治建設進程中的重要一步。

中國工程院院士、浙江大學教授陳純認為，標識辦法等出台，共同聚焦人工智能生成合成內容服務安全風險，健全了人工智能生成合成內容標識規範，為人類駕馭智能文明提供了至關重要的制度性公共產品，標誌着中國在生成式人工智能領域邁出了構建安全可信生態的關鍵一步。

【特稿】工業AI需求速增 假貨摻雜企業受損

（香港文匯報記者 胡若璋 廣州報道）當人工智能日漸走進工業領域，怎麼判斷供應商AI技術的真偽效果？這是當前不少企業在尋求AI場景應用時常見的一些難點、痛點。14日，在廣州南沙越秀IPARK粵港智谷產業園區內，聚焦於公輔能源場景的工業AI科技公司蘑菇物聯舉行了一場工業AI的「打假」活動，披露當前工業AI應用中經常出現規則型偽AI、數據偽裝型AI、黑箱型AI、功能嫁接型AI等幾大類型，企業須仔細辨別工業AI的真偽效果，避免阻礙技術創新生態發展。

披着「AI皮」傳統軟件充斥市面

某製藥企業相關負責人黃先生對香港文匯報記者表示，他的工廠工程部很早期就開始接觸數智化系統。作為業內走在數字化改造尖端的企業，他們時常要面對絡繹不絕找上門來的AI供應商，甄別AI真偽效果花費他許多精力。「有些供應商將自己的工業AI產品說得神乎其神，但對很多常見的工業應用場景，卻沒辦法提出有針對性的AI方案。這對於一些沒有相關專業知識的人，很容易被這些看上去高大上又很唬人的詞彙給糊弄住。」黃先生無奈地說，「假AI」充斥市場會造成企業損失，嚴重的會耽誤創新發展進度，影響企業參與行業競爭。

廣東省工業互聯網專家委員會專家、蘑菇物聯創始人兼CEO沈國輝表示，近期調研了100位工業行業從業者，有77%的企業代表反饋，在尋求工業AI的場景應用時，判斷AI效果真偽成為他們尋求工業AI應用落地的第一道「攔路虎」。不少企業表示，需要借助專業人士的「火眼金睛」來幫忙甄別。

「凡是無法將AI可視化的都是不靠譜的。」沈國輝介紹說，市面上最為明顯的「假AI」特徵，就是停留在專有名詞堆砌的Power Point簡報階段，而真正AI效果客戶根本體驗不到。沈國輝「自爆家醜」說，公司曾有同事為了更快賣出軟件，把還沒有發布的AI技術寫到簡報裏，實際上那只是一堆概念和唬人的名詞，這就是典型的「假AI」。而直至今天，仍有諸多供應商大肆宣傳自有AI技術，但其本質都只是披着「AI」之皮的傳統軟件。

科企研垂直大模型甄別AI真偽

為了防止這些「假AI」流通市場，蘑菇物聯自主研發了工業公輔能源系統的AI垂直大模型靈知AI，它可掌握超20多類高耗能通用設備的設備機理和專家知識庫，具備問答、診斷、預測、控制四大模型能力，能有效助力製造業企業應用AI時快速甄別真偽。該模型已入選國家工業和信息化部人工智能賦能新型工業化典型應用案例。

深圳「孔雀計劃」海外高層次人才、香港中文大學系統工程與工程管理博士周子葉接受香港文匯報記者採訪時表示，工業企業不應為AI噱頭埋單，而應當為價值埋單。因此，真正的AI應該是可落地的，可創造可測量價值，且可持續創造價值，賦能產業高質量發展。

●