內地整治AI亂象 嚴打「魔改」經典 淨化「數字泔水」 打擊換臉換聲侵權 清理邪典欺凌等內容

為規範AI服務應用、淨化網絡生態、保障公眾文化權益與青少年健康成長，中央網信辦4月30日通報，近日啟動為期4個月的「清朗·整治AI應用亂象」專項行動。據悉，此次行動將重點整治利用AI技術歪曲解構傳統文化、批量生成低質「數字泔水」等突出問題，通過源頭治理與集中整治雙線並行，遏制AI技術濫用對文化傳承與信息環境的侵蝕，推動AI行業在法治軌道上健康發展。

●文：香港文匯報記者 趙一存 北京報道 圖：網上圖片

中央網信辦有關負責人表示，此次專項行動分兩個階段開展。第一階段重點整治7類突出問題，包括未按規定履行大模型備案登記義務、安全審核能力不足、大模型訓練語料安全、AI數據投毒、生成合成內容標識落實不到位等問題，強化AI技術源頭治理。其中，「AI數據投毒」即通過篡改語料、偽造數據、利用GEO技術惡意營銷等投毒行為將被嚴查，教授投毒方法或兜售相關工具的行為同樣在整治範圍內。

顛覆重要人物設定 惡搞精神內涵

專項行動的第二階段將「利用AI『魔改』經典、生成『數字泔水』」列為首要整治的突出問題。所謂「魔改」，並非鼓勵創新的二次創作，而是指濫用AI技術對古典名著、經典影視作品進行歪曲解構，植入低俗暴力內容，顛覆重要人物設定，惡搞其精神內涵。

與此同時，批量生成的「數字泔水」正成為污染網絡空間的另一大頑疾。「數字泔水」特指由AI批量生產、邏輯混亂、價值空洞、同質化嚴重的低質內容。這些內容可能是為了博取流量而炮製的「雞湯網文」「霸總爽劇」，也可能是渲染「父母偏心」「婆媳矛盾」等家庭衝突的劇本，以極低成本被大量製造和分發，稀釋了真實、優質原創內容的生存空間，導致網絡環境陷入「劣幣驅逐良幣」的惡性循環。

假冒公眾人物發布不實言論

除了上述內容亂象，第二階段的整治行動還劍指虛假信息與侵權假冒行為。相關部門將嚴厲打擊利用AI生成合成涉時事政治、公共政策等領域的虛假不實信息，特別是假冒黨政軍機關、新聞媒體發布假新聞的行為。針對假冒仿冒他人的亂象，重點整治利用AI「換臉」「換聲」技術假冒公眾人物發布不實言論、謀取私利，以及未經授權生成與公眾人物的虛假合影、不當使用AI「復活逝者」等行為。此外，製作發布暴力血腥、低俗擦邊內容，以及侵害未成年人權益的「邪典」視頻、網絡欺凌內容也在清理之列。

針對網絡水軍活動與違規AI應用，專項行動同樣劃定了紅線。利用AI「託管」技術模擬真人批量註冊賬號、刷量控評、製造虛假輿論熱點的行為將被依法處置。同時，製作傳播仿冒、套殼AI網站和應用程序，以及提供色情陪聊、「一鍵脫衣」、AI算命等違規功能服務的行為，均屬於重點打擊對象。

整治侵害未成年人權益問題

第二階段專項行動特別強調將着重整治侵害未成年人權益問題，包括生成合成傷害、惡搞未成年人形象的內容，實施網絡欺凌。特別是以未成年人喜愛的動畫人物或玩偶形象為原型，生成合成兒童「虐向」「邪典」等視頻，或無底線「二創」版權動畫，誤導未成年人認知。

中央網信辦有關負責人強調，各地網信部門要充分認識專項行動對於推動AI應用規範有序發展、維護網民合法權益的重要意義，切實履行屬地管理責任，督導網站平台對照整治重點，深入自查自糾，全面排查問題漏洞，完善長效治理機制，有效提升技術防治能力，確保專項行動取得實效。