香港文匯報訊（記者 郭瀚林 北京報道）人工智能技術的快速發展給社會經濟和民眾生活帶來了便利，但同時也引發了諸多問題。不法分子使用「AI換臉」「聲音克隆」等方式侵犯個人隱私，或利用AI技術製作和傳播虛假信息、製作色情低俗內容等行為屢見不鮮。為規範AI服務和應用，促進行業健康有序發展，保障公民合法權益，中央網信辦近日印發通知，在全國範圍內部署開展為期三個月的「清朗·整治AI技術濫用」專項行動。專項行動將分兩個階段開展，違規AI產品、重點領域安全風險、利用AI製作發布謠言和不實信息等突出問題將被重點整治。

「AI換臉」「AI換聲」技術廣泛使用但很多涉及侵權。2024年12月，一則國家傳染病醫學中心主任張文宏醫生「帶貨」的消息衝上社交平台熱搜。有網民利用AI技術假冒張文宏醫生的形象和聲音推銷各類保健品，儘管存在口形不符等瑕疵，仍令不少老年人信以為真、上當下單。此事令張文宏本人不堪其擾，向媒體透露自己多次投訴無效。

利用AI技術製造謠言、散布色情內容的現象也頻發。年初，西藏日喀則市定日縣突發6.8級地震後，一張孩童被壓在廢墟下的AI生成圖片很快被一些自媒體賬號配上「日喀則地震」相關標籤迅速傳播，以此來博取眼球、收割流量。

首階段重點整治六類突出問題

中央網信辦有關負責人表示，此次專項行動分為兩個階段進行。第一階段主要聚焦於AI技術的源頭治理，重點清理違規的AI應用程序，強化對AI生成內容的管理，並推動各大網站平台提升檢測和鑒別能力。

具體來說，將重點整治六類突出問題，包括未備案的違規AI產品，在未經授權同意情況下，克隆、編輯他人聲音、人臉等生物特徵信息，侵犯他人隱私等行為；傳授利用違規AI產品偽造換臉視頻、換聲音頻等教程信息，售賣違規「語音合成器」「換臉工具」等商品信息；訓練語料管理不嚴，使用侵犯他人知識產權、隱私權等權益的信息；安全管理措施薄弱、未落實內容標識要求以及重點領域的安全風險等現象。

專項行動的第二階段聚焦利用AI技術製作發布謠言、不實信息、色情低俗內容，假冒他人、從事網絡水軍活動等突出問題，集中清理相關違法不良信息，處置處罰違規賬號、MCN機構和網站平台。包括利用AI製作發布謠言，無中生有、憑空捏造涉時事政治、公共政策、社會民生、國際關係、突發事件等各類謠言信息，借突發案事件、災難事故等，編造、捏造原因、進展、細節，以及通過AI換臉、聲音克隆等深度偽造技術，假冒專家、企業家、明星等公眾人物，欺騙網民，甚至營銷牟利等行為。

該負責人強調，各地網信部門要充分認識專項行動對於防範AI技術濫用風險，維護網民合法權益的重要意義。切實履行屬地管理責任，督導網站平台對照專項行動有關要求，健全AI生成合成內容審核機制，提升技術檢測能力，做好整改落實。加強人工智能相關政策的宣傳推廣和人工智能素養的科普教育，引導各方正確認識和應用人工智能技術，不斷凝聚治理共識。