AI換臉侵權造假「升級」 代表委員：壓實平台責任

（香港文匯報記者 俞晝 兩會報道）AI話題的火爆延續到了今年的全國兩會上，代表委員們在為AI如何賦能各行各業建言獻策的同時，對由AI引發的新問題也提出了許多審慎的思考。香港文匯報關注並訪問與會代表、委員，就AI大熱背後引發的隱憂提出思考與建議。

全國人大代表、小米集團董事長雷軍在今年兩會上提出五份建議，其中《關於加強「AI換臉擬聲」違法侵權重災區治理的建議》引發業界強烈共鳴。這份凝結着企業家切膚之痛的建議，源於去年國慶期間引爆社交媒體的「AI雷軍追罵事件」——當技術狂歡撞上法律真空，一場關於人工智能倫理的全民討論就此展開。

人工智能立法已是全球共識。中國於2023年8月15日起施行《生成式人工智能服務管理暫行辦法》，從而形成以該暫行辦法為核心，輔以數據安全法、個人信息保護法等單行法的人工智能規範。剛剛發布的最高人民法院工作報告也指出，將依法妥善審理涉人工智能糾紛案件，支持人工智能依法應用；懲治利用人工智能技術侵權行為，促進規範有序發展。

伴隨着人工智能技術的飛躍式提升，文、視、圖、聲等的合成和製作門檻大幅降低，AI生成的內容「李逵」「李鬼」難辨，不僅誤導消費者，也損害了被侵權公民的合法權益。為此，多位代表委員在全國兩會期間提出建議，亟須通過完善立法、強化技術監管、壓實平台責任等手段防範AI造假侵權。 

2024年國慶長假期間，短視頻平台湧現大量「雷軍」發言視頻。AI生成的「雷軍」不僅怒斥調休制度、吐槽遊戲氪金，甚至出現「用小米SU7撞人」等荒誕言論，相關話題瀏覽量突破1.2億次。儘管大多數網友將其視為娛樂，但仍有大量用戶通過官方渠道求證視頻真實性。對此，雷軍本人在社交媒體平台回覆了三個憤怒表情，表達自己的態度。

「AI換臉擬聲」濫用頻現

「人工智能深度合成技術的快速發展，推動了『AI換臉擬聲』在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。」雷軍話鋒一轉，「但同時也看到，『AI換臉擬聲』濫用成了違法侵權行為的重災區，易引發侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規模形象和聲譽損害，帶來社會治理等風險。」

在雷軍看來，AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點，給治理帶來較大挑戰。為此，他建議：加快單行法立法進程，在安全與發展並重的基礎上提升立法位階；強化行業自律共治，壓實平台企業等各方的責任和義務；加大普法宣傳的廣度力度，增強民眾的警惕性和鑒別力。

兩會期間，全國政協委員、內地知名演員靳東也回應了AI換臉導致的詐騙問題。「一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規則。」隨後，「靳東兩會建議AI換臉立法」話題一度登頂熱搜。

「必須承認，當下國內針對AI的法律法規不是很健全。」全國人大代表、四川省律師協會會長李世亮坦言，AI技術的迅猛發展在為生產生活帶來便利的同時，也引發了一系列法律問題。事實上，在2024年的全國兩會期間，李世亮就曾對AI引發的摩擦表達過看法。不過，彼時他仍對此持保守意見。當時他表示，專門的AI立法「還不用太着急，應該給予市場一定的發展空間」。

一年過去了，李世亮的觀點產生了變化。「AI的發展速度遠超人類想像。」李世亮舉例道，人工智能正快速融入各行各業，如養老機器人、醫療系統等等。「這些都是法律行為，法律行為會產生法律後果。產生了法律後果以後，責任該如何分擔？這必須要有法律規範。」李世亮認為，數據的合規性、著作權的歸屬、責任的承擔……一系列新問題都迫切需要立法支持。

可從生成式AI切入立法

「就目前的情況來看，要制定一部既要解決當下問題，又能充分考慮長遠的人工智能法難度極大。」全國政協委員、中華全國律師協會監事長呂紅兵坦言，「AI技術有着複雜性、隱蔽性等特徵，在查處違法違規問題時，執法機構面臨調查難、取證難、定性難等諸多難題。」因此，呂紅兵建議，可以從生成式AI這一社會最關心最現實的問題切入，重點加快出台相關立法。

「其中，AI生成內容過程中的著作權保護是個核心又敏感的問題，」呂紅兵進一步闡釋道，這個問題包含兩個方面：輸入階段，使用語料是否構成侵權；產出階段，涉及生成作品性質和作者資格，即是否足以確權及維權。「從國際慣例看，輸入端使用作品相對寬鬆，但前提是文本挖掘和數據訓練使用為非商業性，一旦進入商業領域則版權應受到嚴格保護。」

此外，從發展的角度來看，規定輸入階段數據必須得到許可，「實踐中做不到，也不利於研發。」因此，呂紅兵建議：應當按照更好發揮數據要素作用的立法本意，淡化所有權、強化使用權，明確使用原則，在涉及商業使用時，要求技術開發者支付報酬，由其與權利人組織協商解決。

【特稿】《紅樓夢》成打戲 「魔改」侵蝕經典

《甄嬛傳》變身「槍戰片」，《紅樓夢》充斥「武打戲」，孫悟空騎着摩托車揚長而去……打開短視頻平台，大量被AI「魔改」的經典劇目片段點擊率超過百萬。「一開始我還覺得挺搞笑的，刷到就點進去看，後面越看越不是滋味。」短視頻用戶萬女士告訴香港文匯報記者，「在平台的不斷推送下，我現在滿腦子都是舉着手槍的安陵容和喝着紅酒的諸葛亮，都快忘記他們之前的形象了。」

萬女士的困惑在全國兩會期間也引發了文藝界代表委員們的熱議。全國政協委員、中國國家話劇院一級演員張凱麗指出，AI「魔改」視頻創作者未經授權便使用原影視作品的素材，對經典角色進行惡搞、醜化，篡改劇情，傳播低俗、暴力等不良信息，既侵犯了著作權人的合法權益，也侵犯了演員的肖像權和名譽權。

記者注意到，去年12月7日，國家廣播電視總局網絡視聽司發布《管理提示（ AI魔改）》，指出近期AI「魔改」視頻以假亂真、「魔改」經典現象頻發，要求短視頻平台進行排查清理。張凱麗表示，這是抵制亂象、保護經典，引導AI技術合規創新的重要舉措，助力促進網絡視聽產業健康發展。

籲健全AI影視審核機制

「應明確哪些情形下AI創作構成侵權與違法，為打擊侵權行為提供更為明確清晰的法律依據，從而切實維護著作權人的合法權益。」張凱麗坦言，這需要進一步完善法律法規，有效遏制侵權和違規行為。「除了創作者需要審視自己的行為，平台也應建立健全AI影視審核機制，對涉及版權問題、違背公序良俗、惡意篡改經典等內容進行嚴格把控。」

「AI技術本應是驅動文化創新的積極力量，而非侵蝕經典的 『邪風』，」張凱麗建議，相關部門應牽頭成立影視短視頻行業協會，制定AI影視短視頻創作的行業規範與自律公約，引導從業者自覺遵守法律法規與道德規範。「期待建立起規範有序的影視短視頻創作和傳播環境，激發創作者的創作積極性，提高作品質量，促進影視行業的高質量發展。」

【記者手記】啟動加速度 更需安全帶

（香港文匯報記者 王珏 兩會報道）連日來，全國政協委員、內地知名演員靳東兩會倡議AI換臉立法的話題一直佔據社交平台的熱搜，並在網上引發熱烈討論，反映出公眾對飛速發展中的新興技術被濫用的深切憂慮。AI生成的假視頻、假聲音（如模仿明星帶貨、偽造專家發言），不僅損害了名人的個人形象和聲譽，也讓用戶尤其是老年人真假難辨，加劇社會信任危機。此外，AI訓練依賴海量數據，讓信息洩露成了新隱患；它還善於一本正經地胡說八道，生成的虛假新聞和深度偽造內容在網絡上廣泛傳播，擾亂了公眾的信息判斷力和社會秩序。

須加強監管 方長治久安

如何用人類智慧駕馭人工智能，趨利避害地使用技術，是今年兩會的熱點話題，更是AI時代的重要課題。全國政協委員周鴻禕警告，大模型一旦胡亂編造，AI「幻覺」可能帶來嚴重後果；全國人大代表李東生建議強制標識AI生成內容；全國政協委員呂紅兵則倡議，嚴懲利用AI深度合成技術的網絡暴力。還有不少代表委員強調，要長治久安，必須在立法層面加強監管。全國人大代表雷軍建議，加快單行法立法進程，在安全與發展並重的基礎上提升立法位階；強化行業自律共治，壓實平台企業等各方的責任和義務；加大普法宣傳的廣度力度，增強民眾的警惕性和鑒別力。全國人大代表陳達也表示，通過立法明確AI技術的使用範圍和條件，可以引導企業和社會各界在合法合規的框架內發展AI技術，推動「科技向善」，讓技術更好地服務於社會。

杭州互聯網法院首例判決：平台幫助侵權也算侵權

在AI技術加持下，人人都能成為「藝術家」。只需輸入幾個關鍵詞，AI就能在幾秒內生成精美圖片。這種創作方式的低門檻和高效率，使得AI生成內容呈現爆發式增長。但狂歡背後，版權問題日益凸顯。AI模型訓練需要海量數據，這些數據中難免包含受版權保護的作品，而當AI「學習」這些作品後生成的新內容，就有可能帶有原作的獨創性特徵，進而構成侵權。

當AI生成內容觸及法律紅線時，平台應當承擔何種責任？近日，杭州互聯網法院對全國首例生成式人工智能平台侵害信息網絡傳播權案（即「奧特曼杭州案」）作出一審判決，認定被告杭州某智能科技公司構成幫助侵權，判決其停止侵權並賠償經濟損失及合理費用3萬元。

據了解，在該案件中，原告係奧特曼系列形象的知識產權權利人，被告運營某AI平台，該平台提供Checkpoint基礎模型和Lo-RA模型，支持圖生圖、模型在線訓練等諸多功能，平台用戶可以通過上傳奧特曼圖片，選擇平台基礎模型，調整參數進行訓練後生成與奧特曼形象實質性相似的作品並進行下載、發布或分享鏈接。

在一審判決中，杭州市互聯網法院認為，被告公司雖然提供生成式人工智能服務，但輸入端侵權訓練素材由用戶上傳，被告公司並沒有與用戶共同提供侵權作品，不構成直接侵權。綜合考量被告公司提供生成式人工智能服務性質、人工智能技術發展水平、可能引發的侵權後果、平台盈利模式等因素，認定被告公司構成侵害信息網絡傳播權的幫助侵權行為。

點此進入2025全國兩會專題