據央視新聞報道，當下，在短視頻平台或者是直播平台上購物成了很多人的新選擇。刷視頻的時候，還經常會冒出熟悉的明星，用流利的鄉音推銷農產品，有的還進行直播帶貨。這些所謂的明星很可能是仿冒的。近段時間，網絡上一些商家利用AI技術仿冒帶貨。有的借助名人效應，仿冒專家學者、奧運冠軍、影視明星；也有的借助產地效應，冒充知名品牌。消費者、粉絲難辨真偽，慕名下單，卻不知道自己被蒙了。這些遊走在灰色地帶的「AI李鬼」，正拷問着我們的數字治理能力。
近段時間，在一些手機平台的網絡直播間，一些打着樟樹港辣椒旗號的種子，成了主播推銷帶貨的重點。記者注意到，這些直播間的銷售人氣很旺，不時有人諮詢或下單購買。
湖南岳陽的樟樹港辣椒屬國家地理標誌農產品，有400多年的種植歷史，因量少質優，特級產品可賣到300元一斤。
而在這些網絡直播間，記者看到，畫面中展示的辣椒成串垂掛，產量奇高。當記者在直播間詢問辣椒種子是否保真，種出來有沒有這麼大時？主播紛紛表示，所見即所得。
奇怪的是，就在主播回答提問的時候，背景視頻卻出現了農戶站在快要沒過膝蓋的深水中採摘辣椒的場景，這樣的場景顯然不符合常理，而類似的畫面在其他直播間也有出現。
當記者追問這些場景是不是AI生成的時，主播並沒有正面回應。
為了一探究竟，記者找到了相關技術專家了解情況。
奇安信集團副總裁 劉浩：畫面中一位女士拿了辣椒以後後退，甚至她整個腿部下半身和辣椒叢融為一體，這明顯是有悖真實世界規律的，這個在行業裏面有專業名詞叫『穿模』。數字世界內容的建模現在核心還是基於語言，而對於真實世界的物理規律，它是沒有辦法感知和預測的。
記者了解到，「穿模」是典型的AI生成視頻中容易出現的紕漏。
技術專家指出，像直播間無人機噴洒農藥的片段，水霧的形態呈現規則的三角形，而不是自然的霧化狀態，這都是技術上的漏洞。
隨後，記者來到湖南岳陽樟樹港辣椒的產地，進一步求證。
湖南岳陽湘陰縣樟樹鎮高級農藝師黃源介紹，樟樹港辣椒植株很矮小，視頻中的辣椒植株有一人多高，花根本就不是辣椒的花。第二，葉片也不是辣椒樹苗葉片的形狀。這個視頻的辣椒從產量上來看，每畝可能超過了6000斤還不止，但是樟樹港辣椒的產量大概每畝兩千斤到三千斤。
法律專家指出，利用AI製作不符合現實或不存在的商品內容，甚至冒用品牌進行牟利，涉嫌民事侵權甚至刑事犯罪。
中國法學會消費者權益保護法研究會副秘書長 陳音江：涉嫌侵犯消費者的知情權和選擇權。《中華人民共和國消費者權益保護法》和《中華人民共和國電子商務法》都明確規定，經營者在推薦商品和服務的信息的時候，要做到真實、準確、全面。如果經營者故意通過AI視頻或者圖片來欺騙消費者，讓他誤以為可以長出這樣，但實際上長不出圖片和視頻的樣子，這種行為還可能會構成欺詐。
中國社會科學院法學研究所研究員 支振鋒：這裏邊還涉及對市場秩序的破壞，對於原產地的正牌樟樹港辣椒來講，他就構成了民事上的侵權。量比較大的話，有可能構成刑法上的犯罪。銷售的是種子，還可能違反了《中華人民共和國種子法》的相應規定，情況可能會更嚴重。
事實上，除了利用AI技術仿冒知名產品、馳名品牌帶貨；不法商家還利用AI技術仿冒名人非法牟利，一些專家學者，奧運冠軍、影視明星等公眾人物成為「被代言」的對象。
這不僅侵犯了當事人的人格權，還消解了這些公眾人物的知名度和信譽度，更誤導了消費者。
一段北京大學國家發展研究院李玲教授的採訪視頻，被不法人員利用AI技術將其篡改為一段虛假的推銷視頻，在網絡上大肆傳播。
李玲教授公開發表聲明：網上出現了大量假冒本人推銷醫藥書籍和治療手段的虛假視頻，大多是人工智能AI合成。本人從未在任何平台推銷過醫藥書籍和醫療產品，請大家不要上當受騙。
然而，對於普通大眾來講，想要分辨清楚傳播內容是否是AI仿冒的並不容易，被蒙在鼓裏，慕名而來購買這些產品的人也不在少數。
記者在銷售評論區看到，有不少購買者對產品質量提出質疑；有的提出產品並非公眾人物本人帶貨；有的甚至直呼上當受騙。
中國政法大學副教授 朱巍：現在看到的一些編輯的人臉、包括聲音在內，按照《中華人民共和國民法典》規定，都屬於當事人、權利人自己的人格權利，未經允許任何人不得侵害。不僅不能直接用，也不能使用當事人的人臉信息、聲音信息進行深度合成，這屬於偽造信息，按照《中華人民共和國網絡安全法》的規定，屬於違法信息。
今年9月1日，國家網信辦等四部門聯合發布的《人工智能生成合成內容標識辦法》正式施行，該辦法明確所有AI生成的文字、圖片、視頻等內容都要「亮明身份」，需要添加顯式標識和隱式標識。
其中明確，平台在服務提供者的內容上架或上線時要進行審核，核驗生成合成內容標識，對未標識或疑似生成內容要添加風險提示，力求在傳播端阻斷虛假信息的擴散。
調查中記者發現，當前，各大網絡平台普遍升級AI內容識別系統，要求對AI生成作品添加標註，但仍有一些人採用多種手段繞過審核。比如，通過數據篡改、轉換編碼等形式，處理後上傳，平台就難以判定為AI生成內容。
事實上，AI技術濫用引發的問題複雜多變，法律法規的完善僅是底線要求。
截至目前，我國生成式人工智能產品的用戶規模已達2.3億人。隨着AI技術的迅猛發展和生成式人工智能的快速迭代，各種紛雜的人工智能生成信息讓人眼花繚亂，有時難辨真假，這也給監管部門和平台治理提出了新的挑戰。
令人擔憂的是，技術上的迭代升級也讓這些仿冒內容的防範難度更大。
在過去，需要一定技術門檻和成本投入的深度偽造，在AI大模型的助力下，不再需要長時間的深度學習和數據訓練，就能在幾分鐘內生成仿冒的內容，逼真程度更是驚人。
在一家技術公司的辦公室，技術人員現場給記者拍攝了一張照片，短短几分鐘的時間，便通過AI大模型將這張照片生成為一段直播帶貨視頻。
同時，記者手裏的礦泉水變成了紅酒；身上穿的T恤衫變成了西服，還實現了純正的英文帶貨推銷。
揪出AI「李鬼」，將仿冒者打回原形，還需搭起多方協同的「立體防線」。平台應當扛起責任，進一步升級AI識別技術，用數字水印、區塊鏈存證等手段增強鑒偽追溯能力，避免AI仿冒虛假信息進入傳播平台。
法律法規也需細化，進一步明晰標識規範、回溯機制，追責機制。
而對於技術開發者和使用者，更應該守住「科技向善」的底線，不把商業利益凌駕於社會責任之上。
AI仿冒帶貨不僅侵犯了被仿冒人士和品牌的權利，也存在欺詐嫌疑，更觸動了數字社會賴以存續的信任根基。AI「李鬼」越來越像真的，作為消費者，我們自己當然要盡可能擦亮眼睛去甄別，對所謂「傾情奉獻」的「明星代言」，保持理性判斷，避免掉進消費陷阱，但是靠普通消費者的識別能力來防偽是遠遠不夠的，更需要平台和相關部門擔負起把關的責任，通過技術手段和治理能力的提升，用系統性力量，守好「真」的邊界。唯有全社會形成共同抵制AI欺詐的合力，才能以「科技」之筆，繪就「向善」未來。
0 / 255