全國首例AI代寫「種草筆記」案宣判　為「數字泔水」治理劃紅線

近期，網絡上出現了一批「一鍵生成爆款種草筆記」的AI寫作工具，這些工具以極低的成本，批量炮製虛假消費體驗和商品推薦。近日，中央網信辦部署開展「清朗·整治AI應用亂象」專項行動，聚焦利用AI技術生成「數字泔水」、製作發布虛假信息等問題，堅決清理違法不良信息，依法處置處罰違規賬號、MCN機構和網站平台。

調研發現：三成用戶對AIGC內容接受度不高

「輸入幾個關鍵詞，AI幫你全自動寫出爆款種草文案」在各大短視頻平台和二手交易網站上，「利用AI自動化起號」「批量做矩陣號」成了不少網絡課程的噱頭。

記者搜索發現，類似的課程及工具在網絡上有不少，在二手平台，花幾毛錢就可以買到破解版軟件及教學視頻。

在網絡投訴平台上，一款被多位消費者投訴的AI寫作助手，終身會員199元，提供工作總結、論文撰寫、小說創作、短視頻腳本、社交平台筆記標題生成等上百種服務，記者僅輸入筆記主題，不到一分鐘的時間，該款工具生成了20個「爆款標題」。在商品推薦文案功能中，輸入商品名稱、品牌等幾個要素，可以瞬間生成幾百字的種草筆記。這些偽裝成真人親測的分享內容，在生成的過程中，不需要任何真實出行經歷、產品使用體驗，完全由AI杜撰、虛構。

無論是對於平台、創作者還是龐大的用戶群體，AI批量生成的低質內容都會帶來前所未有的衝擊。

某社交平台社區用戶信任中心負責人介紹，在做大範圍用戶調研時發現，有接近三成的用戶對於AIGC的內容接受度並不高。

全國首例涉AI代寫「種草筆記」不正當競爭案宣判

近日，浙江省杭州市中級人民法院披露了一起涉及某社交平台AI批量代寫種草筆記典型案例，作為全國首例涉及AI代寫「種草筆記」的不正當競爭案件，判決為生成式人工智能服務提供者劃定了合理的注意義務邊界。

據介紹，原告是知名社交平台的經營者，該平台規則和平台公約均強調要真實體驗和經歷分享，本案被告B公司和C公司共同運營一款AI寫作工具，該工具可定向為用戶提供上述社交平颱風格的種草文案、旅遊攻略等內容的一鍵生成服務，並誘導用戶發布文案到該社交平台。原告認為被告的行為破壞了該社交平台真實的種草內容生態，向法院提起訴訟，要求後者停止著作權侵權及不正當競爭行為。

法官助理 張宗濱：本案被訴的這個AI寫作工具，有網頁版、App、微信小程序三種版本。它的熱門模塊直接展示了某社交平台種草文案、旅遊攻略、筆記標題等服務模塊，並且服務模塊的名稱直接採用了該社交平台相關的命名，並直接使用根據產品特點幫你生成「符合平台調性的分享文案」等宣傳語。點擊一鍵創作就可以直接生成一篇幾百字繪聲繪色的一個文案的內容。

張宗濱介紹，本案的核心爭議焦點主要是：針對該社交平台定向提供生成式人工智能服務是否構成不正當競爭。《中華人民共和國反不正當競爭法》第二條規定，不正當競爭行為是指經營者在生產經營活動中，違反本法規定，擾亂市場競爭秩序，損害其他經營者或者消費者的合法權益的行為。

隨着我國《網絡反不正當競爭暫行規定》《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法》等文件落地，國家層面對AI服務提供者的合規義務提出了明確要求：此類服務應當尊重知識產權、商業道德。在審理中，法院首先明確了原告通過長期經營積累的真實內容生態，屬於受法律保護的競爭性權益。

張宗濱：A公司通過長期的經營，投入了大量的成本、人力、物力，產生和積累了大量的種草筆記內容，形成了以真實體驗為核心的種草內容生態。這個生態也是其獲得商業利益和競爭優勢的核心資源，所以我們認為《中華人民共和國反不正當競爭法》可以保護的競爭性權益。

而基於生成式人工智能服務的特點，被告無論是從行為方式還是行為目的來說，沒有盡到合理注意義務。

張宗濱介紹，在本案中，法院創新性地提出了「四要素判定法」，判決被告B、C公司賠償原告經濟損失及合理開支共計10萬元。

第一，被訴服務是否屬於生成式人工智能服務。

第二，被訴服務是否以特定場景作為應用層？結合到本案當中來，被訴服務的模塊名稱直接使用了某知名平台種草文案等表述，並且它是以該社交平台作為特定的商業應用層，而並非通用的AI工具。

第三，被訴服務是否帶有明確的指向性和誘導性？結合本案當中被訴的服務模塊，都是要誘導用戶發布未經真實體驗的相關的文案的內容。

第四，關於被訴服務是否屬於營利性的商業行為，結合到本案當中，該AI寫作工具的相關頁面就顯示終身會員是168元，年會員是98元，月會員是40元，具有明確的商業利益驅動。

從治理的角度來說，該案判決的生效不僅是對原告合法訴求的回應，也明確了生成式人工智能服務提供者合理的注意義務邊界，為治理提供了參照準則。

張宗濱認為，未來要關注模型研發、內容生成到合規管控等多個環節，形成全鏈條共治格局。

首先，要確保訓練的數據和模型設計合規，不得將模型定向優化為生成特定平台的違規內容。

第二，要加強風險提示和內容管控，要以顯著的方式提示AI生成內容的局限性，明確禁止用於發布虛假的信息，也要遵守特定的平台規則，限制定向用於特定平台的違規的場景。

第三，要做好內容標識和用戶數據保護。

第四，要建立投訴舉報機制，對於違法或侵權的內容要及時處置。

（來源：中央廣電總台）