
BBC揭不法分子避過審查 警憂魔爪伸向現實世界幼童
香港文匯報訊 人工智能(AI)技術不斷發展,濫用該技術作非法用途的問題也愈來愈受關注。英國廣播公司(BBC)前日報道,有不法分子正利用圖像生成式AI工具,藉真實或繪製的兒童素材,生成包括性侵兒童甚至嬰兒在內的色情圖像,再利用付費社媒傳播。AI專家和執法部門代表均警告稱,濫用AI技術問題若不加以監管,不法分子日後恐會將魔爪伸向現實世界的幼童,更多兒童將受到孌童癖罪犯傷害。
BBC引述自由撰稿記者希普尚克斯持續數月的調查報告顯示,英國AI公司「Stability AI」牽頭研發的生成式AI工具「Stable Diffusion」,是不法分子常用的軟件之一。該軟件允許用戶使用文字描述想要創造的圖像內容,雖然公司現時在程式代碼中設有敏感詞彙限制,但不法分子多會使用公司早期對外公布的開源版本,刪除所有限制條件後再不斷調整,直至生成滿意的兒童色情圖像。
「每月製作至少1000圖片」
希普尚克斯透過日本圖片創作分享網站「Pixiv」追蹤部分孌童癖群組,這些群組規模可達約100人,其中不少用戶以工業生產的規模製造AI兒童色情圖像,「他們不但討論年輕女孩,還會利用幼童的素材,有人直言他們的目標是『每月製作至少1,000張圖片』。更可怕的是,他們會用真實的虐童圖像和影片訓練AI,我不知道該如何形容這種做法。」
月費65元兜售兒童色情圖像
希普尚克斯提到,許多孌童癖用戶會透過Pixiv提供連結,指向美國內容共享網站「Patreon」獲取避開審查的內容。Patreon擁有逾25萬創作者,用戶只需每月支付3.85美元(約30港元),就可以支持自己喜歡的創作者。調查發現該平台上確實有大量AI生成的兒童色情素材,創作者甚至會依照用戶要求提供不同報價,有人更聲稱「我用電腦訓練我的女兒們,她們(表現得)非常服從。」還有人以每月8.3美元(約65港元)價格兜售兒童色情圖像。
Stability AI回應BBC查詢時強調,平台會禁止出於非法或不道德目的濫用技術的行為,「我們強烈支持當局的執法行動,打擊濫用我們的產品作非法用途的人。」Patreon負責人亦稱,AI相關的有害內容在互聯網上擴散,情況令人擔憂,「平台奉行零容忍政策,創作者不能創作或分享涉及未成年人士的色情內容。」
英國國家警察局長委員會(NPCC)兒童保護事務負責人克里奇利擔憂,AI兒童色情圖像足可以假亂真,會加大執法部門打擊和監管難度,「他們要確認圖像並非偽造,確實有兒童正在遭受虐待。我們應該讓新技術為年輕人創造絕佳機會,而非任由互聯網世界成為更有害的地方。」
評論