X平台表示不再允許聊天機器人生成性暴露圖像

美國企業家埃隆·馬斯克旗下社交媒體平台X14日宣布，不再允許其內置的人工智能聊天機器人「格羅克」（Grok）生成基於真人的偽造性暴露圖像，該限令適用於包括付費用戶在內的所有用戶。

X平台當天發表聲明稱，對於任何形式涉及未成年人性侵害及未經當事人同意的裸露內容等，X平台實施「零容忍」政策，並將採取措施清除相關違規內容，對違反平台規則的賬號作出相應處置。

當日早些時候，美國加利福尼亞州總檢察長羅布·邦塔的辦公室發布聲明，宣布已就馬斯克旗下人工智能企業xAI及其開發的「格羅克」涉嫌生成並傳播違規內容展開調查。

邦塔在聲明中說，近期大量舉報稱「格羅克」被用於生成涉及女性和未成年人的不雅、色情圖像，並在未經當事人知情或同意的情況下在互聯網上傳播，這類行為「令人震驚」，其辦公室將調查xAI是否以及如何違反相關法律，並敦促該公司立即採取措施，防止類似內容繼續擴散。

聲明說，「格羅克」圖像生成模型包含所謂的「熱辣模式」，可生成露骨內容，並被作為營銷賣點之一。該功能被濫用，導致大量對真實人物進行「脫衣」技術處理或置於暴露場景的深度偽造圖像在網絡上傳播，受害者既包括公眾人物，也包括普通社交媒體用戶。有媒體報道稱，「格羅克」被用於篡改兒童圖像，使其呈現性暗示或暴露場景，甚至生成高度逼真的兒童色情圖像。

相關閱讀：

英國：新法條本周生效　打擊社交媒體偽造性暴露內容

（來源：新華社）