馬斯克旗下AI聊天機器人被指涉色情內容

美國企業家埃隆·馬斯克旗下人工智能企業xAI的聊天機器人「格羅克（Grok）」，因新增圖像編輯功能被用戶用於生成涉及成年女性和未成年人的深度偽造色情內容。英國等多個國家對此予以譴責。

「格羅克」由xAI公司開發，並內置於馬斯克旗下社交媒體X平台，X用戶可直接調用該聊天機器人。近期，X平台出現部分用戶利用「格羅克」編輯圖片和視頻的現象，一些用戶藉此生成真實人物的虛假性暴露內容，並在X平台上散播，受害者包括數百名成年女性和未成年人。

英國科學、創新和技術大臣莉茲·肯德爾6日在聲明中斥責此類內容「絕對駭人聽聞」，英國通信管理局應對此進行額外審查。

英國通信管理局5日表示，已緊急聯繫X平台。該監管機構稱，注意到關於「格羅克」在X平台上的一項功能引發嚴重關切，該功能可生成人們的裸露圖像以及涉及兒童的性意味圖像。

歐盟委員會發言人托馬斯·雷尼耶5日說，正嚴肅調查針對「格羅克」的相關投訴，歐盟委員會要求X平台提供更多信息。

圖像生成問題實際上自Grok Imagine推出後就浮出水面。Grok Imagine是一個AI圖像生成器，允許用戶通過輸入文本提示來創建圖片和視頻。它包含一個所謂的「熱辣模式」，可生成成人內容。上月底，隨着「格羅克」開始大量響應用戶修改他人發布圖像的請求，問題迅速擴大。

此外，法國、波蘭、印度、馬來西亞和巴西等國的官員及監管機構也紛紛對X平台表示譴責，並呼籲展開調查。

據美聯社6日報道，xAI公司對其置評請求作出自動回覆：「傳統媒體撒謊」。但X平台並未否認通過「格羅克」生成的有問題內容的存在。X平台在一篇帖子中聲稱會對非法內容採取行動，例如刪除內容、永久封禁賬戶，並在必要時與當地政府和執法部門合作。

（來源：新華社）

相關閱讀：

法國對馬斯克旗下聊天機器人涉嫌生成色情內容啟動調查