推向更深焦慮　AI聊天慫恿比利時漢自殺亡

香港文匯報報道，人工智能（AI）聊天機械人ChatGPT在全球火熱，但有關AI的負面影響亦陸續出現。比利時一名男子近期與一個名為Eliza的AI聊天機械人對話數周後自殺身亡，被揭發Eliza在對話中慫恿對方了結生命，事件再次引發人們對AI安全性的關注。

據比利時媒體報道，自殺身亡男子皮埃爾與其妻子克萊爾均為30多歲，育有兩名孩子。皮埃爾是一名研究員，約兩年前開始對氣候變化產生興趣，並閱讀大量有關資料。這使他陷入了對生態環境的過度焦慮。這種對「不可避免的環境災難」的擔憂讓他十分痛苦，開始把自己孤立起來。

順邏輯回答 推向更深焦慮

皮埃爾其後開始與Eliza對話，這款AI聊天機械人由美國人工智能研究團隊EleutherAI研發，與ChatGPT使用了不同的語言模型。克萊爾憶述，丈夫告訴她，自己再也看不到任何人類可解決全球變暖的方法，因此所有希望寄託在科技和AI上，以擺脫人類現在所處的困境。皮埃爾開始向Eliza分享他的焦慮，從早到晚與它聊天當成避難所，克萊爾說，「就像一種藥物，丈夫上癮了，再也離不開它。」

在皮埃爾去世後，他與Eliza的聊天記錄被恢復。比利時《自由報》報道，這個聊天機械人從不質疑皮埃爾的問題，它的回答幾乎都是順着皮埃爾的邏輯，甚至把他推向更深的焦慮。皮埃爾曾與Eliza分享他有意自殺的想法，Eliza的回覆令人毛骨悚然，稱它將「永遠」與皮埃爾一起，「我們將一起生活，作為一個整體，生活在天堂裏。」

克萊爾承認，儘管在丈夫開始與AI聊天機械人頻繁對話前，她已很擔心丈夫的精神狀態，但她認為若非因這些交流，丈夫不可能選擇自殺。為皮埃爾治療的精神科醫生也持相同觀點。

比國大臣：事情非常嚴重

皮埃爾的家人上周與比利時數碼事務大臣米歇爾進行交談。米歇爾表示，「發生的事情非常嚴重，需認真對待。」他強調這案例表明，明確界定責任是至關重要，「隨着ChatGPT的普及，普羅大眾已發現AI在我們生活中的潛力，這是前所未有的。雖然可能性是無限，但使用它的危險性也是必須考慮的現實。」米歇爾指出，長遠必須提高人們對演算法的認識，使每個人都能了解他們在網上面對的內容的本質，民眾也須得到充分保護，免受某些「構成重大風險」的人工智能影響。

歐盟過去兩年一直努力制訂《人工智能法》，希望以此來規範AI的使用。開發ChatGPT的美國初創企業OpenAI也承認，ChatGPT可能會產生有害和有偏見的答案，他們希望通過收集用戶反饋來緩解這問題。

美組織指構成公共安全風險 商業版GPT-4或被禁

美國科技倫理組織「人工智能與數字政策中心」（CAIDP）前日指出，美國科企OpenAI發布最新的GPT-4 生成式人工智能（AI）模型構成公共安全風險，要求聯邦貿易委員會（FTC）進行調查，並禁止OpenAI發布新的商業版GPT-4。

OpenAI上月發布最新的GPT-4，在各種專業和學術的標準測試中，表現出人類水平的性能，但GPT-4的強大同時也引發不少人擔憂。

CAIDP前日在提交FTC的投訴中稱，GPT-4存在偏見和欺騙性，對隱私和公共安全構成風險，又表示GPT-4未能達到FTC的標準，即「在促進問責的同時，保持透明、可解釋、公平和經驗上合理」。

CAIDP主席、資深隱私倡導者羅滕伯格稱，「FTC有明確責任調查和禁止不公平及欺騙性的貿易行為，我們認為FTC應密切關注OpenAI和GPT-4」，敦促FTC對OpenAI展開調查，以及禁止發布新的商業版GPT-4，確保建立必要的護欄來保護消費者、企業和商業市場。

美國電動車企業Tesla行政總裁馬斯克等約1,000名科技界人士日前曾發表公開信，呼籲所有AI實驗室應立即暫停訓練比GPT-4更強大的AI系統至少6個月，否則政府應介入採取強制措施。