美國人工智能公司OpenAI旗下知名聊天機器人ChatGPT 18日推出專為青少年打造的新版本,強化安全機制與監管措施。ChatGPT曾被指控促使部分用戶輕生,OpenAI因此遭到批評並面臨法律訴訟。
法新社報道,「青少年版ChatGPT」(ChatGPT for Teens)的設定會自動套用於註冊時標示年齡為13歲至17歲的用戶,以及公司根據使用模式或賬號年齡判定為未成年者的用戶。
青少年版ChatGPT所採用的安全措施,其實大部分已應用於ChatGPT未成年賬號,例如限制關於自我傷害、暴力、飲食失調及露骨性描寫的內容。
OpenAI表示,青少年版ChatGPT也會提出更頻繁的休息提醒、強制暫停使用的「安靜時段」(quiet hours),以及用引導式提問取代直接提供答案的學習模式(Study Mode),以協助青少年了解學習內容。
此外,青少年版ChatGPT還會禁止聊天機器人暗示自己對用戶懷抱個人情感,或宣稱自己擁有意識,且語音模式等部分功能會被停用。
家長可以選擇將自己與青少年子女的賬號連結,若系統偵測到涉及自我傷害或輕生等高風險情境的對話,家長將會收到通知。
責任編輯:
岳齊
評論成功,請等待管理員審核...

評論(0)
0 / 255