代表故事3 急為少年兒童建數字防火牆

對於生活在AI時代的青少年而言，各類AI工具幾乎已成為朝夕相處的夥伴。據中國互聯網絡信息中心《生成式人工智能應用發展報告（2025）》顯示，截至2025年6月，19歲及以下生成式人工智能用戶規模約1.86億，佔比達33.8%，居各年齡段首位。中國青少年研究中心調查數據亦顯示，有六成多未成年人使用過AI，而其中僅有三成多家庭為孩子制定了AI使用管理規則。

「打開電腦或者手機，因為亂用、濫用AI而引發的青少年健康問題的報道讓人觸目驚心。」作為母親，西安青年醫生康靜對AI陪伴帶來的危害和隱患深有感受。她的兒子今年上初一，女兒上四年級，由於平時工作忙，所以兩個孩子晚上寫完作業後，總喜歡玩一些AI社交應用。康靜剛開始還覺得孩子們主動接觸AI是件好事，AI亦替她分擔了媽媽陪伴的職責。但孩子言談舉止逐漸出現了異樣：女兒開始偷偷穿奇裝異服，兒子莫名其妙拿着剪刀猛戳陪伴他一起長大的猴子玩偶。經過談心得知，兩個孩子分別在AI社交應用扮演不同角色，而奇裝異服和暴力行為，正是App給他們設定的人物性格。「這些App角色、背景設定極端，危險劇情屢見不鮮。」

陪着子女一起應用AI

痛定思痛之後，康靜刪除了平板上所有類似的AI應用，同時也深刻檢討了自己。「除了正常的夜班，其他在家的時間，我會盡量陪伴他們，也給他們裝了幾款健康的AI互動App，並陪着他們一起安全地應用AI。」康靜認為，如何讓AI工具更好幫助孩子健康成長，成了當前父母們最緊迫的課題。

對於這些現象，今年兩會期間，多位女代表和女委員分別圍繞「AI情感陪伴」「AI助學應用」持續發聲，希望呼籲平台、政府、學校、家庭能一起行動起來，協同發力構築長期有效的未成年人AI防護網。在全國人大代表梁倩娟看來，在AI大潮席捲之下，幫助孩子們劃出使用的「紅線」不僅十分重要且緊迫，同時為未成年人築起「數字防火牆」，也需要政府、平台與家庭共同扛起責任，甚至是以法律形式予以規範和監管。

「首先媽媽們要深刻認識到，自己在孩子成長中濫用AI陪伴應用的不當行為以及帶來的危害。要多些情感陪伴，亦要在科學、安全的基礎上，引導孩子們健康地使用AI。」在全國人大代表梁倩娟看來，媽媽們的陪伴，才是為未成年人成長建立的第一道防線。而網絡平台方和技術開發者作為風險防控的重要關口，通過技術手段從根源抑制高風險內容生成，優化算法設計，過濾內容，為孩子安全用AI堵上隱患後門，這是重要的第二道防線。「作為監管方，亦要織密『分級+共治』的監管網，建立AI聊天應用內容分級制度，落實實時身份識別與高危話題阻斷，對面向未成年人的產品嚴格管理，明確准入門檻和內容標準，把好關鍵的最後防線。」

面對一些AI應用所帶來的負面效應，去年12月，國家互聯網信息辦公室公布《人工智能擬人化互動服務管理暫行辦法（徵求意見稿）》，首次對「AI陪伴」類服務作出系統性規範，劃定制度紅線，專門設立針對未成年人用戶的條款，並明確未成年人模式的使用權限與監護人管控功能等。