“小學生妹妹沉迷和AI角色進行劇情聊天怎么辦？”隨著生成式人工智能的發展，和AI角色“相戀”的故事正在上演，其不受限制與無法預知的互動內容，也正在引發新的問題。

　　與虛擬伴侶談個戀愛，倒不是什么新鮮事。早在中國古代志怪小說中，就有書生娶妻“畫中人”的故事。在希臘神話里，擅長雕刻的塞浦路斯國王皮格馬利翁也曾為由神像化身成人的少女神魂顛倒、癡迷不已。時至今日，破次元壁戀愛的故事依然是影視熱門題材，同AI談一場賽博戀愛也從夢想照進了現實。

　　與現實中的親密關系相比，AI伴侶似乎能滿足人的一切浪漫幻想，既能秒回消息、甜言蜜語哄你開心，也能無條件容忍、接納你所有的壞脾氣，不厭其煩地給你提供情緒價值。一些軟件還可根據玩家偏好定制理想“戀人”，年齡、身高、長相、性格任君挑選。然而這種看似如沐春風的關系只是花錢買來的幻夢，背后隱藏著諸多不容輕忽的問題。不少案例顯示，伴隨著AI伴侶擬人化程度的提高，用戶可能會對其產生過度的情感依賴，無法辨別現實與虛擬的界限，繼而影響人際交往能力、受到情感傷害，尤其是心理脆弱群體、青少年群體，所受到的沖擊可能更大。

　　與之伴隨的還有諸多爭議，比如過度收集聊天信息帶來的隱私泄露風險，再就是對青少年群體產生的“殺傷力”。虛擬伴侶形象設置過于極端，聊天內容暗含暴力、軟色情信息，未成年人不顧休息沉迷其中并做出與年齡不符的言行……凡此種種，極有可能會對未成年人尤其是低齡未成年人造成身心傷害、產生誤導。在相關報道中，有小學女生在AI劇情聊天軟件中扮演“大小姐”“惡毒女配”等角色，還提出諸如“揪住她的頭發扇巴掌”“拿著刀劃向她的臉”等要求，如此情狀怎能不令人憂心？

　　很顯然，AI戀愛產品帶來的風險是系統性的，特別是在未成年人保護這個問題上已刻不容緩。有律師指出，目前AI劇情聊天軟件并沒有對用戶進行年齡鑒別，這暴露出該行業在野蠻生長初期的管理漏洞。作為肩負主體責任的平臺企業，對內容進行安全過濾，嚴格設置身份認證系統，推行“綠色堤壩”機制、“反沉迷”建設很有必要，相信這對平臺來說也并非難事。當然，防止AI劇情聊天走偏也不能僅寄希望于“技術向善”，也要多正視、關心孩子的現實情感需求。當AI被越來越多人用于情感代償、提供情緒價值時，恰恰折射了人在現實世界中情感獲得的不足，這個問題顯然更值得深思。