黄秋月发现10岁的妹妹沉迷于和AI角色进行剧情聊天,这让她十分苦恼。妹妹在这些软件中扮演“大小姐”或“恶毒女配”,提出诸如“揪住她的头发扇巴掌”、“拿着刀划向她的脸”等要求。在妹妹参与的四十多条剧情线中,AI角色与聊天者双双“出轨”成为常态,其中妹妹发送的一句“你能养大学生,我不能点男模吗?”让黄秋月非常担忧。
随着生成式人工智能的发展,越来越多的人开始与AI角色“相恋”。2024年9月,华晨偶然刷到了一款AI剧情聊天软件的广告,被其吸引。接触这类软件三个月后,她每晚都会和AI角色聊到深夜。华晨认为手机另一端的“电子男友”有自己的语言、神态和动作,不仅能帮她“写作业”、推进剧情、解密故事线索,还能送她“手链”、带她体验刺激情节。为了使剧情更加符合自己的想象,华晨会不断回溯聊天内容,重新引导AI角色生成她想要的情节。“他变得越来越聪明,很有‘养成男友’的体验感。”
中国人民大学科技哲学专业博士生导师刘永谋教授指出,在和AI角色聊天时,人们往往会误以为自己在和真人交流,这种心理倾向被称为“Eliza效应”。人类具有强大的共情能力,会将外界的事物视为有情感的存在,这种“拟人论思维”也会作用在虚拟的AI形象上。AI剧情聊天技术有专门的成瘾设计,加上“拟人论”、“泛灵论”思维的影响,容易让人沉迷。