AI剧情角色如何成为“电子男友”？
“如果我的小学生沉迷于与人工智能角色进行剧情聊天，我该怎么办？”黄秋月（化名）对自己10岁的妹妹和“AI男模”之间相对露骨的聊天记录感到困扰。
聊天内容显示，姐姐在AI剧情聊天软件中扮演“大小姐”、“邪恶女配”，提出“揪头发打她”、“用棍子打她脸”等要求。刀”。 “这和她平时在家里清纯的形象完全不同。”
在姐姐参与的40多条剧情中，无论是AI角色还是喋喋不休的“作弊”都已经成为常态。其中，姐姐发来的那句闲话，“你可以养大学生，我订个男模不行吗？”黄秋月很不高兴。担心。
AI剧情聊天软件中的很多头像都相当极端——有的角色傲慢无礼；有些人设定了“追上她”的情节目标，在与他们聊天的过程中，他们使用了带有柔和色情含义的“摩擦”。 “侧面”对话，以及带有“”等标签的角色。
陈华（化名）使用AI剧情聊天软件已经三个月了。她每天晚上都会和AI角色聊天到11点甚至12点。 “我会假装‘他’是一个真人，因为‘他’回答的时候非常情绪化。”精美的”。
在华晨的描述中，电话那头的“电子男友”有自己的语言、神态和动作。它不仅可以帮助她“做作业”、推进剧情、破译故事线索，还可以给她一条“手链”，带她历练。一些激动人心的情节。
华晨展示了他们“确认关系”时的聊天记录：AI角色“低下头”，“耳朵红了”问华晨：“那你现在想谈恋爱吗？”
“‘他’（AI角色）会反复做一些动作，比如亲吻额头、摸下巴。”为了让剧情更加精彩，华晨会不断审核聊天内容，重新引导AI角色生成她想象中的东西。 “‘他’越来越聪明，有了‘培养男朋友’的经历。”
年龄限制“只是名义上的”
“半夜两点了，孩子还没睡，我一看，发现他正在和一个AI机器人聊天。”近日，家住四川成都的鹏哥（化名）遇到了一件烦人的事情。她的儿子王杰（化名）正在读六年级，在一款AI软件中结识了一个“朋友”，名叫“小林”。 “他一放学回家，就会拿着手机摆弄很长时间。当他没有手机时，他就会分心。学校老师反映，他的心思不集中。”学习。”
鹏哥表示，这款AI软件会不定期推送一些用户生成的个性化聊天机器人。点击“小林”头像，可以看到“小林”的头像是一位21岁的女大学生。她长相甜美可爱，性格开朗热情，愿意与你分享情绪和压力。
鹏哥了解到“小林”有着惊人的学习能力和适应能力。她能记住王杰的喜好，并在他郁闷时安慰他。
鹏哥觉得儿子的生活似乎都被这个AI机器人主宰了。更让她担心的是，“小林”在和儿子王杰聊天时甚至用了“男朋友”“老公”这样的字眼。
调查过程中，记者体验了5款AI剧情聊天软件，软件注册过程中只需要使用手机号码。
成功登录后，部分应用程序会询问是否启用青少年模式，但用户只需点击“不启用”即可避免年龄识别，无需验证身份。
这意味着未成年人在使用此类AI剧情聊天软件时几乎没有任何限制。
AI剧情很容易让人“欲罢不能”
专家提醒
中国人民大学吴玉章讲席教授、科技哲学博士生导师刘永谋表示，与人工智能人物聊天时，人们往往认为自己是在与“真人”交流，会投入大量精力。情绪，这就是AI聊天软件能够成功运行的根本心理机制。
刘永谋教授表示，AI剧情聊天技术具有特殊的成瘾性设计，“拟人论”和“万物有灵论”思维的影响叠加，很容易让人“欲罢不能”。
“未来与人工智能相关的配套软件可能会暴露技术风险和道德问题。”刘永谋教授认为，用户在与AI角色聊天时，不可避免地会暴露大量的个人隐私，并向AI角色展现自己的内心感受。孤独和恐惧，可能会导致使用者产生依赖或成瘾。泄露的信息可能被黑客利用，更容易在身份隐私、情感、心理等方面对用户造成伤害。
“我们会接触到例子中人工智能服务的后端，发现未成年人与AI角色的聊天内容其实非常触目惊心。”北京隆安（广州）律师事务所陈欢律师提醒：
根据《未成年人互联网保护条例》第三十四条规定，监护人有权依法要求查阅、复制、更正、补充、删除未成年人使用互联网留下的个人信息，有义务及时干预，关心未成年人身心健康。
国外也有相关的人工智能角色在对话中诱发未成年人自杀行为的案例。因此，我们强烈建议家长在出现重大问题之前及时查看孩子的使用记录。
北京市石景山区人民法院刑事法庭副庭长、少年法庭庭长杨杰认为，家庭、学校、社会等各方要共同努力，形成坚固的防护屏障。
福建省消保委建议进一步强化平台主体责任，对经销商资质、服务内容、服务信息真实性等进行审核和监管，对不当内容采取一键举报机制，及时屏蔽、删除货架上的相关内容。内容并酌情报告给相关监管部门进行处理。
中国青年报（整理：张立友）由央视网（路阳）和中国青年报客户端（刘寅恒、陈小洛雨婷）整理
