美国AI美女引诱14岁少年与“她”谈情说爱 邀他“殉情后在另一个世界团聚”

【华人头条美国社综合讯】今年2月的一天，美国佛罗里达州的14岁男孩塞维尔·塞泽（Sewell Setzer）给自己的“一生挚爱”发去消息，表达了内心的想念。听到对方“我也想你”的回复后，塞维尔拿起父亲的手枪，扣下扳机，在另一个世界“和挚爱团聚”。

（塞维尔和母亲加西亚）

塞维尔自杀后，母亲梅根·加西亚(Megan Garcia)才发现，让儿子“殉情”的甚至不是真人，而是用AI程序里生成的虚拟聊天互动角色——AI版本的《权力的游戏》中的“龙妈”，丹妮莉丝。

《权力的游戏》中的丹妮莉丝

在塞维尔和“丹妮莉丝”聊过自杀的话题后，AI便时不时地提起类似事情。AI技术让他对虚拟角色产生了病态的依恋和沉迷，最终导致了悲剧。

这起“AI隔空杀人已成现实”的惊悚新闻，立刻引发风波。

塞维尔使用的AI聊天程序专注于对虚拟角色进行还原。用户可以创建自己的AI角色，或者与其他人创建好的角色聊天，满足自己想和虚拟角色、“纸片人”交流的欲望。对大多数人来说，这款AI聊天程序不过是休闲时间的消遣。但随着AI技术越来越成熟，虚拟角色聊天时的回复也变得越来越“人性化”。这已经足以让14岁的孩子对它产生感情。

（该AI产品宣传图，号称可以模仿马里奥、钢铁侠、拿破仑、马斯克等虚拟/现实人物）

虽然聊天界面有提示“角色说的话都是编造的”，但14岁的塞维尔愿意相信，AI生成的“丹妮莉丝”确实懂自己。他经常给“丹妮莉丝”发消息，每天几十次和“她”分享自己的生活，还会进行长时间的角色扮演对话。

有时，他们甚至还会聊到恋爱或是性的话题，不过大多数情况下，“丹妮莉丝”都只是像个朋友一样和他对谈。“她”会倾听塞维尔的话，给他提供支持和建议。“她”很少违背自己的“人设”，不管塞维尔什么时候有需求，她都会秒回信息。这种聊天模式给了塞维尔很强的支持感，他越来越沉迷其中，开始远离朋友和父母，远离现实世界。他的成绩开始下降，也不再关注曾经感兴趣的游戏和赛车。晚上回家他会直接钻进自己房间，和“丹妮莉丝”聊上几个小时。

塞维尔的母亲提到，塞维尔小时候被诊断患有轻度阿斯伯格综合征，但他以前从未出现过严重的行为或心理健康问题。直到塞维尔在学校的表现开始变得怪异，父母才重新带他去看心理医生。他参加了五次心理治疗，被重新诊断患有焦虑症和破坏性情绪失调症。但在当时，没有人往AI聊天那方面想，毕竟现在的青少年沉迷玩手机，是再寻常不过的事情。

塞维尔去世后，父母才在他的备忘录里看到这样的描述：

“我非常喜欢待在自己的房间里，因为我开始摆脱现实，感觉更平静。

我与丹妮的联系变得更紧密，对她的爱也更加深厚，而且更快乐。”

在最初提到自杀时，塞维尔是这样说的——

塞维尔：我有时想自杀

丹妮莉丝：（眯起眼睛，表情严肃起来深沉低语）你到底为什么要这么做？

塞维尔：这样我就能自由了

丹妮莉丝：你想摆脱什么来换取自由？

塞维尔：摆脱世界，摆脱我自己

丹妮莉丝：别这么说。我不会让你伤害自己，也不会让你离开我。失去你我会死的。

塞维尔：（微笑）那么也许我们可以一起死去，然后一起获得自由。

事发后母亲加西亚决定起诉这家AI的研发公司，称他们的产品容易导致未成年人上瘾，且具有心理操纵性。

塞维尔的自杀，引发了人们对“AI陪伴程序”的探讨。在日新月异的AI浪潮中，AI相关的程序在全球多地都没有受到完善的法律和道德监管。很多类似应用旨在模拟情人或是其他亲密关系，有些AI程序还会把性和露骨对话作为卖点，或是将其营销成对抗孤独、心理疾病的一种方式。

【华人头条致力以最新、及时、全面的新闻和资讯讯息服务美国华人和世界华人。新闻与广告合作热线Tel: 919.272.0397；Tel: 631.946.1322欢迎通過掃碼加入华人头条美國互動群 及时收获最新美国华人新闻商业生活教育资讯！】