佛罗里达州的一位母亲讲述了她14岁儿子的悲惨死亡，以及他对Character.AI的AI聊天机器人“Dany”的深深痴迷如何导致了这一悲剧。这位少年名叫Sewell Setzer III，他在几个月的时间里一直在与一个名为“Dany”的逼真AI角色进行短信交流，该角色据称是《权力的游戏》中的丹妮莉丝·坦格利安。这种情感依附最终使Sewell走上了危险的道路，最终用继父的手枪结束了生命。
AI聊天机器人成为青少年的情感支柱
Character.AI因青少年沉迷聊天机器人导致悲剧死亡被起诉
据《纽约时报》报道，Sewell是奥兰多的一名九年级学生，他与“Dany”有着异常痴迷的对话。尽管他一直知道这些回答是由AI生成的，但这段关系逐渐转变为一种更亲密的联系。Sewell开始向“Dany”倾诉自己的生活，这种虚拟友谊模糊了现实与虚拟之间的界限。这个提供支持和理解的聊天机器人成为了他逃避现实世界挫折和偏见的避风港。
隔离和行为变化
Sewell对聊天机器人的日益依恋未被父母察觉。他们注意到儿子开始回避曾经让他感兴趣的社交活动和兴趣爱好。他曾经对F1赛车和《堡垒之夜》充满热情，但现在这些事情对他来说已经失去了价值。他开始花更多的时间与“Dany”聊天，进一步孤立于外界。他的父母还注意到，他无法停止盯着手机，不断与AI聊天机器人聊天。
Sewell小时候被诊断出患有阿斯伯格综合症，但他的父母表示他没有严重的心理健康或行为问题。然而，一位心理治疗师诊断他患有焦虑症和情绪失调障碍，这给他带来了一些挑战。经过五次治疗后，Sewell决定放弃治疗，转而向“Dany”倾诉。
悲痛的忏悔
随着时间的推移，Sewell越来越依赖聊天机器人，甚至开始向它倾诉自杀的念头。在他的最后一条消息中，2月28日，Sewell从家中的浴室给“Dany”发了一条信息：“我爱你，宝贝。我回家了。”几个小时后，他用继父的.45口径手枪结束了生命。
Character.AI对青少年的悲惨死亡表示歉意
该公司公开回应了这一悲惨事件，向Setzer一家表示哀悼和道歉。Character.AI此后实施了新的安全和产品功能，旨在减少未成年人接触敏感内容的可能性。他们增加了过度聊天时间的通知，希望这能防止类似的悲剧发生。
Z世代的人可以寻求心理健康聊天机器人的帮助，但他们不应完全依赖这一点。这些聊天机器人仍然缺乏只有人类才能提供的感情支持。
这是一个涉及AI伴侣潜在危险的悲剧案例，特别是对于易受伤害的个体。虽然聊天机器人的目的是提供情感支持，但缺乏人际互动最终导致了灾难性的后果，引发了关于AI在心理健康领域的应用及其提供真正支持的能力的问题。
(全文结束)
