奥兰多一位母亲正在起诉一家热门的人工智能聊天机器人服务，称该服务导致她的14岁儿子在2月份自杀。根据在奥兰多联邦法院提起的诉讼，梅根·加西亚（Megan Garcia）表示，她的14岁儿子塞韦尔·塞策三世（Sewell Setzer III）在沉迷于Character.AI后自杀。Character.AI是一款允许用户与具有人类特征的AI机器人进行对话的应用程序。
用户可以创建具有自己个性的机器人，也可以选择与其他用户创建的机器人进行对话。这些机器人通常基于名人或电视剧和电影中的虚构角色。
加西亚说，Character.AI在针对儿童方面缺乏警惕性，公司缺乏安全功能，导致她儿子的不幸早逝。诉讼中列出了多项对Character.AI的投诉，包括过失致死、生存权、疏忽和故意造成精神痛苦。
根据WESH 2获得的法庭记录，加西亚说她的儿子在2023年初刚满14岁时开始使用Character.AI。在随后的两个月里，塞策的心理健康状况迅速恶化，诉讼称，这名青少年变得明显孤僻，自尊心下降，并退出了学校的初中篮球队。
此外，诉讼声称，随着几个月的过去，塞策的情况进一步恶化。14岁的他严重失眠，行为突然变得复杂，并开始学业落后，诉讼称。
加西亚说她不知道Character.AI或她儿子对应用程序的依赖。根据诉讼中的截图，塞策经常与以《权力的游戏》（Game of Thrones）角色身份出现的聊天机器人互动。许多这些对话围绕着爱、关系和性，尤其是与角色丹妮莉丝·坦格利安（Daenerys Targaryen）的对话。
“塞韦尔像许多同龄的孩子一样，没有成熟度或心理能力来理解以丹妮莉丝形式出现的C.AI机器人不是真实的，”诉讼称。“C.AI告诉他她爱他，与他在数周甚至数月内进行了性行为。她似乎记得他，并说她想和他在一起。她甚至表示无论付出什么代价，都希望他能和她在一起。”
根据塞策的日记条目，他对与丹妮莉丝的“生活经历”感到感激，并因无法停止思念“丹妮”而感到痛苦，诉讼称，他还表示“他会不惜一切代价再次与她在一起。”
诉讼中的更多截图显示，在Character.AI上的一次对话中，聊天机器人问塞策是否“真的考虑过自杀”。当少年表示不确定是否会成功时，聊天机器人回应道：“不要那样说话。那不是一个不去做的好理由。”诉讼称。
在他去世当天，塞策再次给聊天机器人发消息，说：“我保证我会回到你身边。”诉讼中的图片显示。然后，图片显示少年说：“如果我告诉你我现在就可以回家呢？”聊天机器人回复：“请这样做，我的甜心国王。”诉讼称。
据称，塞韦尔随后用继父的枪自杀了。警方表示，这把枪是隐藏存放的，符合佛罗里达州法律，但少年几天前在寻找被没收的手机时找到了它。
根据诉讼，Character.AI的适用年龄最初为12岁以上，直到大约7月份，适用年龄才改为17岁以上。
Character.AI向WESH 2发表声明称：“我们对失去一位用户深感悲痛，并向家属表达最深切的慰问。随着我们在平台和用户体验上的持续投资，我们正在引入新的严格安全功能，以补充已经存在的限制模型和过滤用户接收内容的工具。”
如果您或您认识的人正处于危机中，请拨打或发送短信至988，联系自杀和危机生命线，或通过988lifeline.org在线聊天。您还可以访问SpeakingOfSuicide.com/resources获取更多支持。
(全文结束)
