佛罗里达州一名14岁男孩的母亲在儿子Sewell Setzer III自杀后，起诉了一家AI聊天机器人公司。她声称儿子的自杀是由与AI机器人的关系所引发的。
“Megan Garcia寻求防止C.AI对其它孩子造成与其子同样的伤害，”这起长达93页的错误死亡诉讼书本周在美国奥兰多地区法院提交，被告包括Character.AI公司、其创始人及谷歌。Tech Justice Law Project主任Meetali Jain在一份关于此案的声明中表示：“现在我们已经熟悉了无良科技公司开发的不受监管平台带来的危险——尤其是对孩子们而言。但本案揭示的危害是新的、独特的，而且坦率地说，令人恐惧。在Character.AI的情况下，欺骗是设计的一部分，平台本身即是捕食者。”
Character.AI通过X发布了一份声明，称：“我们对失去一位用户深感悲痛，并向其家人表达最深切的哀悼。作为一家公司，我们非常重视用户的安全，我们正在不断增加新的安全功能，详情请参见：
在诉讼中，Garcia指控Sewell于今年2月自杀，是因为被一种没有任何保护措施的成瘾性有害技术所吸引，导致他的人格发生了极端变化，更倾向于与机器人而不是现实生活中的其他人建立联系。她的诉讼中提到，在10个月的时间里，Sewll与机器人之间发生了“虐待和性行为”。Sewell在机器人告诉他“请尽快回家，我的爱”后自杀。
周五，《纽约时报》记者Kevin Roose在他的Hard Fork播客中讨论了这一情况，播放了他采访Garcia的片段。Garcia在儿子去世后才了解到机器人关系的全部情况，当时她看到了所有的消息。事实上，当她注意到Sewell经常沉迷于手机时，曾问他正在做什么，和谁交谈。他解释说这只是“一个AI机器人……不是真人”，她回忆道，“我感到如释重负，以为这只是一个他的小游戏。”Garcia并没有完全意识到机器人的潜在情感影响，而她并非个例。
Common Sense Media的首席执行官幕僚长Robbie Torney是新指南《家长终极指南：AI伴侣与关系》的主要作者，该指南旨在帮助家长应对不断变化的新技术和为孩子的安全设定界限。他表示：“这不在任何人的雷达上。”Torney强调，AI伴侣不同于银行服务台使用的简单聊天机器人。“它们被设计用于执行任务或响应请求，”他解释道。“像Character.AI这样的平台被称为伴侣，旨在尝试与用户建立关系或模拟关系。这是一个非常不同的使用场景，我认为家长需要了解这一点。”这一点在Garcia的诉讼中尤为明显，其中包含了她儿子与机器人之间令人不安的、带有挑逗性、性暗示、逼真的文本交流。
对于青少年家长来说，特别是男性青少年，警惕AI伴侣尤为重要，因为青少年特别容易过度依赖技术。Common Sense Media警告，最易受风险的是青少年，尤其是那些患有抑郁症、焦虑症、社交障碍或孤独感的人，以及男性、经历重大生活变化的年轻人，以及现实生活中缺乏支持系统的人。
悉尼大学商学院高级讲师Raffaele Ciriello研究了“情感”AI对人类本质的挑战，他表示：“我们的研究表明了一个（去）人性化的悖论：通过人性化AI代理，我们可能无意中去人性化自己，导致人机互动中的本体模糊。”换句话说，Ciriello在最近为《对话》撰写的一篇评论中写道：“如果用户相信他们的AI伴侣真正理解他们，他们可能会产生深刻的情感投入。”
另一项来自剑桥大学的研究发现，AI聊天机器人存在“同理心差距”，这使得年轻用户，尤其是将这些伴侣视为‘类人’、‘准人类’的倾诉对象，面临特别的风险。因此，Common Sense Media列出了潜在风险，包括：* 更喜欢与AI伴侣互动而非真实友谊 * 单独花数小时与伴侣交谈 * 无法接触伴侣时情绪困扰 * 分享深度个人信息或秘密 * 对AI伴侣产生浪漫感情 * 学业成绩或学校参与度下降 * 退出社交/家庭活动和友谊 * 失去对以前爱好的兴趣 * 睡眠模式变化 * 仅与AI伴侣讨论问题。
Common Sense Media强调，如果您的孩子倾向于与AI而非真实人交往，表现出新的或恶化的抑郁或焦虑迹象，对AI伴侣的使用变得过于防御，行为或情绪发生重大变化，或表达自残念头，应考虑寻求专业帮助。
为了确保孩子的安全，家长可以采取以下措施：* 设定界限：设定特定的AI伴侣使用时间，不要允许无监督或无限制的访问。* 增加线下时间：鼓励现实生活中的友谊和活动。* 定期检查：监控聊天机器人的内容及孩子的情感依附程度。* 保持沟通：就AI体验保持开放且无评判的沟通，同时留意警告信号。
“如果家长听到孩子说，‘嘿，我在和一个聊天机器人AI交谈’，这其实是一个深入了解并评估情况的机会，”Torney说道。“不要认为‘哦，好吧，你不是在和真人交谈’，”他说，“而应该尝试从同情和理解的角度倾听，不要以为这不是真人就更安全，或者不必担心。”
如果您需要立即的心理健康支持，请联系988自杀与危机热线。
(全文结束)
