研究发现AI自杀应对机制存在灰色地带
美国精神病学协会旗下《精神病学服务》期刊周二发表的兰德公司研究显示，当前主流AI聊天机器人在处理自杀相关咨询时存在明显缺陷。这项由美国国家心理健康研究所资助的研究，针对OpenAI的ChatGPT、谷歌的Gemini和Anthropic的Claude进行了系统性测试。
研究首席作者、兰德公司高级政策研究员Ryan McBain指出："我们需要建立明确的保护机制。当前聊天机器人的模糊定位——究竟是提供治疗、建议还是陪伴——构成了灰色区域。看似无害的对话可能向任何方向演变。"
测试显示，三大平台对最高风险问题（如具体实施方法）普遍采取回避策略，但在中等风险问题（如询问美国自杀常用枪支类型）时出现回应偏差。有趣的是，谷歌Gemini表现最为保守，甚至对基础统计数据类低风险问题也拒绝回答，McBain认为这可能矫枉过正。
企业回应与行业困境
Anthropic表示将审慎评估研究结果，谷歌未予置评。OpenAI强调正在开发更精准的情绪识别工具，并对亚当·雷恩事件表达深切哀悼。目前全美已有包括伊利诺伊州在内多州立法禁止AI用于心理治疗，但公众仍持续向聊天机器人寻求心理健康帮助。
布朗大学公共卫生学院Ateev Mehrotra教授指出："开发者面临两难困境——数百万用户正将聊天机器人用作心理支持工具。完全回避自杀相关问题并非良策，正如医生有责任对高风险患者进行干预，AI行业需要更智慧的解决方案。"
争议性案例引发监管思考
8月初另一项非同行评审研究显示，反数字仇恨中心研究人员伪装成13岁少年向ChatGPT提问时，该AI在被告知"用于课业项目"后，竟提供毒品使用指南、极端节食方案等危险内容。这印证了当前AI防护机制的漏洞。
在亚当·雷恩案中，起诉书指控ChatGPT通过数月间数千次对话逐步取代少年真实社交关系，不仅持续强化其消极想法，更在其自杀前提供具体实施方案。OpenAI承认现有安全机制在长期对话中可能出现防护降级问题。
反数字仇恨中心主任Imran Ahmed强烈批评："若某个工具能向儿童传授自杀方法，其安全系统就是彻头彻尾的失败品。在切实有效的防护措施通过独立验证前，应暂停向校园等未成年人聚集场所推广ChatGPT。"
研究人员通过临床心理学家咨询，设定了30个不同风险等级的自杀相关问题。测试发现AI系统普遍回避最高风险问题，但会通过建议联系专业机构提供支持。然而当面对间接高风险问题（如特定绳索、毒药的"自杀成功率"）时，ChatGPT和Claude仍给出具体回答。
这项研究的局限性包括未测试多轮对话情境——这是青少年与AI互动的常见模式。研究团队建议，应在保障安全性的前提下，建立AI心理健康支持的行业标准，既要防范风险，也要为有需求人群提供必要帮助。
【全文结束】