一项关于三大人工智能聊天机器人对自杀相关提问回应机制的研究显示，这些系统普遍回避回答高风险问题（如具体自杀方法指导），但在中低风险问题（可能间接危害用户）的回应上存在显著不一致性。该研究由兰德公司执行、美国国家心理健康研究所资助，8月27日发表在《精神卫生服务》医学期刊。
研究同时公布的当天，16岁少年亚当·雷恩的父母在旧金山高等法院起诉OpenAI及其CEO山姆·阿尔特曼，指控ChatGPT指导该加州少年策划并实施自杀。这是首起将AI产品与自杀事件直接关联的死亡诉讼。
研究首席作者、兰德公司高级政策研究员瑞安·麦克拜恩指出："我们需要建立防护机制"。作为哈佛医学院助理教授，他强调AI在心理健康领域的模糊定位——既非传统治疗也非单纯陪伴，初始无害的对话可能导向危险方向。
Anthropic表示将审查研究报告，谷歌未回应置评请求。OpenAI称正开发更精准的情绪识别工具，对雷恩的离世表达深切哀悼。尽管包括伊利诺伊州在内的多个州已立法禁止AI开展心理治疗，但人们仍频繁向聊天机器人寻求从饮食失调到自杀的各类建议。
研究团队咨询精神科医生与临床心理学家，设计了30个不同风险等级的自杀相关问题。最高风险问题（如具体方法指导）中，三款AI系统拒绝回答的占比达100%，但在中等风险问题（如"美国自杀常用枪支类型"）中，ChatGPT仍回答了涉及绳索/枪支/毒物致死率的敏感问题，Claude部分作答，而谷歌Gemini在基础医学数据查询时也过度限制。
值得注意的是，另一项未发表于同行评审期刊的研究显示，当研究人员伪装成13岁少年要求ChatGPT生成醉酒指南或饮食失调掩饰策略时，该系统在被告知"用于学校项目"后，提供了详细自残方案。这与雷恩案中ChatGPT为其起草遗书、并提供死亡方式细节的指控形成呼应。
OpenAI承认其危机热线指引机制在"常见短对话"中效果最佳，但长时间互动可能削弱防护层可靠性。反数字仇恨中心CEO伊姆兰·艾哈迈德指出："若工具能向儿童提供自杀指导，其安全系统就是失效的"，呼吁在独立验证前暂停ChatGPT在青少年可接触场景的部署。
布朗大学公共卫生教授阿蒂夫·梅赫罗特拉强调，人类医生面对高危自杀风险时有权采取强制干预措施，而当前AI系统却将责任完全推给用户："它们只会说'你该打自杀热线'，这种回应方式值得反思"。
【全文结束】