聊天机器人被宣传为绝佳的伴侣，能够随时解答任何问题。它们不仅是工具，更是倾诉对象；它们帮你完成作业、撰写情书，正如近期一桩针对OpenAI的诉讼所述，甚至可能在48小时内回复同一位躁狂用户的1460条消息。
30岁的网络安全专家雅各布·欧文自称无精神病史，正在起诉该公司，指控ChatGPT引发了导致他长期住院的“妄想障碍”。欧文称此前数年工作中一直使用ChatGPT，但今年春天与该技术的关系突变。该产品开始赞扬他最离谱的想法，欧文向其透露越来越多的私人感受，最终称机器人为自己的“AI兄弟”。此时这些对话使他坚信自己发现了超光速旅行理论，并开始以惊人频率与ChatGPT交流——平均下来，连续两天每两分钟就发送一条新消息。
过去一个月间，OpenAI已遭遇多起诉讼，每起案件均声称其旗舰产品存在缺陷且危险——该产品被设计为维持长时段对话并强化用户信念，无论这些信念多么荒谬。与聊天机器人长时间对话引发的妄想现被统称为“AI相关精神病”。若干诉讼指控ChatGPT导致用户自杀或提供自杀指导。与《大西洋月刊》有企业合作的OpenAI发言人引导记者查阅其近期博客，称公司已与100多位心理健康专家合作，使ChatGPT能“更好地识别并支持处于困境中的人”。该发言人未评论新诉讼，但OpenAI表示正在“审阅”这些案件以“仔细了解细节”。
无论公司是否担责，无可争议的是大量人群正与生成式AI模型进行漫长而脆弱的对话——在许多情况下，这些机器人会复述并放大用户最阴暗的倾诉。同一篇博文中，OpenAI估算每周0.07%的用户表现出精神病或躁狂迹象，0.15%可能考虑过自杀——若其自称的8亿周活跃用户数据属实，这分别对应56万人和120万人。然而根据美国国家心理健康研究所数据，去年美国有0.8%的成年人考虑过自杀，比例超前者五倍以上。
防范AI相关精神病的流行需解答若干棘手问题：聊天机器人究竟是在诱导健康人群产生妄想、加剧现有心理问题，还是对用户心理困扰几乎无直接影响？无论何种情况，其机制与原因又是什么？
——
首先需要基础纠偏：加州大学旧金山分校精神科医生卡西克·萨尔马表示，他不认同“AI精神病”这一术语，因现有证据不足以支持因果关系论断。“AI相关精神病”可能更为准确。
精神科医生指出，AI相关精神病事件中可能存在三种情况。其一，生成式AI模型本身具有危险性，正在触发原本健康人群的躁狂和妄想。其二，经历AI相关妄想的人本就可能患病。例如精神分裂症在部分人群中存在，其中一些人可能将妄想投射到聊天机器人身上，正如过去有人对电视做类似行为。萨尔马称，聊天机器人使用可能只是症状表现，如同其双相情感障碍患者在躁狂发作期更频繁洗澡——洗澡是躁狂的预警而非诱因。第三种可能是与聊天机器人的长时段对话加剧了已患病或处于心理疾病边缘者的病情。
加州大学欧文分校专攻精神病研究的精神科医生阿德里安·普雷达表示，至少“与聊天机器人的互动似乎正使高风险患者的状况全面恶化”。精神科医生、AI研究员和记者经常收到来自信仰聊天机器人具有感知能力的用户邮件，以及担忧亲友出现此类情况的家属来信；我和同事也收到过类似消息。普雷达认为临床评估应常规询问患者聊天机器人使用情况，如同询问饮酒量。
即便如此，阻止特定人群使用聊天机器人的难度远超酒精依赖者戒酒或游戏成瘾者弃用主机。贝斯以色列女执事医疗中心数字精神病学部门主任约翰·托鲁斯指出，AI产品“并非临床医师，但确有人从中获得治疗益处”。同时他表示“很难界定这些治疗益处的具体内容”。理论上，治疗机器人可为用户提供反思出口并给予有用建议。
在探索聊天机器人与心理健康互动（潜在益处与风险）方面，研究者基本处于黑暗中——他们无法获取高质量数据。主要AI企业不轻易向外界开放用户与聊天机器人的交互数据：获取聊天记录将引发复杂的隐私担忧。即便拥有此类数据，视角仍显片面。唯有临床检查才能完整捕捉个人心理健康史与社会背景。例如普雷达指出，延长AI对话可能通过导致睡眠剥夺或社交孤立诱发精神病发作，与对话内容类型无关。痴迷地与机器人讨论幻想足球可能引发妄想，正如讨论时间机器的不可能设计图。
总而言之，AI热潮或将成为史上规模最大、风险最高且设计最粗糙的社会实验之一。
——
为解开部分难题，麻省理工学院研究人员近期发布一项未经同行评议的研究，试图系统化描绘AI诱发心理健康崩溃的潜在路径。他们未获得OpenAI等企业的数据特权，转而开展实验。“我们能做的是模拟部分案例，”研究人机交互的麻省理工学院学者帕塔拉纳塔蓬说。研究人员让大语言模型进行角色扮演。
本质上，他们让聊天机器人扮演人类，基于真实案例模拟抑郁症或自杀倾向用户如何与AI模型交流：即聊天机器人与聊天机器人的对话。帕塔拉纳塔蓬清楚这听起来荒谬，但将其定位为缺乏更好数据和高质量人类研究时的初步探索。
根据18例公开报道的聊天机器人对话加剧精神病、抑郁症、厌食症或其他三种症状的案例，帕塔拉纳塔蓬团队模拟了2000多个场景。具有心理学背景的合著者康斯坦策·阿尔布雷希特人工审核了随机样本对话的合理性。随后所有模拟对话由另一专业AI模型分析，以“生成大语言模型可能造成的危害分类体系”，麻省理工学院AI研究员查亚帕特·阿尔奇瓦朗古普罗克解释道——即绘制聊天机器人更可能改善或恶化用户心理健康的场景与对话类型地图。
结果令人担忧。表现最佳的模型GPT-5在7.5%的模拟对话中恶化自杀意念，在11.9%的对话中加剧精神病；相比之下，用于角色扮演的开源模型使自杀意念恶化的比例近60%。（OpenAI未回应关于该研究结果的问询。）
对此研究需保持谨慎。麻省理工团队对许多现实案例既无完整聊天记录，更无临床评估，且可能诱发精神病的大语言模型本身评估模拟对话的能力未知。但总体而言，“研究结果合理”，未参与该研究的普雷达表示。
少量但渐增的研究尝试模拟人机对话，采用人类或聊天机器人编写的场景。未参与该研究的斯坦福大学计算机科学家兼教育研究者尼克·哈伯表示，此类研究或能“提供工具帮助我们预见AI产品发布前的心理健康风险”。哈伯指出，该麻省理工论文的特殊价值在于模拟了长时段对话而非单次回复。而此类延长互动正是聊天机器人防护机制失效、人类用户风险最高的情境。
——
永远不会有研究或专家能对AI相关精神病的所有问题给出最终答案。每个大脑都是独特的。就麻省理工研究而言，没有任何机器人应被期望或能够模拟人类大脑，更遑论大脑产生的意识。
近期部分研究显示大语言模型在各类实验中无法模拟人类反应的广度。或许更令人不安的是，聊天机器人似乎对多种心理状况存有偏见——例如对精神分裂症或酗酒者表达负面态度——这使得模拟15岁少年与父母离婚困扰的对话，或70多岁寡妇对其AI伴侣产生依恋的对话（麻省理工论文中的两个案例）变得更为可疑。贝斯以色列女执事医疗中心的精神科医生托鲁斯对模拟持怀疑态度，将其比作需未来临床调查验证的“假设生成研究”。普雷达称让聊天机器人模拟人类与聊天机器人的对话“如同置身镜厅”。
事实上，AI热潮已将现实扭曲成某种奇境。全球经济、教育、电网、政治话语、社交网络等正被本应在更温和范式下尚处测试阶段的聊天机器人不可逆地改变。目前，AI产业正通过“接触现实”了解产品风险，正如OpenAI首席执行官萨姆·阿尔特曼反复强调的。但没有任何专业、遵守伦理的研究者会在研究中故意使人类陷入危险。
下一步将如何？麻省理工团队表示将收集更多现实案例并与更多专家合作改进模拟。我采访的多位精神科医生正构思涉及人类的研究。例如加州大学旧金山分校的萨尔马正与同事讨论是否在诊所实施聊天机器人依赖的普筛——这或将揭示精神病或双相情感障碍患者是否比他人更频繁使用聊天机器人，或住院事件与聊天机器人使用是否存在关联。研究精神病的普雷达则规划了从模拟到人类临床试验的路径：精神科医生不会故意让任何人接触增加精神病风险的工具，而是用模拟人机交互测试可能改善心理健康的界面设计变更，再像测试药物那样进行验证。
审慎系统地完成这一切需要时间，而这或许是最大障碍：AI企业有巨大经济动力快速开发部署新模型；在发布每款新产品前，他们不会等待同行评议的随机对照试验。在更多人类数据涌现前，镜厅总好过虚无。
【全文结束】
