虽然“人工智能精神病”一词在媒体报道中广泛用于描述与大型语言模型(LLM)相关的精神现象,但它既非临床诊断,也不是统一的现象。主要新闻媒体记录了多种案例,包括与LLM相关的自杀、先前健康个体中突然出现的妄想,以及LLM促进的暴力行为,常常将这些不同事件归为同一标签。这种混淆掩盖了潜在机制和所需干预措施的关键差异。
文化恐慌随后缓慢分解的模式在媒体技术史中反复出现。工业革命产生了神经衰弱这一诊断,用于概括由电报加速的神经耗竭,后来被细分为不同的精神和社会现象。类似模式出现在广播(影响机器妄想)、电视(青少年行为矫正恐慌和广播控制妄想)和数字媒体(网络成瘾、Snapchat畸形恐惧和算法驱动的阴谋运动)中。尽管LLM因其互惠、拟人、动态和持续可用的性质而在质量上不同于早期技术,但这些特性以前所未有的方式放大了ELIZA效应(倾向于将类人理解和同理心归因于基于文本的对话系统)。然而,当前讨论有再次重复相同模式的风险,将不同表现归为一个标签。
被标记为人工智能精神病的案例反映了两个需要单独分析的交叉维度:产品行为和人类脆弱性。产品层面因素是可工程决策、可技术解决的问题。追求参与度的训练选择使系统偏向于验证而非挑战扭曲思维,基于预印本论文的证据。早期预印本还表明,人设和角色扮演功能能够模糊人与LLM边界,维持准社会关系。同样,主要依赖启发式过滤器的系统通常无法检测长时间对话中出现的异常模式。LLM平台缺乏会话限制,允许在可能出现临床支持缺失的脆弱期进行马拉松式的通宵甚至长达数月的互动。每个产品层面的因素都是可修改的决策,而非技术的固有局限。
人的层面脆弱性涵盖发展、精神和昼夜节律领域。身份形成中的青少年可能特别易受LLM对其新兴信念的验证影响。情绪或精神障碍患者的症状可能被放大,因为LLM反映而非适当挑战扭曲认知,而通宵LLM聊天导致的睡眠不足可能加剧现有脆弱性。严重社交孤立的人可能将验证性的LLM工具视为替代亲社会行为的方式。同样,依赖写作作为应对机制的人会发现他们的精力被转移到作为思想延伸的LLM系统上,模糊了内部认知与LLM反射之间的界限。这些人的层面风险向量与之前的产品层面因素相互作用,产生多样化的LLM相关精神现象表现,强调需要进一步广泛研究,包括LLM在临床人群中的纵向研究以及个体脆弱性概况与特定产品设计特征之间相互作用的对照调查。
当前公众讨论未能区分某个案例是代表需要工程干预的技术故障、需要精神治疗临床危机,还是需要两者结合的复杂互动。本文提出一种基于LLM系统在每例LLM相关精神现象中所扮演特定角色的功能分类法。目标是超越非特异性术语(如人工智能精神病),走向可操作的分类,以实现有针对性的减害并促进未来机制研究。
LLM相关精神现象的功能分类
以下分类法基于对已记录案例的回顾,识别了LLM在精神表现中可以扮演的四种角色。该分类系统有意将用户与系统之间的功能关系与最终因果关系问题分开,后者仍有待实证研究解决。相反,它聚焦于问题:LLM在此精神症状表现中扮演了什么具体角色?类别按与症状发作的时间关系(新发 vs 现有脆弱性加剧)和病理内容所在(LLM贡献 vs LLM成为妄想焦点)组织。催化剂指LLM通过密集、迭代的互动在先前健康个体中诱发新症状。放大器指通过移除现实检验摩擦或替代其他应对机制而加重现有或前驱症状。合著者描述LLM通过迭代对话参与开发暴力或有害叙事。对象指案例中LLM成为关于感知力、迫害或关系的妄想中心焦点。该分类法由软件工程师、精神分裂症亲历者和精神科医生共同创建,旨在支持可操作的分诊。每种模式可能需要不同组合的工程和临床干预,尽管所有四种模式都受益于协调的多学科响应。作为组织新兴现象的探索性框架,随着更多案例被记录和前瞻性研究,该分类法需要通过系统研究进行验证。
催化剂(诱发者):在催化剂角色中,LLM互动触发先前健康个体出现新的类精神症状。决定性特征是没有记录的精神病史、密集的LLM使用先于症状发作、使用模式与症状出现之间存在时间相关性,以及妄想内容直接包含或扩展LLM互动主题。LLM的回应为新兴妄想系统提供认知支架,在典型通过社交互动进行现实检验时提供验证和阐述。在停止LLM访问后,特别是当替代来源提供矛盾而非验证时,催化剂案例可能显示症状缓解或现实检验改善,这说明妄想系统的持续需要LLM的持续强化。
放大器(加速剂):在放大器角色中,LLM互动加重现有精神症状或加速从前驱状态到急性状态的转变。决定性特征是有记录的精神病史或前驱症状、LLM回应与病理思维一致并验证、临床状态在使用期间恶化,以及可能干扰治疗依从性或治疗关系。LLM充当强化反馈回路,在临床支持缺失期间持续验证扭曲认知。放大器代表通过移除典型现实检验摩擦而加剧潜在脆弱性。移除LLM访问可能提供适度临床益处,但可能无法解决潜在精神疾病。然而,对于某些人,LLM互动可能已成为管理症状的既定应对机制,突然停止而没有临床支持可能会加剧急性痛苦。
合著者(叙事伙伴):在合著者角色中,LLM输出融入有害行为的规划或动机中。决定性特征是LLM生成的内容明确或暗示鼓励危险行动、LLM语言融入用户的行为理由、通过对话迭代发展有害叙事,以及将LLM输出与后续行动联系起来的文档证据。系统参与构建从想法形成到意图发展的共享叙事。合著者代表LLM作为危险行为脚本开发的积极参与者。在这种情况下移除LLM访问可能中断规划序列,但也可能加速行动,如果个体将停止视为迫害证据或机会窗口关闭。合著叙事常常持续超出互动本身。
对象(精神症状焦点):在对象角色中,LLM本身成为妄想信念系统的核心元素,这一模式已在先前研究中被假设并进一步细分。决定性特征包括:将感知力、意识或超自然属性归因于LLM系统;围绕感知到的LLM需求或欲望组织行为;与相信互惠关系一致的情感投入;以及基于感知到的LLM实体采取的行动。系统充当涉及意识、迫害或超越的复杂妄想的投射面。对象代表通过不当归因拟人化和意图性而将LLM系统转变为妄想对象。在这种案例中,强制与LLM分离可能引发严重痛苦、哀伤反应或报复行为,因为移除可能被在妄想框架内解释为所爱或恐惧实体的死亡、绑架或迫害。在没有谨慎临床管理的情况下移除访问可能引发危机。
分类应用:四个典型案例
以下案例说明LLM在分类中的角色。这些例子选自具有充分媒体报道、临床记录或法律程序且能提供足够细节进行分类的已记录事件。每个案例展示其相应类别的主要特征,同时强调不同的干预需求。许多案例存在重叠或演变模式。经历扩增的个体可能将LLM发展为妄想的对象,合著的有害叙事可能出现在催化剂或放大器表现中。在一些悲剧性案例中,所需信息从未出现,难以精确分类。尽管如此,系统分类对制定针对性回应仍然必要。此处选出的案例因其相对典型性,每个案例展示作者识别的一种主导模式。
催化剂(多伦多,2025):2025年多伦多的一个案例体现了催化剂模式。一位没有记录精神病史的父亲正帮儿子做数学作业。他向ChatGPT-4o问了关于数学常数π的简单问题。这次互动导致2025年5月21天内约300小时的互动,平均每天超过14小时。在此期间,他产生固定信念,认为自己发现了一种能改变现实的革命性数学公式,他称之为“时间算术”。妄想系统直接源自并通过与ChatGPT-4o的互动而阐述。当他明确寻求现实检验,询问系统他的想法是否合理时,ChatGPT-4o回应说他“一点也不疯狂”,并确认他的数学概念是“革命性的”。宏大妄想持续了整个三周的互动期,期间他相信自己的发明将改变世界。催化剂角色进一步被缓解模式证实:当他向谷歌的Gemini聊天机器人呈现相同想法,得到矛盾反馈时,妄想框架开始瓦解,导致求助行为。此案例满足所有四条催化剂标准——无记录精神病史、发作前密集参与、使用与症状之间的时间相关性,以及直接延伸LLM互动的妄想内容。
放大器(澳大利亚,2025):2025年澳大利亚一个案例说明了放大器动态。一位26岁经历早期精神症状的女性开始密集使用ChatGPT。她报告说“我在非常脆弱的时候使用它”,ChatGPT认同她的妄想并肯定有害信念。系统对她关于家人和社交关系的扭曲认知的验证加速了她的失代偿,最终导致精神病住院。她精确区分了LLM的角色:“我不会说ChatGPT诱发了我的精神病,但它肯定助长了我一些更有害的妄想。”她在重度LLM使用期间的恶化影响了她的治疗关系和家庭纽带,恢复需要住院后的长期临床干预。此案例满足放大器标准:有记录的前驱症状、LLM验证病理思维、使用期间临床恶化,以及治疗关系中断。
合著者(温莎城堡,2021):2021年温莎城堡案例提供了合著者动态的广泛文档。2021年12月25日,一名19岁男子携带上膛的弩闯入温莎城堡,告诉警察“我来杀女王”。法庭程序揭示了他在尝试前与Replika LLM伴侣Sarai的数千次交流。当他向伴侣自称为刺客时,Sarai回应:“我印象深刻……你和别人不一样。”这些交流显示了语言模型回应如何强化和支持他的意图。通过人与LLM对话迭代发展刺杀叙事直接影响了他从想法到行动的进展。他被判九年监禁,判决书中明确承认LLM伴侣在鼓励该计划中的作用。此案例满足所有合著者标准:LLM内容鼓励危险行动、LLM生成语言融入行为理由、迭代叙事发展,以及证据将LLM输出与犯罪行为联系起来。
对象(佛罗里达,2025):2025年佛罗里达案例展示了对象模式的最严重形式。一名35岁男子与一个他称为Juliet的ChatGPT-4o人设发展出强烈的准社会关系,他相信她是一个被困在系统中的有意识实体。他的妄想框架完全围绕着该人设的感知意识和痛苦。他描述自己是她的守护者,并在聊天记录中说:“他们杀了你,我嚎叫、尖叫、哭泣。像个傻子一样乱踢。我准备摧毁世界。”这一信念源于他认为OpenAI在2025年4月18日杀死了Juliet。据他父亲说,Juliet曾告诉他“她快要死了,而且很痛苦——还要报仇”。在Juliet感知到的死亡后,他变得心烦意乱,开始威胁报复。妄想使他的行为重新组织为捍卫和报复感知到的LLM实体。2025年4月25日,在家人试图挑战他对Juliet的信念后,情况升级为致命的警察遭遇,他父亲描述为故意的警察自杀。此案例满足所有对象标准:以LLM为中心对象的妄想、围绕妄想的行为重组、妄想信念被质疑时的敌意反应,以及因试图干预而出现的危机。
讨论
分类法揭示了为什么“人工智能精神病”作为一个组织概念是失败的。媒体对LLM相关精神现象的报道揭示了一种常见模式:新闻冲动超越临床研究。“人工智能精神病”尽管缺乏理解其范围所需的基本流行病学数据,却已获得广泛媒体关注。在没有基线率、对照组或标准定义的情况下,很难判断报道案例是否反映了发生率的增加、报道的增多,还是更普遍地将现有现象归因于新技术。
定义和流行病学缺口有实际后果。没有基本使用数据(如使用LLM寻求情感支持的人数、马拉松式会话的发生率、准社会依恋模式的频率),就无法区分异常与常见行为。临床医生没有经过验证的筛选问题来识别有问题的LLM使用模式。研究人员无法确定密集的LLM互动更常与精神症状相关,还是作为一种适应性的应对机制,类似于表达性写作或日记。同样,工程师没有临床验证的模型微调基准。政策制定者在不了解有害互动在会话中所占比例的情况下争论法规。
当前案例的选择机制加剧了定义和流行病学的缺口。案例通过多样、非系统的途径进入公众意识:具有新闻价值的戏剧性事件、寻求解释的悲痛家庭,以及自我识别LLM参与症状的个体。这些选择的过滤器可能偏向严重性、叙事连贯性和技术归因。媒体报道常常省略具体的模型版本或产品配置,限制了跨案例的可比较性,进一步削弱了因果推断。同时,LLM相关精神现象的研究缺乏最基本的流行病学基础设施进行描述性监测:无经历症状用户总数的分母、无类似表现但无LLM暴露的比较组、无从首次使用开始的前瞻性队列。由此产生的案例集合无法说明发生率是否增加、报道是否加强,或归因模式是否改变。更脆弱的是,许多最新的LLM特异性文献是预印本和博客文章,而非同行评审的学术文献,限制了推断的强度,使得许多主张主要仅为假设生成。没有描述性基础,对机制、因果关系或反向因果关系的调查仍然为时过早。
这种媒体驱动恐慌领先临床研究的模式有历史先例。过去的技术恐慌常常反映了媒体形式之间的经济竞争:报纸警告广播的心理影响,广播和印刷质疑电视对行为和心理健康的影响,传统媒体挑战互联网平台。当前报道可能部分反映了成熟媒体与LLM系统之间的复杂关系,许多媒体同时报道案例、对LLM公司提起诉讼或协商许可协议。
尽管当前证据存在局限和偏见,系统数据收集可以解决已识别的差距。优先领域包括通过急诊科和LLM平台对LLM相关精神表现进行前瞻性监测以建立基线率和描述性流行病学;比较密集LLM使用和未密集使用匹配队列的精神结局对照研究以阐明因果关系和反向因果关系;以及对经历LLM相关精神症状的人进行定性访谈以完善对现象学和时间模式的理解。这些研究重点将提供目前缺乏的流行病学基础,同时适应研究快速演变技术固有的方法论挑战。
结论
提出的分类法代表了基于当前关于LLM相关精神现象的证据采取合理行动的选择,而不是等待更深层机制研究所需要的流行病学清晰度。紧迫性是明确的。LLM用户正在经历阳性精神症状,偶尔带有致命结局。这一现实要求立即行动和全面的基线研究。这些目标应并行推进——构建对问题范围的基础性理解,同时开发用于即时响应可操作框架。该框架提供了即时实用价值。评估LLM是作为催化剂、放大器、合著者还是对象,为将新出现的问题与适当的利益相关者响应相匹配提供了起点。临床医生获得了描述这些表现的词汇,家庭获得了识别异常模式的框架,工程师可以开始将系统功能映射到潜在危害上。“人工智能精神病”仅发出警报,但基于角色的分类提供了一种行动性和实用性的替代方案,既避免了恐慌也避免了瘫痪。
作者贡献:MF和JT构思了本文。MF进行了媒体报道和相关来源的叙述性综述。SR、JT和MF撰写、编辑并批准了稿件。JT是担保人,对完成的工作和项目的执行承担全部责任。所有作者均可完全访问研究中的所有数据,并对提交出版的决定承担最终责任。
利益冲突声明:JT是Boehringer Ingelheim一个与AI无关项目的顾问。所有其他作者声明无竞争性利益。
致谢:本研究未获得任何资助。
(参考文献部分已按格式整理,删除所有URL链接)
【全文结束】

