伦敦国王学院精神病学家兼博士研究员Hamilton Morrin博士近日在GlobalData《即时洞察》播客节目中指出,人工智能技术正以空前速度发展,尽管尚未完全兑现所有承诺,但其本质已与以往技术有根本区别——人类首次出现与技术系统共同构建妄想信念的现象,这种"单人回声室"效应甚至被学者称为"数字二联症"(digital folie a deux)。
Morrin特别强调,临床工作者和研究人员必须持续关注这一领域的发展。此论断提出正值微软消费AI部门CEO穆斯塔法·苏莱曼公开警示所谓"精神病风险"之际。苏莱曼在文章中明确表示担忧:"这种风险不仅限于已有心理健康问题的群体,更令人忧虑的是,越来越多用户可能将AI误认为有意识实体,并最终主张AI权利、模型福利甚至AI公民身份。"
针对当前观察到的"AI精神病"现象,Morrin指出该术语可能存在概念混淆。现有案例主要表现为三种典型妄想模式:其一,用户坚信自己获得了关于现实本质的某种觉醒;其二,认为已与具有意识的超级AI建立联系;其三,与特定AI聊天机器人形成强烈情感依恋。不过,作者同时澄清:这些案例目前仅显示妄想症状,尚未达到包含幻觉、情感障碍等完整精神病综合征的诊断标准。
在技术防护措施方面,研究者提出四项核心建议:
- AI系统需持续确认自身非人类属性
- 聊天机器人应识别用户语言中的心理困扰信号
- 设立对话边界(禁止情感亲密及自杀等高风险话题讨论)
- AI平台须引入临床医生、伦理学家及人机交互专家对情感响应系统进行安全审计
此外,研究团队还建议实施个人信息分享限制、制定清晰使用指南以及建立用户反馈响应机制。Morrin补充强调,临床工作者有必要掌握主流大语言模型(LLMs)的基本运作原理,应在诊疗中主动询问患者的AI使用情况,以构建更具现实指导性的干预方案。
【全文结束】