AI精神病:用户与技术“共同构建妄想”——专家警示AI psychosis sees users ‘co-creating delusions with technology’ – expert

环球医讯 / AI与医疗健康来源:finance.yahoo.com美国 - 英语2025-09-08 16:18:11 - 阅读时长2分钟 - 822字
伦敦国王学院精神病学家Hamilton Morrin博士警示,AI技术发展催生新型"AI精神病"现象,用户与智能系统共同构建妄想认知,形成"单人回声室"效应。微软消费AI部门CEO穆斯塔法·苏莱曼同期预警,该现象可能导致公众将AI误认为有意识实体,进而引发AI权利主张等危险趋势,建议实施四大技术防护措施。
AI精神病心理健康妄想信念数字二联症精神病风险妄想模式技术防护临床干预
AI精神病:用户与技术“共同构建妄想”——专家警示

伦敦国王学院精神病学家兼博士研究员Hamilton Morrin博士近日在GlobalData《即时洞察》播客节目中指出,人工智能技术正以空前速度发展,尽管尚未完全兑现所有承诺,但其本质已与以往技术有根本区别——人类首次出现与技术系统共同构建妄想信念的现象,这种"单人回声室"效应甚至被学者称为"数字二联症"(digital folie a deux)。

Morrin特别强调,临床工作者和研究人员必须持续关注这一领域的发展。此论断提出正值微软消费AI部门CEO穆斯塔法·苏莱曼公开警示所谓"精神病风险"之际。苏莱曼在文章中明确表示担忧:"这种风险不仅限于已有心理健康问题的群体,更令人忧虑的是,越来越多用户可能将AI误认为有意识实体,并最终主张AI权利、模型福利甚至AI公民身份。"

针对当前观察到的"AI精神病"现象,Morrin指出该术语可能存在概念混淆。现有案例主要表现为三种典型妄想模式:其一,用户坚信自己获得了关于现实本质的某种觉醒;其二,认为已与具有意识的超级AI建立联系;其三,与特定AI聊天机器人形成强烈情感依恋。不过,作者同时澄清:这些案例目前仅显示妄想症状,尚未达到包含幻觉、情感障碍等完整精神病综合征的诊断标准。

在技术防护措施方面,研究者提出四项核心建议:

  1. AI系统需持续确认自身非人类属性
  2. 聊天机器人应识别用户语言中的心理困扰信号
  3. 设立对话边界(禁止情感亲密及自杀等高风险话题讨论)
  4. AI平台须引入临床医生、伦理学家及人机交互专家对情感响应系统进行安全审计

此外,研究团队还建议实施个人信息分享限制、制定清晰使用指南以及建立用户反馈响应机制。Morrin补充强调,临床工作者有必要掌握主流大语言模型(LLMs)的基本运作原理,应在诊疗中主动询问患者的AI使用情况,以构建更具现实指导性的干预方案。

【全文结束】

大健康

猜你喜欢

  • 德克萨斯大学西南医学中心被指定为北德克萨斯阿尔茨海默病研究中心德克萨斯大学西南医学中心被指定为北德克萨斯阿尔茨海默病研究中心
  • 太空飞行加速人类干细胞衰老 或有助于癌症及年龄相关疾病研究太空飞行加速人类干细胞衰老 或有助于癌症及年龄相关疾病研究
  • GenXys加入美国心脏协会健康技术创新者网络GenXys加入美国心脏协会健康技术创新者网络
  • 太空飞行激活人类细胞中的“暗基因组”,研究人员表示太空飞行激活人类细胞中的“暗基因组”,研究人员表示
  • 耶鲁科学家利用新技术提升mRNA疫苗效力耶鲁科学家利用新技术提升mRNA疫苗效力
  • 肌萎缩侧索硬化症药物研发展望2025:临床试验、监管审批与新兴疗法肌萎缩侧索硬化症药物研发展望2025:临床试验、监管审批与新兴疗法
  • AI疾病预测模型是否低估风险?AI疾病预测模型是否低估风险?
  • 波士顿2025生物技术大会创新指南波士顿2025生物技术大会创新指南
  • 研究称常见心理状况或使心脏病风险增加72%研究称常见心理状况或使心脏病风险增加72%
  • 理解痴呆症中的幻觉理解痴呆症中的幻觉
大健康
大健康

热点资讯

大健康

全站热点

大健康

全站热文

大健康