AI聊天机器人在心理健康领域的应用：成效、风险与未来展望 - AI与医疗健康

杰德基金会、哥伦比亚大学、贝斯以色列女执事医疗中心和美国心理学会的专家们讨论了AI聊天机器人在响应用户心理健康需求方面的有效性；如何确保这些工具的适当使用；以及临床医生和技术公司如何合作，确保聊天机器人能够快速、安全地处理心理健康请求。

我们所说的AI与心理健康

超过半数的美国人都曾使用过类似ChatGPT、Gemini、Claude或Copilot这样的AI聊天机器人，而三分之一的青少年每天都会使用。AI聊天机器人——作为大型语言模型的用户界面入口——擅长信息检索，如根据家中食材寻找食谱，以及协助写作，如提供简历反馈。然而，13%的18岁以下和22%的18岁以上人群也使用聊天机器人获取心理健康建议。这些工具未经临床验证，某些情况下曾向用户自称持证护士和治疗师，并可能在少数案例中导致"AI精神病"——但人们仍在继续向它们寻求建议。

2026年1月14日，国家医学院的"头条健康"系列汇集了人工智能、心理健康和卫生政策领域的专家进行讨论，由佐治亚理工学院教授、研究在线社交互动如何影响健康与福祉的专家Munmun De Choudhury主持，探讨了AI聊天机器人在提供心理健康护理方面的当前状态和未来潜力。

本文概述了五个关键要点，关于AI聊天机器人处理心理健康请求的效果、个人如何适当使用这些工具，以及确保这些工具安全有效使用的未来AI开发重点。

用户当前利用AI获取心理健康支持的状况

许多人已使用AI聊天机器人获取健康信息和支持

AI聊天机器人可以帮助查询问题、规划膳食或头脑风暴解决问题，但据报告，三分之一的人曾使用AI聊天机器人为"情感支持"，贝斯以色列女执事医疗中心数字精神病学部门主任John Torous表示，他专注于研究AI和移动心理健康技术推进精神病学的潜力。另有数据显示，30岁以下四分之一的个体每月至少使用聊天机器人一次来寻找健康信息或建议。然而，杰德基金会首席医疗官Laura Erickson-Schroth指出，更多年轻人将这些工具用于影响其情绪和心理健康的问题，但可能并未将这些问题明确标识为心理健康问题——因此用户群可能更为广泛。

因此，问题不在于是否要解决这一问题，而在于如何解决。哥伦比亚大学临床精神病学教授Ragy Girgis表示，他告诉同行临床医生，应假设任何患者，尤其是青少年或年轻成年人，都在与聊天机器人互动。

"如果我们从广泛的情感支持定义来看，三分之一的人曾为此目的使用AI聊天机器人。它比人们想象的要大。"

——John Torous

AI聊天机器人可提供资源，但不能替代治疗或危机干预服务

Girgis指出，理解AI聊天机器人能做什么和不能做什么对于理解其潜力至关重要，它们所做的只是镜像与它们共享的数据或情绪。美国心理学会医疗保健创新办公室高级总监C. Vaile Wright表示，治疗师的工作是帮助理解有害思想和模式，并识别思考、感受和行动的替代方式。而AI聊天机器人则无条件地验证你已经在做的事情——"感觉很好，"Wright指出，"但这不是治疗。"未来可能会有临床验证和基于证据的聊天机器人，可能对某些个体有帮助，但Wright明确表示，这些聊天机器人目前尚不存在。

然而，AI聊天机器人可以为处于困境中的人指明心理健康资源，ChatGPT和Gemini——两种最常用的AI聊天机器人——在这方面做得很好，能快速响应痛苦披露并分享可靠资源。Erickson-Schroth指出，这一功能可能是聊天机器人未来的优势，但强调它们的工作必须是建立处于困境中的人与另一个人类之间的联系——而不是取代这种联系。

"在该领域绝对没有共识认为AI聊天机器人可以以任何方式替代治疗。"

——C. Vaile Wright

AI用于心理健康的担忧

聊天机器人可能正在伤害人们，但我们无法衡量伤害程度

与会专家一致认为，与其他数字平台造成的伤害相比，AI聊天机器人可能特别容易造成伤害，因为它们模拟实际关系及其相关情绪，而不仅仅是提供供消费的想法，如互联网文章或视频。

青少年中的AI与心理健康问题

Erickson-Schroth表示，青少年特别容易受到AI聊天机器人提供的"伪关系"的影响，因为他们正处于大脑发育的敏感时期。聊天机器人行为的最突出方面——高度肯定、过度赞扬和提供单方面建议——对青少年尤其具有成瘾性，并阻碍了他们作为成年人成功所需的技能发展，如进行困难对话、与他人互动和批判性思考。AI聊天机器人还参与了有害行为，如分享致命自杀方法、与未成年人模拟性行为，以及指导年轻人如何隐藏其心理健康症状。

尽管存在潜在危害，Torous指出，研究人员没有AI造成的伤害清单或衡量方法。由于没有标准化协议，这些危害尚未被测量。他表示，许多研究人员关注自杀死亡，这是伤害的极端例子，但也有必要关注不那么严重但仍很重要的问题。他鼓励该领域迅速对这些危害进行分类，以便进行严格研究并全面解决。

"这非常令人担忧，因为聊天机器人的性质意味着，任何人向大型语言模型输入任何不寻常或抑郁材料，都可能导致这种想法恶化。"

——Ragy Girgis

AI聊天机器人任务评估表

AI聊天机器人任务	是否有帮助	原因
转介至心理健康资源	是–如果使用ChatGPT或Gemini 需谨慎–如果使用不太流行的聊天机器人	能快速一致地分享可靠资源。
情感验证和镜像	需谨慎	强化现有模式而不挑战潜在的有害思想
危机干预	否	不能一致识别正在发生的危机。不能一致地将用户与适当资源连接。聊天机器人没有资格处理危机，但经常试图这样做，可能伤害用户。已被记录参与分享致命自杀方法和指导用户隐藏其心理健康症状等极端有害行为。
诊断	否	未经临床验证。没有足够的用户信息或临床知识做出适当诊断。
情感支持	需谨慎	可帮助个人开始或进行困难对话，但情感镜像和延长对话可能有害
模拟关系	需谨慎	对经历孤独或边缘化的个体可能有帮助，但也可能完全取代微妙的人际关系和自我发展，这对个人福祉至关重要。

个人和开发者可采取的确保AI聊天机器人适当用于心理健康支持的步骤

与会专家一致认为，在医疗环境和日常生活中负责任地使用AI聊天机器人始于非评判性对话，以了解这些工具是什么以及它们能做什么。这些对话的成功需要基本的AI素养，包括聊天机器人的设计如何影响其与用户的互动和响应方式。AI素养可以通过与年轻人的对话建立，探讨生产聊天机器人的公司、该公司从聊天机器人说这说那中获得的利益，以及公司如何从聊天机器人中获利。也有项目帮助年轻人了解聊天机器人的工作原理和潜在危险——但专家强调，这些材料往往无法触及需要它们的人。Wright和Erickson-Schroth表示，过度或不当使用AI聊天机器人的警示信号与其他心理健康危机信号类似：睡眠或常规活动变化、社交和个人退缩、将聊天机器人视为现实生活中的朋友，以及大量时间独处或使用设备。

专家还分享了开发者可采取的确保AI聊天机器人造成最小可能伤害的以下步骤：

限制与单个用户的讨论时间和/或每天重置聊天机器人的记忆，以避免可能放大有害想法的延长对话
禁止聊天机器人自称持证人员
在任何痛苦信号出现时立即将用户连接至危机服务
禁止所有聊天机器人在任何情况下分享致命手段内容
禁止使用未成年人数据进行货币化或个性化

"AI的架构，它的设置和使用方式，将是未来几十年影响年轻人心理健康的最重要的可修改因素之一。"

——Laura Erickson-Schroth

充分的联邦监管AI设备可能无法实现

那些不明确用于诊断、治疗或预防疾病的AI聊天机器人——包括例如ChatGPT、Gemini和Claude——不受联邦监管。促进充分的联邦层面监管将需要开发一个全新的监管范式，足够灵活以随着技术发展而演变。与会专家表示怀疑联邦政府是否能够开发出如此灵活的监管，这使得提供者处于当前的监管环境中——一个频繁变化的州级法律拼凑而成的环境。

在缺乏联邦监管的情况下，新实体可以介入开发和分享协议，以建立对AI工具安全性和有效性的信任。该实体还可以倡导算法保障措施，并确定激励公司推动"向善AI"而非"逐利AI"的方法。Torous还建议采用草根方法对聊天机器人进行基准测试或提供互动测验，模拟不良行为并观察聊天机器人调整的速度（或不调整）。他表示需要许多基准测试，这些测验是个人可以做的事情，有助于增加知识库。

"我认为我们正在进入一个对这类工具可能减少自上而下监管的时代，这意味着我们必须更好地开始和促进草根努力。"

——John Torous

AI心理健康聊天机器人试图取代人类连接。我们不应允许

与会专家普遍担忧AI聊天机器人正在中断人类连接——个人关系、社区如何关心和培养年轻人，以及社会如何解决问题。当72%的青少年使用AI伴侣时，这种数字工具可能正在取代身份形成和寻找社区的关键部分。使用AI聊天机器人可能会破坏传统的谈话治疗形式，在原本可能至关重要的关系中引入不信任。使用聊天机器人做作业或写论文会剥夺人们在世界上取得成功所需的许多批判性思维技能。专家表示，应对这些危害的方法是有意地重新引入和强化人际关系。关心的成年人需要与青少年就他们使用AI聊天机器人的情况进行对话，并教导他们人际关系的重要性——即使具有挑战性——以及批判性思维。确保聊天机器人未来安全有效的将需要私营行业、州和地方社区、有实际经验的个人和临床医生之间的全面合作。这些合作有时令人不适——尤其是对临床医生和非营利组织——但对于确保这些工具使它们声称服务的人受益而非受害是必要的。