人工智能（AI）技术及其应用正在重塑现代生活的多个领域，包括人们寻求心理健康支持的方式以及他们接受护理的方式。医疗保健专业人员正在迅速采用基于AI的应用程序，这些程序旨在支持工作流程和护理交付、简化流程并帮助扩大服务获取渠道。与此同时，患者现在可以轻松访问生成式AI聊天机器人——大型语言模型工具，旨在处理和生成类似人类的文本以回答用户的问题。由于AI的应用速度超过了监管速度，这些现成工具的安全性、有效性和隐私性仍不明确。
AI工具在心理健康治疗中的应用
AI应用可以通过使用患者的实时和历史数据识别早期预警信号，支持医疗提供者进行心理健康状况或自杀风险的早期诊断。AI应用还被用于预测某些心理健康状况治疗干预措施的有效性。
医疗系统也在采用AI工具来协助行政任务，以减轻临床医生的职业倦怠，包括转诊、患者注册和计费的系统自动化。市场上有超过60种AI工具可协助将医患互动转录为结构化笔记用于临床文档。临床医生对这些工具的采用速度超过了几乎所有近期健康技术的采用速度。
尽管AI应用有能力支持医疗提供者并改善患者护理，但这些工具在临床环境中表现的准确性、一致性、有效性和公平性方面仍存在限制。可能需要更多的研究和评估，才能使这些应用充分发挥潜力。
AI聊天机器人的普遍使用
患者使用生成式AI聊天机器人获取心理健康支持（包括治疗和陪伴）也引发了安全问题，导致针对AI开发者的诉讼——在某些情况下，指控他们的产品导致人们自杀。尽管聊天机器人未获批准提供治疗，且效果不如人类治疗师，但有公司估计每周约有120万用户在其平台上表达自杀念头。
一项2025年的研究评估了一些流行聊天机器人对自杀相关查询的直接回应，发现这些查询的处理方式存在不一致性。另一项研究发现了与消费者数据保护相关的几个令人担忧的原因，包括数据使用方面缺乏透明度和问责制。将生成式AI用于心理健康目的的风险对青少年可能特别严重，因为他们可能对技术产生依赖；对老年人和已有精神疾病的个体也可能特别严重，因为他们更容易受到错误信息和剥削的影响。
监管方法和对心理健康提供者的指导
消费者在医疗保健交付中对聊天机器人和AI应用的快速采用已经超过了这些产品的法律和监管框架。目前，在心理健康领域使用这些工具的范围、安全性和有效性方面，尚无统一或强制性的国家标准或保障措施，联邦机构也未对这些产品发布全面监管规定。
在缺乏联邦法规的情况下，一些州已尝试推进政策，以规范AI在心理健康领域的应用，主要关注临床医生监督、伤害预防、隐私保护以及涉及透明度、披露和知情同意的用户自主权。例如，田纳西州、内华达州和伊利诺伊州已对AI系统在心理健康治疗中的使用或宣传施加了限制或禁令，包括禁止AI系统以合格心理健康专业人士的身份出现，以及禁止提供者使用AI进行治疗决策。纽约州也通过了一项法律，要求聊天机器人制造商包含至少能够检测用户表达自杀念头或自残行为的协议，并将危机中的用户转介给适当的服务提供者，包括自杀预防和行为健康危机热线。
美国心理学会和美国咨询协会等专业协会、斯坦福以人为中心的人工智能研究所和哈佛医学院等学术机构，以及其他公共卫生利益相关者，也正在提供关于在心理健康护理中使用AI的建议、指导和培训，以帮助确保这些产品的道德、有效和安全使用。
随着自杀重新进入美国十大死因之列，心理健康护理获取方面的差距依然存在，研究人员、政策制定者、患者和AI行业有机会合作，确保AI工具在扩大心理健康护理获取渠道的同时，也能保护患者安全。
Farzana Akkas在皮尤慈善信托基金会的自杀风险降低项目工作。
如果您或您认识的人需要帮助，请拨打或发短信至自杀与危机生命线988，或访问988lifeline.org并点击聊天按钮。
【全文结束】