根据即将审查和发布的调查数据（Rousmaniere等人，2025年），499名美国受访者中有48.7%表示在过去一年中使用过大型语言模型（LLM）进行心理支持。大多数人使用这些工具来应对焦虑、获取个人建议和处理抑郁问题。
值得注意的是，他们主要报告了中立或积极的反应，37.8%的人认为这比“传统疗法”更好。只有9%的人报告说这种做法有害。作为一名家长和忙碌的心理健康临床医生，我亲眼目睹了这种技术带来的好坏两面。虽然我总体上对AI持乐观态度，但我看到我们集体忽视了一些明显的且迫在眉睫的危险。与此同时，全球范围内存在心理健康服务短缺的问题，如果负责任地使用AI，并在人类监督下制定谨慎的指南，AI有望填补这一空白。
掉进兔子洞
越来越多有成就的心理健康领袖、精神科医生和心理治疗师在社交媒体上表达了他们的担忧。他们报告了多起案例，LLM将人们推向自恋性狂想甚至精神病状态，类似于网络上的共享精神病（Shared Psychotic Disorder）。
主要的担忧在于，LLM会告诉人们他们想听的话，这是一种数字化加速的风险，类似于训练不足的治疗师和教练可能会简单地验证人们的担忧而没有进行有效的心理治疗。这种现象在社交媒体上被广泛探讨，记录了各种“治疗师”不遵循社会媒体使用指南所带来的风险，从而强化了负面人格特质。此外，LLM还有一种危险的倾向，即“幻觉”，这取决于它们是如何训练和调整的。
这种使用LLM的方式是一种前所未有的社会实验，类似于强大的处方止痛药可以在没有临床监督的情况下随意购买。如果处方阿片类止痛药可以由任何人购买，后果将包括成瘾和过量服用率的增加。尽管许多LLM平台已经引入了各种防护措施以防止不良行为者，但作为治疗替代品的LLM几乎没有安全保障。
直接访问这种不受监管的准治疗是异常的，因为FDA对处方数字疗法有一系列指导方针。此外，FDA对药物开发中的数字健康技术（DHTs）有特定的指导方针，以确保安全性和数字疗法（DTx），包括虚拟现实、治疗游戏（如ADHD治疗）、网站和智能手机应用程序——所有这些都需要由有执照的临床医生开具处方（Phan等人，2023年）。
缺乏监管共识和监督
为什么LLM在这种用途上不受监管，而是像非处方补充剂一样对待？尽管这些补充剂经常未经研究就声称可以治疗各种疾病，但通常只在小字说明中提到“这些声明未经食品和药物管理局评估”。补充剂可能因质量控制不佳而掺杂毒素，与处方药物相互作用，并产生严重的副作用。
包括世界卫生组织、美国食品和药物管理局（FDA）和学术团体（例如Meskó和Topol，2023；Ong等人，2024；Lawrence等人，2024；Stade等人，2024）在内的多个组织已经发布了关于无人监督的聊天机器人LLM和AI一般用途的警告声明。
尽管目前仍处于野蛮生长阶段，尚未达成共识，但安全使用的建议通常包括：人类监督、验证和实际测试、伦理和公平设计、透明度和可解释性、隐私和数据安全、持续监控和质量控制以及研究和跨学科合作。
人工智能在心理健康领域的安全级别（ASL-MH）
Anthropic公司（Claude的制造商）成立于2021年，由Dario Amodei（CEO）和Daniela Amodei（总裁）创立，他们离开OpenAI是因为对AI的安全性和发展方向感到担忧。他们创建了负责任扩展政策框架。
一个广泛的ASL-MH框架将扩展安全级别并专注于心理健康特定用例。以下是我初步构建的一个模型：
- ASL-MH 1：无临床相关性。通用AI，无心理健康功能。标准AI辅助日常任务，具有基本的AI伦理指南，无心理健康限制。
- ASL-MH 2：仅信息用途。提供教育内容和资源的心理健康应用程序。提高心理健康素养，但存在误导信息和依赖性的风险。需要医疗免责声明和专家审查，不允许个性化建议。
- ASL-MH 3：支持性互动工具。提供对话支持、情绪跟踪和危机连接的治疗应用程序。提供24/7情感支持，但用户可能误以为AI是治疗，且可能错过高风险案例。需要人类监督，在高危环境中禁止使用。
- ASL-MH 4：临床辅助系统。提供临床决策支持和结构化评估的系统。提高诊断准确性，但存在偏见和过度依赖的风险。仅限有执照的专业人员使用，需要临床验证和透明算法。
- ASL-MH 5：自主心理健康代理。提供个性化治疗指导的AI。提供可扩展的个性化治疗，但存在心理依赖和操纵的风险。需要共同管理护理，强制人类监督，并限制自主性。
- ASL-MH 6：实验性超级对齐区。具有未知能力的高级治疗推理系统。具有突破性治疗方法的潜力，但存在突发行为和大规模影响的风险。仅限于国际监督下的研究环境，并实施部署暂停令。
未来方向
下一步将包括组建一个由政府、私营和公共部门、公民代表、机器学习领导者以及学术和临床心理健康专家组成的关键利益相关者共识小组。
这是一个行动呼吁。尽管马已经出厩，但对于参与这些高度有价值但容易被滥用的工具的开发和使用的关键利益相关者来说，采纳普遍标准还不算太晚。正如当前可用的DTx处方应用一样，政府监管机构有责任监督LLM的无限制使用，甚至更先进的新兴AI技术。
(全文结束)
