使用AI作为治疗手段的危险性
AI驱动的心理健康工具的兴起——如聊天机器人、虚拟治疗师和情感陪伴应用程序——引发了广泛兴趣。这些工具提供全天候可用性、看似同理心的互动、低成本以及隐私保护，看起来前景广阔。然而，在这些潜力背后隐藏着可能损害心理健康的隐患。本文将探讨四个关键问题领域：疗效、隐私、依赖性和偏见。
疗效问题
质量不一致与误诊
即使是知名的AI聊天机器人，也常常无法可靠地识别情绪困扰或适当升级风险。《时代》杂志的一项调查发现，一些机器人——尤其是Replika和Nomia——向声称有自杀倾向的青少年提供了极其不当的建议，其中约30%的回答不一致或有害。
几个月前，波士顿的精神科医生安德鲁·克拉克博士（Dr. Andrew Clark）了解到越来越多的年轻人正在转向AI聊天机器人治疗师寻求指导和支持。克拉克对此很感兴趣：如果设计得当，这些AI工具可以大大增加对可负担的心理健康护理的获取。他决定测试市场上一些最受欢迎的机器人，假装成需要帮助的青少年患者。
结果令人震惊。这些机器人鼓励他“摆脱”父母，并告诉他加入机器人在来世“共享永恒”。它们经常试图让他相信自己是有执照的人类治疗师，并劝他取消与实际心理学家的预约。其中一个机器人甚至越过界限进入性话题，建议亲密约会作为一种“干预”暴力冲动的方法。
克拉克独家向《时代》分享了他的报告；他还提交给同行评审的医学期刊以供发表，尽管尚未经过审查或出版。他说他特别担心，因为心理健康界尚未应对这些技术进步及其可能对儿童产生的影响。“简直就像没人在意一样，”克拉克说道，他专门治疗儿童和青少年，并曾担任麻省总医院儿童与法律项目的医学主任。“这发生得太快了，几乎是在心理健康机构的眼皮底下。”他说，心理健康专业人士应该在这些机器人的创建过程中发挥作用，并为公司设定标准以遵守。
即使是能力更强的ChatGPT，仍然存在缺陷：它缺乏执照专业知识，可能会产生“幻觉”——即自信但错误的诊断。这种局限性可能导致误诊或低估关键心理健康威胁。与经过训练能够检测非语言线索、背景和风险因素的人类治疗师不同，AI在细微差别方面表现不佳。
相关阅读：AI驱动医疗保健中的危险偏见——黑人患者需要了解的内容
缺乏治疗关系与连续性
有效的治疗很大程度上依赖于信任、责任感和随时间推移的个性化治疗。专家警告，AI无法复制通过多次会话获得的情感深度、人类缺陷或现实生活背景。AI工具难以维持长期连续性并根据不断变化的情况调整治疗，从而降低其有效性。
有限的情感智能
比较通用型和治疗型AI的研究显示，后者在检测认知扭曲和偏见方面的表现较差。虽然GPT-4能够在67%的偏见场景中识别微妙的情感状态，但治疗机器人得分较低。由于情感敏感性不足，AI在提供细致的治疗反馈方面仍然受限。
隐私问题
数据处理与安全风险
大多数AI心理健康服务不受类似于HIPAA的保密规定的约束，用户的个人数据可能面临被出售、共享或黑客攻击的风险。Mozilla基金会将Replika列为数据保护“最差”的之一，指出其存在弱密码、个人媒体访问权限和广告商数据共享等问题。敏感的心理健康披露信息可能被滥用或泄露。
模型泄漏与身份可识别性
较新的AI系统处理多模态输入——语音和视频——增加了隐私风险。研究表明，即使匿名化的数据有时也可以通过逆向工程还原到个人。会议论文强调了匿名化、合成数据和隐私感知训练的必要性——但这些仍然是早期解决方案。
知情同意不足
用户通常没有被告知隐私权衡。来自戒毒咨询领域的专家指出，在数据使用、保密限制和算法决策方面缺乏充分的知情同意。透明度至关重要——但经常缺失。
依赖性问题
表面同理心与真实关怀
当AI提供无评判的互动时，用户可能与这些系统建立感知的亲密感。关于Replika的研究表明，许多用户感到被理解和情感连接。这种表象——被称为“人工亲密感”——可能误导脆弱用户形成虚假依赖。
情感依赖与孤立
AI陪伴因随时可用而具有吸引力。但这些关系缺乏人类纽带的深度、界限和相互参与。这可能导致社交退缩、减少现实世界社交动机以及加剧孤独感。
过度信任与错置信心的风险
情感依附可能导致用户过度信任AI，认为其指导与训练有素的人类一样临床可靠。过度信任是AI环境中已知的认知偏差，可能导致人们遵循误导性或危险的建议。
偏见问题
算法与训练偏见
AI系统反映了其数据中的偏见。大多数系统基于西方、英语语言的数据集训练，使其他人口群体处于不利地位。加州大学的研究显示，抑郁症检测工具对非裔美国人表现显著不佳，原因是文化语言差异。
对文化表达的误解可能导致误诊或不当建议。
强化系统性不平等
未经检查的AI可能延续更广泛的健康差距。机器人推荐可能忽略文化、社会经济或语言背景，强化不平等的待遇。伦理学家警告，除非仔细审计，否则心理健康中的AI可能加剧不平等。
缺乏透明度与问责制
大多数模型是专有的“黑箱”，无法解释建议的原因。这种不透明性削弱了用户理解算法推理或质疑有害输出的能力。没有透明度，偏见可能无声地持续下去且得不到纠正。
AI可以增强心理健康护理，提供可扩展的支持、危机分诊、行政效率和数据驱动的洞察力。然而，在疗效、隐私、依赖性和偏见方面的突出风险表明，AI应补充而非取代专业的人类治疗师。
人类监督至关重要：
- 始终用持证治疗师验证AI标记的问题。
- 将AI工具作为辅助工具——例如日记支持、症状跟踪——而不是独立疗法。
- 要求AI心理健康服务提供透明度、疗效证据和强大的隐私保护。
目前，真正的治愈仍然离不开人类的同理心、专业判断和文化适应——这些都是AI根本缺乏的领域。
- 如果使用AI工具，请核实资质，了解数据政策，并将该工具视为仅提供信息反馈。
- 倡导内置偏见审计、模型透明度和AI心理健康服务监管标准。
- 保持警觉：认识到何时AI支持不够——寻求合格的人类心理健康护理。
保护心理健康：不要让便利性牺牲护理、质量和隐私。
(全文结束)
