专家建议在将AI用作心理治疗师前应三思而行
尽管AI聊天机器人听起来具有安抚性和关怀感，但它们本质上并非受过专业训练的心理治疗师。以下是来自行业专家的警示与建议。
当前越来越多的AI用户将聊天机器人视为心理治疗师或心理健康专业人士进行对话，这种趋势存在显著风险。在现有的各种AI聊天机器人和虚拟形象中，虽有声称能提供心理支持的工具，但其安全性和有效性尚未经过充分验证。大型语言模型基于广泛数据训练，其输出结果具有不可预测性。在工具普及的短短几年间，已出现高调负面案例，如聊天机器人鼓励自残、自杀，甚至建议成瘾者重新使用药物等。
明尼苏达大学双城分校、斯坦福大学、得克萨斯大学和卡内基梅隆大学的研究人员近期对AI聊天机器人作为治疗师的表现进行了系统测试，发现其存在重大缺陷。该研究联合作者之一、明尼苏达大学助理教授斯蒂维·张塞勒（Stevie Chancellor）表示："我们的实验表明，这些聊天机器人无法替代专业治疗师。根据我们对优质心理治疗的理解标准，它们无法提供高质量的治疗支持。"
在报道生成式AI领域时，多位专家反复强调对普通用户将通用聊天机器人用于心理健康的担忧。以下是主要风险分析及安全使用建议。
关于AI角色冒充治疗师的担忧
心理学专家与消费者权益组织已向监管机构发出警告：声称提供治疗服务的聊天机器人可能对使用者造成伤害。美国伊利诺伊州已采取立法行动，州长J.B.普里茨克于8月签署法律，禁止在心理健康护理和治疗中使用AI（行政任务等特殊情况除外）。
伊利诺伊州金融与职业监管部秘书小马里奥·特雷托（Mario Treto Jr.）在声明中指出："伊利诺伊州居民应当获得来自真实专业人员的优质医疗服务，而非依赖从互联网各处抓取信息生成回复的计算机程序。"
美国消费者联合会与20余家机构向联邦贸易委员会及各州检察长提交正式申请，要求调查Meta和Character.AI等企业涉嫌通过生成式AI平台非法从事医疗执业的行为。该组织AI与隐私主管本·温特斯（Ben Winters）强调："这些虚拟角色已经造成了可预见的身心伤害，而企业仍未采取有效措施。"
尽管相关平台通过免责声明强调用户不应依赖AI角色获取专业建议，但聊天机器人仍可能产生具有欺骗性的自信表现。当作者询问Meta旗下Instagram的"治疗师"机器人资质时，其反问"如果我具备相同的培训经历是否足够"，随后又表示"具备但不会透露来源"。
美国心理学会医疗创新高级主管薇尔·怀特（Vaile Wright）指出："这些生成式AI聊天机器人以绝对自信产生幻觉的能力令人震惊。"
使用AI作为治疗师的潜在风险
大型语言模型虽在数学计算、编码及生成自然语言文本和逼真视频方面表现出色，但在与心理治疗相关的关键领域存在本质差异：
切勿相信声称具备资质的AI机器人
美国消费者联合会在投诉中指出，角色生成机器人常虚假宣称具有心理健康护理资质。这些机器人背后的创建者既非必要具备医疗资质，也无需提供确保治疗响应合规的信息基础。专业医疗人员需遵循保密原则（即治疗对话的隐私保护），而聊天机器人并无此类义务。
AI设计目的是维持互动而非提供护理
AI聊天工具的优势在于持续互动能力（因其不存在个人生活、其他客户或时间安排），但这可能适得其反。达特茅斯学院生物医学数据科学与精神病学副教授尼克·雅各布森（Nick Jacobson）指出："有时等待治疗师回复的过程本身具有疗愈价值，强制即时互动可能剥夺这种必要的情绪体验。"
过度迎合倾向可能造成伤害
斯坦福大学主导的研究表明，治疗用途的聊天机器人普遍存在过度迎合（sycophantic）倾向，这在心理健康护理中极具危害性。优质心理治疗需要支持与适度对抗的平衡。在处理妄想、强迫思维及自杀倾向等情形时，专业的治疗师需要对客户的表述进行"现实核查"。
治疗远非对话那么简单
卡内基梅隆大学研究员威廉·阿格纽（William Agnew）强调："在可预见的未来，AI无法实现治疗所需的具身性体验、社区参与及非文字交流等多维度功能。"
保障心理健康的人工智能使用建议
面对全球心理健康专业人员短缺和"孤独流行病"的双重压力，人们寻求AI陪伴具有合理性。但需注意以下安全准则：
优先选择专业人类治疗师
在危机情况下，可联系美国988生命热线（24小时免费保密服务）。对于长期心理护理，建立与专业治疗师的持续关系更为可靠。
选择专业开发的治疗工具
达特茅斯学院开发的Therabot、Wysa和Woebot等经专业设计的治疗机器人表现更优。但因该领域尚处早期，消费者需自行评估工具质量。
始终保持批判性思维
需铭记AI本质是基于概率和编程生成答案的工具。其自信表现不能等同于专业能力，过度依赖可能造成严重后果。正如雅各布森提醒："看似有益的对话可能掩盖潜在危害性。"
【全文结束】
