治疗已成为人工智能最主流的应用之一。但与享有法律特权的传统心理治疗记录不同，与聊天机器人的对话不具备这种保护屏障。
2025年5月13日，地方法官奥娜·T·王下达命令，要求OpenAI违反隐私政策永久保存所有ChatGPT用户查询记录。在《纽约时报公司诉微软公司》的版权侵权案中，法院认为必须保留档案以应对未来可能涉及服务使用的法律诉讼。尽管OpenAI声称此举"与对用户的隐私承诺根本冲突"并提出上诉，但该裁定目前仍具有效力。这项决定影响巨大：OpenAI首席执行官山姆·阿尔特曼估计ChatGPT每周处理约3亿条新查询。
对特定用户群体而言，这项新裁定带来特殊风险：在缺乏其他支持网络的情况下，性侵和其他创伤幸存者往往选择AI倾诉，他们期望自己的身份和经历不会被曝光，除非等到自己准备好站出来的时刻。但现在，每条信息——无论是存档、草稿还是临时聊天模式中的内容——都将被无限期保留。
美国心理学会最近质疑AI诊断或支持心理健康障碍的准备情况。尽管目前没有任何AI聊天机器人"通过美国食品药品监督管理局的批准，用于诊断、治疗或治愈任何心理健康障碍"，但该协会希望AI能在应对美国心理健康危机中发挥支持作用。不过他们强调"现在必须建立强有力的保护措施以保护公众免受伤害"。
对于性侵幸存者来说，这种转变可能带来最沉重打击。根据《人际暴力杂志》的研究，幸存者的叙述结构和一致性往往在法庭上遭到扭曲。在司法系统本就对受害者不利的情况下，早期询问性侵相关的问题或碎片化的心理状态描述，可能被法庭误解为证词矛盾。这些问题本是幸存者在寻求确认伤害是否构成法律定义的性侵，但在法庭上却可能被用来质疑事件真实性。
与受法律保护的传统心理咨询记录不同，这些AI对话记录将成为潜在法律武器。这种风险不仅影响幸存者的倾诉方式，甚至可能完全阻止他们选择倾诉。当永久保存的AI查询档案成为威胁时，幸存者可能彻底放弃使用该服务——这种寒蝉效应将迫使幸存者在最需要帮助的时候回到孤立无援的状态，可能加剧受害者污名化，导致更少的报案和求助。
如果AI要为幸存者提供支持，隐私保护必须加强。平台应至少提供匿名模式并增加明确警示，学校等机构在整合AI应用时也需加强使用教育。Z世代、千禧一代和新生代α群体在成长过程中习惯将AI用于个人咨询和学术工作，当他们因传统心理咨询的高昂费用转向AI时，更容易将技术温暖误认为真正的安全。
【全文结束】
