对于31岁的阿肯色州费耶特维尔市图书管理员莫莉·奎因来说，她曾向治疗师倾诉了两年从未告诉过其他人的私密事情。
因此，当她的治疗师提到尝试使用人工智能工具来做笔记时，奎因没有立即拒绝，而是先要求研究一下这个工具。
她想知道自己的话语会被存储在哪里——是仅保存在本地，还是会被上传到云端处理。
那天治疗继续进行，但进行到一半时，奎因注意到有些不同。
"她不像往常那样做笔记，"奎因说，"平板电脑只是架在那里。"
那时奎因才意识到治疗会话正在被录音。
奎因说她当时愣住了片刻，但随后继续谈话。
直到走出治疗师办公室，她才真正意识到事情的严重性。
"我越想越觉得胃里不舒服，"她说，"这个我本应能够信任、可以向她倾诉非常私密和强烈情绪的人，完全无视了我说过我不舒服的事情。我感到完全被侵犯了。"
她开车回家，脑海中不断回放着治疗会话，不知接下来该怎么办。
在美国各地，越来越多的治疗师正在尝试使用人工智能工具来记录会话、生成文字记录并自动生成临床笔记。软件公司表示，这些工具每周可以节省数小时的行政工作时间。
一家名为Berries的公司将其平台宣传为减轻文书工作负担的方式，让治疗师能够更专注于客户，并在个人生活中获得更好的工作与生活平衡。
该公司联合首席执行官塔尔·萨尔曼告诉NPR："Berries旨在减少行政负担，同时不干扰治疗体验本身。它支持临床医生更专注于他们的客户。"
激活系统后，它会记录对话、转录内容并为治疗师生成临床笔记草稿供其审阅。治疗师可以编辑、修改或删除草稿，也可以将其保存到医疗记录中。
萨尔曼表示，音频会实时处理并立即删除，文字记录存储在美国符合HIPAA（健康保险流通与责任法案）规定的服务器上。他补充说，该公司不使用治疗内容来训练其AI模型。
"治疗会话内容保持私密，不会被重新用于训练，"萨尔曼说，"临床医生仍对患者护理和最终文件记录负全部责任。"
其他向心理健康治疗师提供类似服务的公司包括SimplePractice和Blueprint。这些公司通常每月收取19至99美元的费用，这对经常被行政任务压得喘不过气的独立执业者很有吸引力。
研究表明，患者可能对治疗中的AI工具持开放态度，但这种接受度有限。YouGov的一项全国调查显示，美国人对使用AI进行心理健康护理仍持犹豫态度。只有约11%的人表示愿意使用，仅8%的人表示信任。近一半的受访者表示不愿使用该技术。许多人指出缺乏人类理解是一个主要担忧，同时还担心建议不准确和隐私问题。
这些担忧不仅限于治疗本身。
健康研究组织KFF的另一项调查显示，约77%的美国人担心他们的健康信息将如何被AI系统存储和使用。
研究人员表示，在心理健康护理中，好奇心和信任之间的差距甚至更为明显，因为对话非常私人化。他们指出，即使患者愿意尝试该技术，许多人仍然更喜欢人类治疗师带来的安心感。
纽约大学格罗斯曼医学院医学伦理学助理教授凯莉·欧文斯表示，像HIPAA合规这样的隐私保护并不能消除数据泄露的可能性。
"无论我们采取什么保护措施，都不能保证数据不会被泄露，"欧文斯说，"有很多完全符合HIPAA规定的系统仍然经历了重大数据泄露。"
她说，在治疗中风险尤其敏感，因为患者会分享非常私密的信息。
除了技术风险外，欧文斯还表示，仅凭书面同意表可能还不够。
"我们有大量研究表明，仅凭同意表并不意味着一个人做出了知情选择，"她说，"人们会快速浏览，不阅读或感到被迫同意。"
欧文斯表示，录音应该始终直接讨论。
"每次你录音时，都应该进行口头确认，说明正在录音，"她说。
她说，信任和心理安全是有效心理健康治疗的基础。
"如果患者感到隐私受到侵犯，这会对治疗关系造成真正的损害，"欧文斯说。
对莫莉·奎因来说，这些风险并非抽象概念。
近年来，医疗系统和大型公司屡次发生数据泄露，奎因担心增加另一层技术会增加极其私人的对话在未来某天被曝光的可能性。
"我们会看到数据泄露，"她说，"可能不是明天，也可能不是下周。但几年后？我认为我们会看到。我不想我的治疗会话成为其中一部分。"
对一些治疗师来说，担忧不仅限于网络安全。
纽约的夫妻和性治疗师玛丽莎·科恩表示，即使技术退居幕后，将AI引入治疗也会改变体验。
"即使AI的存在改变了治疗体验，"科恩说，"客户知道或感觉有其他东西在听他们说话。这种意识会微妙地改变他们的披露。"
她说，治疗依赖于绝对隐私的感知。
"当你引入被电子存储的内容时，它会引发关于信任和安全的额外问题，"科恩说，"这本质上是第三方。"
科恩还担心准确性。
"如果引入错误而临床医生没有仔细检查笔记，那么该错误就成为记录的一部分，"她说，"如果这些笔记日后被传唤，就会成为某人历史的一部分。"
一些临床医生欢迎这项技术。
以"旅行治疗师"自称的凯姆·托尔森已有30年执业经验，现在经营完全远程业务，在弗吉尼亚州为客户提供服务的同时全职旅行。她使用AI录音和文档系统来管理她所说的繁重行政工作。
"大多数临床医生每周花费约10小时处理行政任务，其中5-7小时用于文档记录，"托尔森说，"使用AI系统后，我每个客户只需花费约2分钟，而以前需要15-20分钟。"
她说，对于有20-30名客户的治疗师来说，这种差异意义重大。
"它把我的生活还给了我，"托尔森说，"我不再有笔记跟着我，困扰我。看完客户后，我查看笔记，签名，就完成了。"
托尔森表示，这种灵活性让她能够保持更健康的工作与生活平衡，并花更多时间专注于客户而非文书工作。她说，许多客户对她的移动生活方式反应积极，经常询问她在会话期间从哪里工作。
医疗保健其他领域的研究表明，节省的时间可能相当可观。在对凯撒医疗集团AI速记员的大型分析中，临床医生一年节省了相当于近16,000小时的文档时间——约1,800个工作日——并报告了满意度和患者互动的改善。该研究主要关注医学临床医生而非治疗师，但它突显了这些工具旨在解决的行政负担。
托尔森表示，她会事先详细向客户讨论录音过程，并明确表示参与是可选的。她还会在AI生成的笔记成为医疗记录的一部分之前进行审核。
"有时它会产生幻觉，"她说，"临床医生必须非常小心。你必须反复检查。"
虽然她承认没有数字系统是完全无风险的，但托尔森表示，她使用该工具的感觉与使用电子健康记录一样安心。
对莫莉·奎因来说，关于AI笔记的讨论将永远追溯到去年11月的那次会话，她意识到自己在未经同意的情况下被录音。
之后，她取消了下一次预约。
她的治疗师说可以停止使用该工具。但到那时，奎因说，关系中的一些东西似乎已经破裂。
"信任消失了，"她说。
在接下来的几周里，她开始寻找新的治疗师。到1月份，她已经找到了另一位治疗师，从一开始，她就明确表示不希望在她的会话中使用AI。
这次经历并没有让她远离治疗本身，但她仍然坚定地维护自己的界限。
"这是私密的对话，"奎因说，"科技公司不应该在房间里。"
【全文结束】
