【摘要】
凯撒医疗集团的心理健康专业人士对一款记录医疗预约的人工智能工具表示担忧，称该工具应具备更多安全保障措施。
本文最初由美国社区媒体发布。
2024年，凯撒医疗集团宣布推出Abridge。在一份新闻稿中，这款人工智能辅助记录工具被描述为"环境监听技术"，旨在帮助包括心理健康提供者在内的临床医生在患者就诊期间安全记录临床笔记。
但该描述未能指出的是，该工具会记录整个医疗预约过程，包括极为私密的心理健康诊疗会话。
在这些诊疗过程中，心理健康专业人士必须在使用该工具前获得患者的同意。然而，多位提供者表示，这一同意过程并不包括关于信息如何处理的解释。也不会说明录音存储的时间、地点以及谁有权访问这些数据。
部分原因是，尽管提供者们试图获取这些信息，但相关信息并未与他们共享。
"空洞的保证"
伊兰娜·马尔库奇-莫里斯选择不在患者诊疗中使用该平台。她是凯撒奥克兰精神科的一名持证临床社会工作者，也是谈判委员会的成员。在这一角色中，她定期与包括北加州心理健康总监在内的多位凯撒代表会面。
马尔库奇-莫里斯描述了在这些会议中，她和其他委员会成员如何询问有关患者隐私保护、HIPAA合规性以及使用这些技术的安全保障措施的问题。
据她所说，领导层的回应往往是空洞的保证："我们是合规的。就是这样。这就是你需要知道的全部。我们已经审核过这项技术，治疗师。别担心。这不是你的工作。我们有技术专家。那是他们的工作。"马尔库奇-莫里斯在接受美国社区媒体采访时说道。
"他们不会向我们展示，对吧？我的感觉是，如果你没有什么可隐瞒的，并且你完全[...]道德地做事，那么你就会向我们展示，证明它。他们不能，也不会，而且当我们询问时他们拒绝了。"
莉吉亚·帕切科是一名精神病社会工作者，为南加州的凯撒患者提供远程治疗服务。她说凯撒也拒绝了她要求提供进一步解释的请求。
在接受美国社区媒体采访时，帕切科回忆说，一名同事曾向主管提出担忧。得到的回应是："在我们的工作环境中，表达你对人工智能的个人看法是不专业的。"
对帕切科来说，"这只会导致士气低落，没有空间为患者发声。我们应该成为那些处于最脆弱状态患者的代言人。而我们甚至不能为他们发声，所以我们感到沮丧。"
"一位又一位患者"
马尔库奇-莫里斯强调，近年来，提供者被要求接诊更多患者。这给文档记录和工作量带来了巨大压力。
"你就像一位接一位地看患者，几乎没有时间上厕所、吃点零食[...]呼吸新鲜空气，"她说。
据马尔库奇-莫里斯称，拒绝处理增加的患者量可能被视为未能达到工作期望。这也可能导致纪律处分。
作为一名工会代表，她说她经常在与延迟文档记录或难以处理繁重工作量相关的职场调查中代表同事。她说，在这些情况下，管理层经常建议使用Abridge来节省时间并避免进一步的纪律处分。
在她看来，她所知道的使用该技术的提供者并不是因为他们支持或信任它。相反，是因为他们感到压力，需要保护自己的工作并满足职场需求。
"我认为这是胁迫性的，因为你把某人置于要么失去工作要么使用软件的位置。这是一个在胁迫下的选择，"她解释道。
"提供者和患者的担忧"
布莱恩·霍伯曼是凯撒医疗集团的首席信息官。在凯撒的一份新闻稿中，他说："Abridge的先进技术通过减少文档记录负担来支持我们医生的福祉。"
他补充道："我们在经过仔细审查和严格测试后实施了这项新技术，发现它受到患者和医生的欢迎..."
对于至少一位接受本故事采访的患者来说，这些保证是不够的。
"我担心现在被记录的这类信息可能会落入错误的人手中，"这位要求匿名以保护隐私的患者说。"我不希望我的雇主、家人或其他人知道我与医生[和]心理健康提供者进行的这些非常私密和深入的对话。"
阿德里安娜·韦伯是洛杉矶凯撒全景城的一名社会工作者。"我与那些有敏感医疗诊断的患者合作，如[...]HIV和艾滋病，很多时候我的患者甚至不希望这些信息出现在他们的病历中。"
凯撒医疗集团的一位发言人在美国社区媒体的电子邮件回复中坚持表示，临床医生在使用Abridge前必须获得患者同意。"没有人会在不知情或不同意的情况下被录音，"声明中写道。
声明还称，录音存储时间不超过14天，数据处理符合所有HIPAA要求以及凯撒医疗集团自身的隐私和安全标准。
"Abridge帮助临床医生将更多时间集中在患者身上，减少行政任务的时间，"声明中说。
"将心理健康数据武器化"
据美国进步中心技术政策高级分析师妮可·阿尔瓦雷斯称，"某人最低谷时刻的记录可能会以某种方式被用来对付他们，你知道的，[...]高血压读数不会这样。"
她说，由于心理健康状况的污名化，心理健康数据可能特别敏感。对患者而言，这种污名化在就业、子女监护权案件、移民事务和安全许可等领域带来现实后果。她强调，与其他形式的个人数据一样，心理健康信息可以被武器化来对付个人。
她说，医疗系统与AI供应商之间的协议可能大相径庭。这包括与音频录音或文字记录是否可用于训练AI模型、患者数据是否匿名化、数据保留时间、是否可以与其他客户共享以及合同结束后信息如何处理相关的条款。
凯撒坚称其收集的任何数据都不会用于训练AI模型。
然而，在阿尔瓦雷斯的经验中，患者通常对这些安排知之甚少。她认为，医疗系统有责任明确披露患者信息的处理和使用方式。
阿尔瓦雷斯还强调，在大多数情况下，患者有权拒绝录音。但是，她说，退出流程并不总是清晰明了。据她称，同意选项可能从登记时的直接问题到埋藏在入院文书中的语言不等，这使得患者仔细审查表格和披露内容变得很重要。
她说，有意义的同意要求患者不仅要知道自己正在被录音且可以拒绝，还要了解他们的信息可能如何存储、共享或之后使用。
"胁迫性同意"
帕切科在凯撒的一次个人预约中经历了这种情况。她的医生没有询问使用该应用程序的许可，而是告知她将使用它。过了一会儿，她决定拒绝使用该平台。尽管医生停止了录音，但她随后感觉到医生态度有明显的不适。
她后来决定更换医生。
马尔库奇-莫里斯担心这种情况，她说公司在预约期间获取使用Abridge同意的方式可能感觉是操纵性和胁迫性的。在她看来，提供者被训练以一种将患者和医生的需求相互对立的方式来呈现该工具。
她解释说，患者经常被告知该系统将帮助医生进行文档记录，减少职业倦怠，并让他们有更多时间与家人相处。因此，患者可能会因为不想让提供者的工作更难而拒绝使用该工具感到内疚。
她认为这种表述方式给患者施加压力，让他们同意使用，而不是允许他们做出完全舒适和独立的决定。
据凯撒称，Abridge已在"8个州和哥伦比亚特区的40家医院和600多家医疗办公室"可用，这是医疗行业更大范围采用AI技术的一部分。Abridge支持14多种语言。
美国社区媒体多次联系Abridge AI公司寻求评论，但未收到回复。根据该公司网站，Abridge将自己描述为提供者的"业务关联方"。建议患者查阅提供者的隐私政策，了解其数据如何受到保护。
"治疗在隐私中最为有效，当信任通过两个人类建立时，"马尔库奇-莫里斯说。对她来说，"治愈发生在人类同理心真诚地作为任何心理健康治疗关系的一部分时。"
她补充道："我相信记录治疗会话会改变人类行为。它会改变患者的态度。"
罗克茜·林是加州大学伯克利分校新闻研究生院的加州地方新闻研究员。
【全文结束】