科罗拉多大学安舒茨医学院(CU Anschutz)的一项新研究发现，医疗聊天机器人已成为患者进行某些敏感对话(从心理健康到账单问题)的首要接触点。根据部分患者的说法，虽然聊天机器人主要用于某些行政任务——如预约安排或查看检测结果——但其感知到的匿名性提供了一定的安心感。
科罗拉多大学安schutz医学院内科医学、生物伦理学与人文科学副教授马修·德坎普(Matthew DeCamp)博士是这项近期发表研究的高级作者。德坎普及其同事研究了患者喜欢和避免使用UCHealth在线门户聊天机器人Livi的任务类型。该研究发表在《美国医学信息学协会杂志》(Journal of the American Medical Informatics Association)上。
德坎普认为，尽管在获取途径、隐私、判断和偏见方面仍存在伦理问题，但随着医疗保健进入人工智能时代，确保信任不被破坏应是优先事项。
德坎普说："医疗保健建立在信任基础上，医患之间的信任至关重要。但信任是脆弱的。这意味着如果我们犯了错误，可能会影响对整个医疗保健系统的信任。"
在以下问答中，德坎普分享了人们为何对某些医疗对话愿意与聊天机器人交谈、向患者解释这些技术工作原理的重要性，以及为什么聊天机器人应始终以患者为中心。
人们最愿意使用像Livi这样的聊天机器人做什么？
这是一个有趣的混合情况。一方面，患者喜欢Livi 24/7可用的便利性，用于我们称为行政任务的事情：预约安排、获取联系信息、查看检测结果。
另一方面，有不少患者希望将Livi用于更敏感的问题。例如，询问心理健康、账单问题或寻找新医生。
为什么Livi被用于敏感话题？
这可能对我们来说并不意外，但患者被激励这样做的一个原因是，他们认为Livi比人类更私密、更匿名且评判性更少。研究中的许多受访者表示，Livi感觉像一个中立的旁观者。
显然，在医学教育和护理中，我们一直在努力消除隐性和显性偏见，但我们知道这些偏见仍然存在。这给患者在处理某些敏感话题时首先寻求帮助的途径蒙上了阴影。
有些话题可能既是行政性的又是敏感的，对吗？
确实，这取决于具体情况。我能给出的最佳例子是向Livi询问账单问题。
一些患者认为向聊天机器人询问账单问题是纯粹的行政事务，但另一些人认为讨论财务事项或需要设置付款计划与人讨论会感到不舒服，因为它会暴露财务不安全感。
如果医疗服务提供者习惯于不与患者进行潜在敏感对话，聊天机器人是否会进一步侵蚀信任？
在伦理学中，我们经常说"一方面...另一方面..."。一方面，从短期来看，Livi可能正在填补一个真实需求。但另一方面，从长期来看，你可以将我们的发现解读为"我们需要做得更好，确保人类临床医生能够以非评判性的方式进行这些对话。"
如果我们仅仅停留在这个短期解决方案上，那就会发生技能退化，因为我们会有风险优先将此任务转移到聊天机器人上。我们应该继续努力帮助人类在友好的环境中进行更好的对话。
医疗保健中使用聊天机器人是否需要围绕其功能和不足进行透明度和教育，即所谓的数字素养？
我们团队的一位合作者安妮·摩尔(Annie Moore)强调了数字素养的重要性。这一点在我们的研究中很明显：人们并不总是确定Livi是什么，或者他们的回复和数据去了哪里。有些人假设它会被共享。其他人则不这么认为，而一些正在分享的人则希望不被共享。
如果情况如此且研究显示如此，我们有道德义务反复披露你的数据去向以及聊天机器人不是真人。具体到Livi，在我们研究期间，信息并未放入患者的健康记录中。
在研究这个主题时，你和团队在数字素养方面有什么有趣的发现吗？
与我们的想法相反，老年用户比年轻用户更愿意与Livi分享信息，对隐私的担忧也更少。
这可能看起来有点违反直觉，因为我认为我们有一个刻板印象，认为老年用户更关注隐私或技术能力较差等等。但有趣的发现是，老年用户非常清楚地将Livi与医疗系统和他们的医疗保健联系起来。因此，他们对医疗信息(如医疗隐私保护法规)的隐私期望适用，并感到分享信息很舒适。
研究中有多少人将Livi识别为完全自动化的？
只有三分之一。这与商业领域类似，在医疗保健领域并不独特。但对我们来说这是一个很大的"令人惊讶"的发现。
受访者认为Livi在哪方面表现不佳？
诊断。很难确切地说出原因，但我们怀疑这与人们感觉技术尚未完全成熟有关。我们在几年前进行了这项研究，当时聊天机器人和AI产品还没有最近的许多进展。
在我们的访谈中，我们还听到人们认为诊断之类的事情应该只来自人类。只有人类临床医生才有判断力和能力以关怀的方式进行诊断和提供诊断。
这表明人们希望分配给聊天机器人的任务类型存在限制。这推动了这样一个概念："我们关心的是否仅仅是准确性，还是人类互动和人类诊断能带来更多东西？"
你提到人们认为Livi是中立且无偏见的。人们假设所有聊天机器人都无偏见的危险是什么？
如果存在技术是中立的主导假设和叙事，我们需要更好地传播这样一个信息：许多AI技术确实可能存在偏见或基于用户或最初构建方式的差异表现。我们应该更好地帮助人们理解技术的局限性。
未来我们应该考虑关于聊天机器人的哪些问题？
有几点：
- 在整个开发和实施周期中，应始终以患者为中心。
- 我们应该非常清楚地思考哪些任务最适合聊天机器人。可能倾向于走捷径，但我们必须考虑伦理问题："我们应该这样做吗？"
- 我们应该考虑运行AI平台在能源、土地和水方面的环境成本。
- 并记住并非全是负面的：聊天机器人有很大的潜力解决医疗保健中的获取问题，并在正确的时间为更多人提供正确类型的护理和信息。
我认为，越来越多的聊天机器人将在医疗保健环境中开发、使用和推出。我只是希望我们能够以患者为中心、患者优先的方式做到这一点。
更多信息：娜塔莉亚·S·德拉瓦勒(Natalia S Dellavalle)等人，《患者对医疗聊天机器人的期望：混合方法研究的见解》，《美国医学信息学协会杂志》(2025)。
期刊信息：《美国医学信息学协会杂志》
提供方：科罗拉多大学安舒茨医学院
【全文结束】
