加州大学洛杉矶分校健康科学
虽然人工智能(AI)可以成为医生帮助诊断患者的有力工具，并具有提高准确性、效率和患者安全的巨大潜力，但它也有其缺点。它可能会分散医生的注意力，使医生对其提供的答案过于自信，甚至导致他们对自己的诊断判断失去信心。
为确保AI在医疗实践中得到适当整合，一个研究团队提出了一个包含五个指导性问题的框架，旨在支持医生在患者护理中的工作，同时避免因过度依赖AI而削弱其专业能力。该框架最近发表在同行评审的《美国医学信息学协会杂志》上。
"这篇论文将讨论重点从AI算法的性能如何，转向医生在诊断过程中如何实际与AI互动，"资深作者、加州大学洛杉矶分校大卫格芬医学院普通内科和卫生服务研究系医学教授、国家临床学者项目主任乔安·G·埃尔莫尔博士说。"本文提供了一个框架，将该领域从'AI能否检测疾病？'推进到'AI应如何在不削弱医生专业能力的情况下支持医生？'这种重新定位是迈向临床实践中更安全、更有效采用AI的关键一步。"
虽然与AI相关的错误时有发生，但没有人真正知道当这些工具在临床实践中实施时，为何会无法改善诊断决策。
为了找出原因，研究人员提出了五个问题来指导研究和开发，以防止与AI相关的诊断错误。需要提出的问题是：AI应呈现什么类型和格式的信息？它应该立即提供该信息，在初步审查后提供，还是由医生切换开关？AI系统如何展示其决策过程？它如何影响偏见和自满情绪？最后，长期依赖它的风险是什么？
这些问题之所以重要，是因为：
- 格式会影响医生的注意力、诊断准确性和可能的解释偏差
- 即时信息可能导致有偏见的解释，而延迟提示可能有助于维持诊断技能，让医生更充分地参与诊断
- AI系统如何做出决策可以突出被纳入或排除的特征，提供"如果"类型的解释，并更有效地与医生的临床推理保持一致
- 当医生过度依赖AI时，他们可能会减少对自己批判性思维的依赖，导致准确的诊断被忽略
- 长期依赖AI可能会削弱医生已学到的诊断能力
改进诊断用途AI的下一步是评估临床环境中的不同设计，研究AI如何影响信任和决策，观察在培训和临床实践中使用AI时医生的技能发展，并开发能够自我调整如何协助医生的系统。
"AI在提高诊断准确性、效率和患者安全方面具有巨大潜力，但糟糕的整合可能会使医疗保健变得更糟而不是更好，"埃尔莫尔说。"通过强调时间、信任、过度依赖和技能退化等人为因素，我们的工作强调AI必须设计为与医生合作，而不是取代他们。如果我们希望AI在不引入新风险的情况下增强护理，这种平衡至关重要。"
合著者包括塔夫茨大学的塔德·布鲁尼和乔治华盛顿大学的斯蒂芬·米特罗夫。
该研究得到了美国国立卫生研究院国家癌症研究所的支持（R01 CA288824、R01 CA225585、R01 CA172343和R01 CA140560）。
【全文结束】
