新研究表明，医院可能需要的不仅仅是象征性监督，当人工智能辅助诊断导致伤害时，全面的医生审查可以缓和公众的强烈反应。
论文：《人工智能相关不良事件后公众对医院的反应》。图片来源：Antonio Marca / Shutterstock
人工智能(AI)正越来越多地应用于医疗保健领域，用于诊断、治疗规划、患者沟通和临床操作等任务。然而，根据最近发表在《npj数字公共卫生》期刊上的一项研究的实验结果表明，如果AI参与导致诊断错误或伤害患者的不良事件，公众的反应可能会是负面的。作者还指出，当医生在AI辅助决策中保持实质性且互动式的参与时，这种负面反应会减轻。
背景
除了预期的效率和性能提升外，医疗保健中使用AI也带来了AI相关不良事件的风险，即"由医疗管理引起的意外伤害"，特别是当不正确或不完整的AI生成输出被应用于患者护理时。这些可能会导致患者对医院的信任下降、声誉受损以及法律诉讼。
关于公众如何应对此类事件，特别是如何将责任和责备归咎于医院，相关研究很少。医院是明显的目标，因为它们通过其组织结构监督AI系统的实施和监督，并且通常被视为主要的医疗服务提供者，如在英国。
评估涉及AI的错误引发的公众反应
当前报告描述了两项研究。第一项研究考察了在涉及漏诊的假设性不良事件背景下，公众对医院的反应。这根据诊断解释的来源和医生参与的程度而变化。
第一项研究包括299名在线参与者，结果显示，即使内窥镜医师审核了AI结果，涉及AI的不良事件也更可能引发针对医院的负面反应。然而，在后一种情况下，责任归属明显低于仅使用AI的条件，尽管仍高于仅由人类诊断的条件。
实质性医生参与减少医院责任归属
第二项研究包括602名在线参与者，研究了医生与AI之间的协作如何影响公众反应。
与第一项研究检查协作的广泛水平不同，第二项研究探讨了实际生活中存在的结构上不同的协作方式。参与者被随机分配到以下条件之一：
• 仅AI（AI诊断）
• 仅人类（无AI辅助的放射科医生诊断）
• 人-AI协作：
o 自主式（AI主导，人类参与度低）
o 顺序式（放射科医生审核AI标记的区域，中等参与）
o 互动式（放射科医生审核AI标记的区域和完整图像，将AI输入整合到独立的临床评估中，高度参与）
所有条件下的场景相同：漏诊肺炎，导致患者受到伤害。
在比较中，当单独使用AI或与自主式或顺序式医生参与结合使用时，公众对医院的反应更为不利。当AI参与而没有实质性医生参与时，参与者更倾向于将责任归咎于医院，并更可能提出投诉或考虑采取法律行动，相比之下，人类医生有意义的参与会减少这种情况。顺序式协作与仅AI解释相比，并未显著改变负面反应。
在仅医生模式或互动式AI-医生条件下，医生高度参与时，参与者不太可能将责任归咎于医院或对其提出投诉。在互动式协作条件下，采取法律行动的可能性低于仅AI条件。
这些发现强调了确保在医疗保健中整合AI任务时有高度参与的人类监督可能具有的保护和安抚价值。这表明，可见且全面的医生监督可能对安抚患者关于AI辅助医疗保健有价值。
限制
研究人员使用了假设性情境，因为无法在伦理上诱导现实世界中的不良事件。参与者主要来自英国，尽管补充分析报告称，观察到的模式在各国之间没有系统性差异。
结论
这是最早研究与医院中AI使用相关的不良事件的公众反应的研究之一。
该研究表明，与可比较的仅由人类引起的不良事件相比，涉及AI的不良事件引发的公众对相关医院的反应更为负面，特别是在没有高水平人类医生参与的情况下。参与者将更多责任归咎于此类医院，并报告了更高的投诉和采取法律行动的可能性，医院仍需为AI辅助决策负责。
尽管AI可能作为临床工作流程的一部分使用，但医院仍被视为对AI使用的采用、实施和监督负责。在不冒失去患者信心风险的情况下，保持与AI相关效率的清晰沟通和工作流程设计的作用仍有待评估。
未来研究还应检查公众在AI支持的护理过程中对医生、AI开发者和医院所犯错误的责任分配程度。另一个研究领域涉及对不同程度患者结果的反应差异。
参考文献：
Choi, J., Kim, Y. J., Lyu, P., et al. (2026). Public reactions to hospitals after adverse events involving AI. npj Digital Public Health, 1, 17. DOI: 10.1038/s44482-026-00021-x
【全文结束】