宾夕法尼亚州赫尔希讯——人工智能正在改变医学领域和实践，包括法律责任以及对患者遭受伤害时谁应承担责任的认知。
“人工智能有望提高医疗质量和安全性，减少错误和患者伤害，但法律责任风险可能成为该技术投资与开发以及医疗质量的潜在障碍。”宾夕法尼亚州立大学医学院放射学与医学教授迈克尔·布鲁诺说。
如今，布鲁诺与布朗大学和西东大学法学院的研究团队合作发现，对医生责任的认知受到AI整合进临床工作流程方式的影响。该研究于今天（3月10日）发表在《自然·健康》期刊上。
研究人员向模拟陪审团展示了一个假想的医疗事故案例：一名患者因放射科医生未能从计算机断层扫描中检测出脑出血而遭受不可逆的脑损伤，尽管AI正确地将扫描标记为异常。他们发现，当放射科医生在AI标记扫描后仅审阅一次CT扫描时，模拟陪审团站在原告一方反对放射科医生的可能性比医生审阅两次（一次在收到AI反馈前，一次在收到反馈后）时高出近50%。
大约一年前，布鲁诺在宾夕法尼亚州立大学医学院校园召集了一次为期两天的“医疗保健中的人因与人工智能”研究峰会，汇集了来自学术界和工业界的国际多学科专家，为人类与人工智能协作领域确立未来研究重点。
“如果你是一位利益相关者，正试图决定是否要为医院购买AI产品、是否指示医生遵循某种工作流程，或者是否因已发生错误而和解案件，这类信息至关重要，因为你可以更明智地权衡成本与收益。”论文合著者、西东大学法学院法学教授布赖恩·谢泼德说。
研究人员解释，他们选择以放射学案例为研究对象，是因为AI在放射学实践中的整合程度比其他医学领域更为深入，这意味着医生与AI的互动是可行的场景。由于大多数医疗事故案件都在庭外和解且不公开记录，即使进入诉讼也需数年时间，使用假想案例使研究人员能够收集到原本无法获得的信息。
在这项研究中，团队招募了282名参与者，他们被随机分配阅读两个场景之一。第一个场景：AI将病例标记为异常，放射科医生随后审阅了一次图像，得出结论认为没有脑出血证据。第二个场景：放射科医生先审阅并解读了一次CT图像，随后在收到AI系统的反馈（AI将病例标记为异常）后，又进行了第二次审阅。在这两种情形中，放射科医生都得出结论，认为没有脑出血的证据。阅读完案例后，参与者被问及放射科医生是否尽到了对患者的注意义务。
结果显示，近75%的模拟陪审团认为，当放射科医生只审阅一次CT扫描时，其未尽到注意义务。然而，当放射科医生审阅两次CT扫描后，这一比例降至53%。研究人员解释说，这些发现表明，改变放射科医生的流程——即当AI介入时，他们审查和解读影像检查的时间点和次数——可以降低法律风险。不过，这些改变并非没有成本。
“存在各种偏见，在激励放射科医生不要与AI意见相左，因为不同意AI的成本太高。如果你不同意AI但最终是错的，这将对你不利。”合著者、布朗大学放射学副教授兼布朗放射学、心理学与法律实验室以及布朗放射学人因实验室主任格雷森·贝尔德说，“成本最终转嫁给了患者，他们不得不忍受后续护理、影像检查或检测带来的焦虑和不适。我们所有人也都在为此买单，因为医疗成本上升了。”
虽然该研究没有探讨AI与法律责任认知之间关系背后的深层原因，但研究人员解释说，研究结果表明，当使用AI系统时，人们如何判定责任取决于具体情况。
这项研究建立在研究团队先前工作的基础上。在之前的研究中，他们使用相同的假想案例发现，当放射科医生同意AI的解读结果时，模拟陪审团判定其承担责任的可能性要低于其不同意时。当模拟陪审团被告知AI的错误率，而并非对此一无所知时，其对于法律责任的认知也有所缓解。在另一项研究中，其他研究人员发现，AI可以影响医生的决策，促使医生改变其对治疗决定的看法。
“人们对AI的看法，以及这种看法如何影响人的责任，正随着技术的发展而迅速演变。这是我们需要密切关注的事情。”通讯作者、布朗大学放射学副教授兼布朗放射学人因实验室副主任迈克尔·伯恩斯坦说。
【全文结束】