英国医学会（Medical Protection Society）警告称，除非医疗责任规则得到更新，否则英国医生和国家医疗服务体系（NHS）可能因AI工具的错误而面临过失索赔。
这一警告是在NHS越来越多地在临床和行政环境中使用AI的背景下提出的，包括扫描分析、X光审查、咨询摘要和患者信件草稿。
问题不在于每次AI错误都会导致诉讼，而是现行规则可能会让临床医生和医疗服务机构为他们没有构建的系统承担责任。
据《卫报》（The Guardian）对英国医学会警告的报道，该组织告知政府官员，如果AI工具在诊断或治疗建议中出错，医生和NHS可能会因医疗过失而被起诉。
MPS希望将AI工具视为产品
英国医学会表示，除非法律发生变化，否则医生可能会成为AI错误的"责任承担者"。该组织认为，AI工具和系统应根据英国《1987年消费者保护法》（Consumer Protection Act 1987）被视为产品，这将使在技术本身导致伤害时更容易追究开发者或制造商的责任。
《卫报》引用了MPS提出的两个例子：AI工具漏掉了胸部X光片上的肺部肿瘤，或错误地推荐了更高剂量的抗凝血剂华法林（warfarin）。在这两种情况下，即使直接错误来自工具，患者也可能遭受严重伤害。
该警告聚焦于临床AI，但它符合整个医疗技术领域的更广泛安全模式。最近关于AI健康建议的研究发现，ChatGPT Health在测试场景中漏掉了严重的医疗紧急情况，这表明即使输出具有说服力，在医疗风险高的情况下仍可能不足。
MPS并非主张NHS应该避免使用AI。它的观点是，当由他人开发、提供或实施的工具导致伤害时，医生不应自动承担全部责任。
责任规则仍在完善中
英国卫生和社会保障部表示将审查MPS的建议。负责处理英格兰医院过失索赔的NHS Resolution也在起草关于AI责任的指南。
这使得医生在AI采用继续的情况下处于困难境地。如果临床医生遵循了后来被证明是错误的AI建议，他们仍可能面临关于是否适当检查了建议的质疑。
这种紧张关系也出现在其他医疗AI的推广中。谷歌最近因安全担忧而终止了一项AI健康功能，这提醒人们，当监管不完善时，医疗AI工具可能迅速从有用的实验变成风险案例。
对NHS来说，实际问题不是是否应该使用AI，而是医院和临床医生如何记录AI参与的情况、谁检查了输出结果，以及如果工具出错会发生什么。更清晰的规则可以保护医生不因技术故障而被责备，同时仍为患者提供追究责任的途径。
在这些规则变得更清晰之前，有记录的人工监督是最安全的基线：AI可以支持临床工作，但最终决定需要有明确责任人、可追责的流程。
另请阅读：5款展示AI如何改变血糖监测的糖尿病科技产品。
【全文结束】