研究发现，AI系统现在能够通过临床诊断场景提供逐步推理，并在训练医学生的相同文本案例中匹配甚至在某些情况下超越经验丰富的医生。
这一发现已在4月30日发表在专家期刊《科学》上的评论文章中进行了综述，既令人惊叹又令人担忧，因为承认AI作为诊断工具潜力的科学家们正发出警告：技术发展速度过快，而旨在监管它的安全网却在滞后。
弗林德斯大学临床癌症流行病学实验室负责人、NHMRC研究员阿什利·霍普金斯副教授和博士生埃里克·科内利塞是共同撰写题为《AI能像医生一样推理；接下来是什么？》评论文章的研究人员。
该评论还探讨了基于推理的AI系统的最新进展——这些系统以串行方式处理问题，而不是匹配现成的数据存储数据集——并提出论点，尽管严格的控制研究结果确实值得注意，但它们并不能直接转化为在常规医院或诊所使用中的准备就绪。作者指出的风险就存在于这两者之间的差距中。
科内利塞直言不讳地谈到了基准性能定义的能力。医疗保健决策复杂，风险高，人类的精确度，特别是处理纯文本案例时，不足以确保患者系统的安全，他告诉EurekAlert。
AI驱动的系统正在展示分析医疗数据和支持复杂临床决策的能力。
作者强调，临床医学建立在体格检查、倾听患者、理解医疗社会背景以及最重要的对结果的法律责任和道德责任之上。这些方面是当前任何AI系统都无法安全提供的，尽管它们在书面诊断测试中取得了成功。
当算法意图扩大问题而非解决问题时
该评论指出了已报告的临床算法的历史，其特点是评估不足，导致伤害而非预防，原因包括偏见、不公平的护理以及大规模部署时显而易见的意外后果。科内利塞将这一记录作为为何医学中AI采用的速度不应以被动希望而是积极反对来应对的理由之一。
他表示，历史表明，算法只有在没有充分安全措施的情况下部署时才能改善结果，而条件可能会加剧算法可以修复的问题，尤其是当系统基于不完整或不具代表性的数据时。他还用医疗职业类比指出："我们不允许医生在没有监督和审查的情况下执业，AI也应同样受到类似标准的约束。"
专家警告称，医疗AI的快速发展正在超越医疗保健环境中的监管框架。
霍普金斯副教授认识到AI对压力过大的医疗系统的真实潜力，同时她明确划清了当前需求的界限。她表示，AI系统已被证明能够像医生一样应对临床挑战，特别是针对它们自身训练的相同案例，这为未来帮助临床医生开辟了合理的可能性，尽管如此，这受到论文论点特征的限制条件约束：患者特别需要在现实世界中有益的技术。
随着AI更多地融入临床实践，平衡创新与责任仍然是关键。
该论文建议在临床环境中的AI决策中建立更清晰的法律、专业和道德责任结构；有意且有限的实施而非广泛实施；以及强调真实的患者结果，而非考试成绩、基准测试或演示，作为系统是否正常运行的真正测试。
霍普金斯总结道，在精心设计、高度监督和严格评估的方法下，AI最终可能为全球各地的医疗系统提供更安全、更公平和更有效的护理。
《科学》评论提出的疑问是，政府机构如何能够足够迅速地行动，以确保这是可能的结果。
【全文结束】