对于一些人来说，人工智能是在Facebook上给姑妈分享猫咪视频；对另一些人而言，则是通过高级计算处理海量数据来更好地绘制宇宙图谱。在猫咪视频和星系测绘之间，存在着广阔的空间。医疗从业者利用这项技术与患者互动的方式，恰恰介于这两种截然相反的AI应用之间。鉴于这种巨大的认知差距，医疗行业必须清晰地理解AI能够如何被使用、正在如何被使用，并确保临床医生恰当地运用这一极其强大的工具。因为涉及患者的医疗决策时，最终承担责任的是人，而不是计算机。
既然AI是如此强大的工具，它就需要护栏。但任何监管措施都不会像贴上创可贴那么简单，然后就不再理会未来的问题。要恰当地进行监管，我们需要向过去学习，并在AI快速融入医疗领域时迅速采取行动。
当监管奏效时
虽然人们很容易说“我们不想让政府制定规则”，但医疗领域确实存在有效监管的先例。以电子处方监管作为成功标准实施的案例研究。在20世纪90年代看似陌生的概念——电子传输处方信息——如今已成为常态且成功，因为我们有标准。电子处方的经验教训，应该成为医疗领域如何采纳和监管AI的教材。
- 标准化：
- 《医疗保险现代化法案》为医疗行业提供了统一的基础，使得电子处方的应用几乎无处不在。
- 对AI而言： 随着AI技术迅速被采纳，我们需要一个类似的、健壮的、可互操作的标准，以确保整个行业的清晰性。
- 安全性和质量改进：
- 确保更多医生使用电子处方减少了用药错误。医生潦草的笔迹曾因处方笺上的书写而成为笑料。现在，只需点击几下鼠标，医生就能消除混淆，并确保没有与现有药物产生不良相互作用。
- 对AI而言： 使用AI驱动的工具已经通过为医生腾出更多时间并帮助他们发现潜在错误来改善诊疗准确性。标准化会带来更广泛的应用和更健康的人群。
- 适应性：
- 电子处方法规仍在不断更新。为允许受控物质的电子处方进行了重要修改。
- 对AI而言： 随着新问题的出现，它们可以被处理。任何针对医疗AI的法规都必须被视为一个持续的过程。
虽然需要监管，但不能过于严厉以致扼杀创新。错误信息、幻觉和偏见确实存在。一些人甚至担心，过度使用AI可能会侵蚀医生的批判性思维。话虽如此，我们不能让完美成为优秀的敌人。AI并不完美。它通过访问和整理海量患者数据，同时释放医生时间去研究和治疗患者，从而帮助患者的潜力是如此巨大，不容忽视。
医疗行业和监管机构现在可以做些什么，以最好地复制电子处方的成功经验，同时建立对AI的信任？
AI灰色地带
AI在医疗中的应用，尤其是医生处理患者信息时，可分为三类：
- A类： AI输出明显正确，易于使用。
- B类： AI输出明显错误，易于忽略。
- C类： AI输出听起来合理，但临床医生对该信息不熟悉。这就是AI灰色地带。
C类存在临床医生在未核实来源的情况下信任AI输出的风险。这正是明显需要改进甚至监管的地方。
医疗行业如何限制临床医生与AI的交互落入“C类”？以下是一些有力的起步步骤。
- 教育： 临床医生必须参加继续医学教育以维持执业资格。监管机构应考虑将AI培训作为CME的一部分。我们可以参考受控物质处方教育的类似做法。要使用AI作为工具，临床医生必须了解如何使用该工具。
- 引用： 要求任何AI输出都必须附有引用，并且引用必须易于临床医生获取。如果医生质疑AI的回复，AI必须为临床医生提供清晰的路径来核实输出。
谈到医疗监管，我们已经有了剧本。唯一的区别是医疗行业必须行动的速度。让我们确保AI能够成为尽可能强大且值得信赖的工具。这意味着要明智地实施监管。
图片来源：ismagilov, Getty Images
Dr. Michael Blackman是Greenway Health的首席医疗官，该公司为门诊护理提供者提供电子健康记录、实践管理和收入周期管理解决方案。作为一名初级保健医生，Blackman博士在健康IT产品管理以及门诊和住院护理方面拥有丰富的背景。他认为医疗保健是一项团队运动，需要所有贡献者的才能共同努力才能成功。
在加入Greenway Health之前，他曾担任Allscripts的人口健康医学总监。此前，他担任McKesson企业信息系统部门的首席医疗官。他是受控物质电子处方开发的早期领导者。
本文通过MedCity Influencers计划发布。任何人都可以通过MedCity Influencers在MedCity News上发布关于医疗行业商业和创新的观点。点击此处了解如何参与。
【全文结束】