拉斯维加斯——医疗保健组织需要关注测试、监控和实施人工智能模型，以确保技术的安全部署并避免中断，专家们在周二的HLTH会议上表示。
尽管AI可能有助于解决医疗行业普遍存在的劳动力短缺和繁重的行政工作量问题，但模型性能会因设置和患者群体的不同而有所变化，这意味着其实施方式是成功部署的重要因素，与会者说。据亚马逊网络服务医疗保健执行顾问克里斯汀·西尔弗斯（Christine Silvers）称，COVID-19大流行凸显了在医疗保健中安全有效采用AI的一个挑战。
在大流行之前，开发了一个医疗AI模型来预测哪些患者可能会错过他们的预约，西尔弗斯说。该模型解决了医疗系统的一个关键问题——当患者错过预约时，连续护理会中断，医疗系统也会失去收入。通过预测模型，提供者可以提前干预。也许患者需要搭车？或者预定的时间实际上不适合患者。起初，这个模型非常有效——直到大流行扰乱了正常的医疗保健访问，她说。“这就是所谓的模型漂移。帮助你的模型今天正常运行的环境因素会随着时间的推移而改变，”西尔弗斯说。
为了减轻中断，医疗保健组织需要在其本地数据集上测试模型，并持续监控其性能，微软全球首席医疗官兼医疗保健副总裁大卫·瑞（David Rhew）说。他们还需要关注模型在不同子人群中的表现，如年龄、种族、性别和性取向，并维持总体治理策略。“我们遇到的问题并不是组织不同意这些原则。他们不一定有资源能够在大规模上做到这一点，”他说。
为了应对关于安全、有效性和偏见的大问题，医疗保健组织需要共同努力，决定一个可以用于比较的实施策略，瑞说。这样，公司就能更好地了解某个模型是否可以在他们的组织中发挥作用，如果他们了解AI是如何在类似公司中部署的。
一些团体已经成立，以帮助制定医疗保健中负责任AI部署的标准，包括医疗AI联盟。今年春天，微软也成立了一个旨在实现负责任AI指南操作化的小组。但投资AI工具、谨慎部署并监控其性能将需要资金——这可能会让资源较少或农村地区的医疗系统落后。“我们如何使联邦合格健康中心、关键接入医院能够负责任地参与这场AI革命？”医疗AI联盟首席执行官布赖恩·安德森（Brian Anderson）说。“事实上，每一种之前的数字健康创新都加剧了数字鸿沟。”
这个问题尚未解决，瑞说。但医疗保健组织可以尝试采用枢纽和辐条模式，其中枢纽医院拥有支持集团内其他设施的资源。技术公司也可以通过提供测试和监控模型的帮助来发挥作用。卫生与公共服务部民权办公室也有兴趣与医疗保健行业合作，组织应该就行业需要进行的对话或讨论提出意见，民权办公室主任梅兰妮·丰特·雷纳（Melanie Fontes Rainer）说。“这不是一次性的。我们必须手拉手一起跳进去，”她说。“否则，我们将会有支离破碎的使用情况，我们会选择赢家和输家，某些已经存在的潜在差异将会扩大。”
(全文结束)
