许多医院和医疗系统正在推进其人工智能计划，不再局限于财务、运营等后台应用等"低垂果实"，而是转向为临床环境设计的人工智能模型。
然而，当医疗机构部署用于决策支持、预测分析及其他临床场景的新工具时，可能未能充分确保所用算法经过全面审查和安全测试。
【为何重要】
梅奥诊所领导层近日详细介绍了其为测试和评估临床人工智能工具所建立的流程。
梅奥诊所平台总裁约翰·哈拉姆卡博士与其高级研究分析师兼通讯专家保罗·塞拉托在医疗系统网站上撰文指出，"每项临床人工智能应用在被梅奥诊所员工使用前都会经过审查和批准。"
他们写道，这一审查制度基于"由高管主导的监督流程，根植于可靠的临床经验，既认识到速度的必要性，也认识到防护措施的重要性。"
迄今为止，仅2026年一年，该流程"已审查了100多项人工智能临床应用，考虑因素包括人工智能复杂性、临床环境、性能和患者安全、用户培训、工作流程整合、隐私和安全以及生命周期管理。"
他们还提及其他主要医疗系统为确保临床人工智能应用安全性和完整性所做的工作，例如斯坦福大学正在开发的ChatEHR工具，该工具高度依赖人类临床医生的反馈和审查。
哈拉姆卡和塞拉托写道："即使是最复杂的人工智能模型也无法与多年的临床经验和问题感知能力相媲美。"
【大趋势】
多年来，哈拉姆卡一直关注人工智能技术在医疗服务中的适当定位及其与人类的协作方式。早在2018年他就表示："如果你的医生可以被人工智能取代，那么你的医生就应该被人工智能取代。"
2023年，哈拉姆卡对席卷医疗保健领域的生成式人工智能的透明度和可靠性表达了担忧。"我们必须对我们选择的用例保持谨慎，"他警告说。
但他同时承认，人工智能正在导致医疗服务流程的根本性变革。他更新了之前的言论："使用人工智能的医生和护士将取代不使用人工智能的医生和护士。"
到2026年初，哈拉姆卡提出人工智能"可能很快成为我们的标准诊疗方式"，使医疗服务提供者能够"在比以往更多的地点治疗更多患者。"
但这并不改变一个事实：任何部署在临床环境中的人工智能模型都需要经过严格测试、治理和监控，并接受拥有丰富医学经验的人类临床医生的监督。
"我们需要照顾好我们的患者、研究人员和员工，"Mass General Brigham的首席信息和数字官简·莫兰在今年早些时候的HIMSS26会议上表示。
她说："医疗保健中的人工智能正从试点阶段转向早期应用。大多数医疗机构正以这种方式推进，我认为这是一个令人鼓舞的信号。我们不会在90天内就将技术推向大规模生产。采用需要谨慎。我们需要考虑临床安全、网络安全、隐私和监管问题。"
【记录在案】
哈拉姆卡和塞拉托写道："复杂且可能影响时间紧迫或关键临床场景中决策制定的人工智能工具，未经合格临床用户的主动审查和决策，不得在梅奥诊所使用。"
"这一治理模型的早期成功表明，只要正确实施，我们可以在不牺牲患者安全、隐私或安全的情况下快速推进人工智能以改善患者预后。"
【全文结束】