随着人工智能（AI）在医疗保健领域的应用日益广泛，组织和临床医生必须采取措施确保其在实际临床环境中的安全实施和使用，这是根据德安·西蒂格博士（UTHealth Houston麦克威廉姆斯生物医学信息学学院教授）和哈迪普·辛格博士（贝勒医学院教授）共同撰写的一篇文章所述。
该指南于2024年11月27日发表在《美国医学会杂志》上。
“我们经常听到需要安全构建AI，但很少有人讨论如何在医疗保健环境中安全使用AI，”西蒂格说。“它是一种有潜力彻底改变医疗护理的工具，但如果没有适当的安全保障，AI可能会生成错误或误导性的输出，从而在未加控制的情况下对患者造成潜在伤害。”
西蒂格和辛格结合专家意见、文献综述以及健康信息技术使用和安全评估的经验，为医疗保健组织和临床医生制定了一种实用的方法来监控和管理AI系统。
“医疗保健提供组织需要在当地实施强大的治理系统和测试流程，以确保AI的安全和安全使用，最终使AI能够改善医疗保健的安全性和患者结果，”辛格说。“所有医疗保健提供组织都应查看这些建议，并开始积极准备应对AI。”
以下是医疗保健组织推荐的一些行动：
- 审查在高质量、同行评审期刊中发布的指导，并进行严格的现实世界测试，以确认AI的安全性和有效性。
- 建立由多学科专家组成的专门委员会，监督AI系统的部署并确保遵守安全协议。委员会成员应定期审查新的AI应用程序请求，在实施前考虑其安全性和有效性，并制定监测其性能的过程。
- 正式培训临床医生使用AI及其风险，同时在AI参与患者的护理决策时向患者透明化。这种透明度对于建立患者对AI在医疗保健中角色的信任至关重要。
- 维护详细的AI系统清单，并定期评估这些系统以识别和减轻任何风险。
- 制定程序，以便在AI系统出现故障时关闭它们，确保顺利过渡回手动流程。
“将AI引入临床环境应该是医疗保健提供者、AI开发人员和电子健康记录供应商之间的共同责任，以保护患者，”西蒂格说。“通过共同努力，我们可以建立信任并促进医疗保健中AI的安全采用。”
本文还得到了来自麦克威廉姆斯生物医学信息学学院临床和健康信息学系的罗伯特·墨菲博士（副教授兼副院长）和德博拉·西蒙斯博士（助理教授），以及特里莎·弗拉纳根（注册护士，硕士）的贡献。
(全文结束)
