根据该研究，人工智能辅助临床决策支持（AI-CDS）系统有望彻底改变医疗决策，这需要一个全面的框架来指导其开发、实施和监管，强调可信度、透明度和安全性。
该研究由《美国医学信息学协会杂志》发表，提出了创建方法、规则和指南的实际建议，以确保AI在临床决策支持（CDS）系统中的开发、测试、监督和使用能够良好且安全地进行。研究指出，AI-CDS系统有望彻底改变医疗决策，这需要一个全面的框架来指导其开发、实施和监管，强调可信度、透明度和安全性。该框架涵盖了多个方面，包括模型训练、可解释性、验证、认证、监控和持续评估，同时解决数据隐私、公平性和监管监督等挑战，以确保AI负责任地融入临床工作流程。
材料和方法
2023年5月，贝斯以色列女执事医疗中心临床信息学部门和美国医学信息学协会共同赞助了一个关于医疗保健中人工智能的工作组。2023年8月，举办了4场关于人工智能主题的网络研讨会，2023年9月举行了为期两天的共识构建研讨会。活动吸引了超过200名行业利益相关者，包括临床医生、软件开发者、学者、伦理学家、律师、政府政策专家、科学家和患者。目标是识别在医疗实践中可信使用AI辅助CDS所面临的问题。通过定性分析和4个月的迭代共识过程，确定了关键问题并提出了解决方案。
研究人员重点关注了AI在医疗生态系统中的三个具体应用领域：（1）患者如何看待他们在医疗旅程中使用AI；（2）AI如何影响CDS；（3）AI如何用于创建、丰富和使用真实世界的数据/证据。
在研究过程中，各小组通过快速头脑风暴方法和小组讨论，发展核心思想和挑战。小组采用德尔菲法对核心挑战进行迭代，并优先考虑和解决这些问题的方法达成共识。
关键建议
治理这些相互关联的问题需要开发者、监管机构和医疗保健提供组织在透明度、培训和基础设施方面的多管齐下的举措。研究最终提出了一系列关键建议，其中四项包括：
- 构建安全和可信的系统；
- 开发AI-CDS系统的验证、验证和认证流程；
- 提供国家级的安全监控和报告机制；
- 确保提供适当的文档和终端用户培训。
文章来源
《美国医学信息学协会杂志》
(全文结束)