医疗系统是否应告知患者他们在使用AI？加州大学圣地亚哥健康系统表示应该这样做。
该医疗系统使用Epic提供的生成式AI工具来为医生起草MyChart患者门户的消息。但加州大学圣地亚哥健康系统会在消息中通知患者部分内容是由AI生成的，具体披露内容为：“此消息的部分内容是自动生成的，并由[医生姓名]审核和编辑。”根据5月9日《NEJM AI》文章所述。
该组织的AI治理委员会成员曾讨论过这种做法是否必要，因为医生们已经使用了其他文档快捷方式，而生成式AI可能会引起患者的担忧，但最终他们得出了相同的结论。
“透明度是必要的，因为AI辅助的回复可能会引起患者的注意——特别是如果它们与医生平时的沟通风格不同，”作者、加州大学圣地亚哥健康系统首席医疗信息官Marlene Millen博士、教授Ming Tai-Seale博士和首席临床和创新官Christopher Longhurst博士写道。“最终，我们选择明确披露医生何时使用了AI草稿，并继续将此作为标准工作。”
研究人员呼吁专业组织，如美国医学会和国家医学科学院，制定AI披露的最佳实践指南。加利福尼亚州于2025年颁布了一项法律，要求医疗机构在使用AI生成信息时包含免责声明，并提供如何联系到人类的方法。
缺乏透明度“可能会导致患者质疑回复的真实性，从而损害至关重要的医患信任，”作者写道。“随着全国数以万计的医生使用AI支持患者沟通，现在是开始透明披露的时候了。”
(全文结束)
