新研究表明，患者对医疗系统能否负责任地使用AI和保护其免受AI相关伤害的信任度较低。这项研究发表在《JAMA Network Open》上，正值AI监管存在不确定性之际，美国总统唐纳德·特朗普撤销了一项要求安全和可信赖的AI发展的行政命令，并削减了食品和药物管理局（FDA）的AI工作人员。医疗保健利益相关者正越来越多地采取措施自我规范健康AI的发展，包括通过像“可信赖与负责任的AI网络”（Trustworthy & Responsible AI Network, TRAIN）这样的联盟。
该研究的作者来自明尼苏达大学公共卫生学院，他们指出了解患者的观点对于设计可信赖的AI系统至关重要。他们使用了2023年6月至7月期间由全国民意研究中心概率抽样AmeriSpeak小组进行的一项调查的数据。他们分析了受访者对是否信任其医疗系统能负责任地使用AI以及确保AI工具不会对其造成伤害的回答。
在这项研究中，共纳入了2,039名受访者，其中51.2%为女性，63.1%为白人，17.4%为西班牙裔，12.1%为黑人，4.9%为亚裔。
研究人员发现，患者对医疗系统的总体信任评分为0到12分中的5.38分，12分表示最高信任。大多数受访者表示，他们对医疗系统能否负责任地使用AI（65.8%）和确保AI工具不会对其造成伤害（57.7%）的信任度较低。
此外，研究人员发现，对医疗系统信任度较高的受访者更有可能相信该系统会负责任地使用AI并保护其免受AI伤害。不出所料，曾在寻求护理过程中遭遇歧视的患者更不可能信任医疗系统能负责任地使用AI并保护患者免受伤害。
女性受访者比男性受访者更不太可能信任其系统能负责任地使用AI；然而，在信任系统能保护其免受AI相关伤害方面，性别之间没有差异。
值得注意的是，健康素养或AI知识与对医疗系统使用AI的信任之间没有关联。
“未来的研究应纵向考察这种信任，并包括更多经过验证的测量指标，如患者的舒适度、熟悉度和AI使用经验，这些因素可能与结果相关。”研究人员总结道，“对医疗系统使用AI的信任度较低，表明需要改进沟通并投资于组织可信度。”
这项研究增加了我们对患者在快速发展的健康AI技术中信任的理解。
在2024年的Athenahealth/Dynata民意调查中，44%的受访者表示其对健康AI的信任取决于其用途。例如，40%的人希望看到AI为提供者提供一些诊断支持，而只有17%的人希望看到AI增强或替代患者与提供者的互动。
此外，大多数人希望对医疗保健中的AI使用设置保障措施，57%的人认为政府应该发布指导提供者如何使用AI的法律和法规。另有50%的人认为类似的法规也应适用于健康技术公司。
(全文结束)
