临床医生警告医疗AI工具的潜在弱点Clinicians Warned About Potential Weaknesses in Medical AI Tools

环球医讯 / AI与医疗健康来源:www.pulmonologyadvisor.com美国 - 英语2025-08-01 01:57:53 - 阅读时长2分钟 - 761字
最新研究发现医疗AI工具存在社会人口学偏见,可能因患者种族/住房状况等非临床因素改变诊疗建议。同时研究显示在虚拟急诊场景中AI在77%的病例中表现优于医生,尤其在抗生素合理使用和病史关联分析方面表现突出,但医生在获取完整病史方面更具优势。研究建议医疗机构需建立AI工具持续评估机制。
医疗AI健康评估治疗方案社会人口特征临床适用性AI与医生对比诊断建议任务匹配性健康决策医疗公平性
临床医生警告医疗AI工具的潜在弱点

人工智能正在快速融入医疗领域,但医生被警告过早采用AI工具需建立正式的持续评估机制。近期发表于《自然医学》的研究显示,生成式AI模型会根据患者的社会经济和人口统计背景差异性推荐治疗方案。纽约西奈山伊坎医学院放射与人工智能系联合主任Eyal Klang教授领导的研究团队,测试了9个大语言模型处理1000例急诊科案例的表现。结果显示,即便临床信息完全相同,AI模型偶尔会因患者的社会人口特征(如黑人种族、无家可归状态或LGBTQIA+身份)调整分诊优先级、诊断测试、治疗方案和心理健康评估等关键决策。研究发现黑人跨性别者或无家可归的黑人患者往往比相似临床特征的其他群体获得更紧急的侵入性干预。此外高收入群体更易获得高级影像检查推荐,而低收入群体则获得较少诊断选项。研究团队建议医疗机构:1.使用代表性数据测试AI工具临床适用性;2.将AI推荐与已知最佳实践进行比对;3.定期要求供应商提供AI验证测试结果。

在比较AI与医生优劣的研究中,以色列特拉维夫大学K Health医学科学副总裁Zehavi Horowitz-Kugler教授团队分析了2024年6-7月期间461例虚拟急诊病例。AI模型通过结构化动态问诊收集症状和病史后生成诊断和治疗建议,结果显示AI在77%的病例中优于医生(医生为67%),在21%的病例中AI建议质量更优(如更准确识别尿路感染需先进行培养),而医生仅在11%的病例中表现更优。特别在处理急性呼吸道、泌尿生殖系统、眼部和牙科症状时,AI展现出更强的一致性(如减少不必要的抗生素处方),且能更有效整合电子病历中的复发性尿路感染、近期住院史等关键信息。但医生在获取完整病史方面更具优势。研究团队建议临床医生使用AI时需注意任务匹配性,如文书处理等技术性工作与核心临床决策应区别对待。

【全文结束】

大健康

猜你喜欢

  • 医疗专家解析最新健康指南医疗专家解析最新健康指南
  • Unmind获得3500万美元融资以变革职场心理健康Unmind获得3500万美元融资以变革职场心理健康
  • Inka Health入选OneMedNet项目,利用真实世界数据开发AI驱动的肿瘤学外部对照组Inka Health入选OneMedNet项目,利用真实世界数据开发AI驱动的肿瘤学外部对照组
  • 如何在医疗体系中治疗阿片类药物使用障碍如何在医疗体系中治疗阿片类药物使用障碍
  • 输精管切除术后的疼痛与遗憾:Reddit论坛揭示男性真实经历输精管切除术后的疼痛与遗憾:Reddit论坛揭示男性真实经历
  • 人寿保险公司如何利用人工智能打击保险欺诈人寿保险公司如何利用人工智能打击保险欺诈
  • Aetna推出护理路径和AI驱动项目简化医疗导航Aetna推出护理路径和AI驱动项目简化医疗导航
  • 新加坡研发的AI系统可帮助预测肝癌复发新加坡研发的AI系统可帮助预测肝癌复发
  • 美国儿童极严重肥胖率激增——研究揭示公共卫生危机美国儿童极严重肥胖率激增——研究揭示公共卫生危机
  • 研究:阿勒格尼县多数非自愿精神住院治疗弊大于利研究:阿勒格尼县多数非自愿精神住院治疗弊大于利
大健康
大健康

热点资讯

大健康

全站热点

大健康

全站热文

大健康