临床医生警告医疗AI工具的潜在弱点Clinicians Warned About Potential Weaknesses in Medical AI Tools

环球医讯 / AI与医疗健康来源:www.pulmonologyadvisor.com美国 - 英语2025-08-01 01:57:53 - 阅读时长2分钟 - 761字
最新研究发现医疗AI工具存在社会人口学偏见,可能因患者种族/住房状况等非临床因素改变诊疗建议。同时研究显示在虚拟急诊场景中AI在77%的病例中表现优于医生,尤其在抗生素合理使用和病史关联分析方面表现突出,但医生在获取完整病史方面更具优势。研究建议医疗机构需建立AI工具持续评估机制。
医疗AI健康评估治疗方案社会人口特征临床适用性AI与医生对比诊断建议任务匹配性健康决策医疗公平性
临床医生警告医疗AI工具的潜在弱点

人工智能正在快速融入医疗领域,但医生被警告过早采用AI工具需建立正式的持续评估机制。近期发表于《自然医学》的研究显示,生成式AI模型会根据患者的社会经济和人口统计背景差异性推荐治疗方案。纽约西奈山伊坎医学院放射与人工智能系联合主任Eyal Klang教授领导的研究团队,测试了9个大语言模型处理1000例急诊科案例的表现。结果显示,即便临床信息完全相同,AI模型偶尔会因患者的社会人口特征(如黑人种族、无家可归状态或LGBTQIA+身份)调整分诊优先级、诊断测试、治疗方案和心理健康评估等关键决策。研究发现黑人跨性别者或无家可归的黑人患者往往比相似临床特征的其他群体获得更紧急的侵入性干预。此外高收入群体更易获得高级影像检查推荐,而低收入群体则获得较少诊断选项。研究团队建议医疗机构:1.使用代表性数据测试AI工具临床适用性;2.将AI推荐与已知最佳实践进行比对;3.定期要求供应商提供AI验证测试结果。

在比较AI与医生优劣的研究中,以色列特拉维夫大学K Health医学科学副总裁Zehavi Horowitz-Kugler教授团队分析了2024年6-7月期间461例虚拟急诊病例。AI模型通过结构化动态问诊收集症状和病史后生成诊断和治疗建议,结果显示AI在77%的病例中优于医生(医生为67%),在21%的病例中AI建议质量更优(如更准确识别尿路感染需先进行培养),而医生仅在11%的病例中表现更优。特别在处理急性呼吸道、泌尿生殖系统、眼部和牙科症状时,AI展现出更强的一致性(如减少不必要的抗生素处方),且能更有效整合电子病历中的复发性尿路感染、近期住院史等关键信息。但医生在获取完整病史方面更具优势。研究团队建议临床医生使用AI时需注意任务匹配性,如文书处理等技术性工作与核心临床决策应区别对待。

【全文结束】

猜你喜欢
  • 输精管切除术后的疼痛与遗憾:Reddit论坛揭示男性真实经历输精管切除术后的疼痛与遗憾:Reddit论坛揭示男性真实经历
  • 这一微小调整足以迷惑ChatGPT——可能造成生命代价这一微小调整足以迷惑ChatGPT——可能造成生命代价
  • Unmind获得3500万美元融资以变革职场心理健康Unmind获得3500万美元融资以变革职场心理健康
  • 电视主持人被诊断为早发性阿尔茨海默病,其丈夫揭示了令人心碎的症状电视主持人被诊断为早发性阿尔茨海默病,其丈夫揭示了令人心碎的症状
  • 专访:人工智能推动医疗保健从治疗转向预防:专家观点专访:人工智能推动医疗保健从治疗转向预防:专家观点
  • 复杂慢性病显著增加儿童心理健康问题复杂慢性病显著增加儿童心理健康问题
  • 医疗专家解析最新健康指南医疗专家解析最新健康指南
  • 英联邦医疗协会任命Prabhukumar Challagali博士为人工智能与数字健康委员会召集人英联邦医疗协会任命Prabhukumar Challagali博士为人工智能与数字健康委员会召集人
  • 如何在医疗体系中治疗阿片类药物使用障碍如何在医疗体系中治疗阿片类药物使用障碍
  • 输精管结扎术、疼痛与后悔:Reddit论坛揭示的男性真实体验输精管结扎术、疼痛与后悔:Reddit论坛揭示的男性真实体验
热点资讯
全站热点
全站热文