FDA的人工智能本应革新药物审批,但其却在编造研究数据FDA’s artificial intelligence is supposed to revolutionize drug approvals. It’s making up studies

环球医讯 / AI与医疗健康来源:www.cnn.com美国 - 英语2025-08-20 23:55:54 - 阅读时长2分钟 - 859字
美国食品药品监督管理局(FDA)推出的AI工具Elsa被曝存在生成虚假研究数据、错误解读文献等严重问题,尽管该工具被宣传能加速药物审批流程,但内部人员揭露其可靠性存疑,需耗费额外时间进行人工核查。该事件暴露出医疗AI应用领域缺乏联邦监管的现状,同期欧洲已实施《人工智能法案》建立安全框架。
FDA人工智能药物审批健康机构运营医疗数据管理AI幻觉虚假研究数据医疗监管AI医疗局限
FDA的人工智能本应革新药物审批,但其却在编造研究数据

在特朗普政府官员的描述中,人工智能已登陆华盛顿,旨在加速新药上市、优化百亿级健康机构运营效率,并成为削减政府浪费的智能助手。"AI革命已经到来",美国卫生与公共服务部(HHS)部长小罗伯特·F·肯尼迪在国会听证会上宣称,"我们正用这项技术管理医疗数据并加快药物审批"。

2025年6月,隶属HHS的FDA推出名为Elsa的人工智能系统,宣称其能显著提速药物和医疗设备审批。但知情内部人员向CNN透露,这款AI工具不仅存在"编造不存在的研究"(AI幻觉)问题,还会错误解读科研文献,导致其在关键工作中不可靠。

六名现任和前任FDA官员(匿名接受访谈)表示,Elsa虽能辅助生成会议纪要、邮件模板,但其生成的虚假研究数据已引发严重担忧。两名现职员工指出,当AI总结20页药物研究报告时,可能遗漏关键信息且无法验证准确性。有员工抱怨:"它自信地编造内容,反而浪费我们核查时间"。

FDA局长马蒂·马卡里承认Elsa存在幻觉问题,但强调使用完全自愿。该AI目前无法访问行业提交材料,导致其无法回答"某公司申请过几次审批"等基础问题。尽管官方宣称Elsa可加速临床协议审查,但实际使用中主要作为文档检索工具。

技术细节显示,Elsa的早期版本基于拜登时期研发的AI模型,其名称已非原缩写"高效分析语言系统"。演示显示其界面类似普通AI助手,但在医学期刊文献链接等关键功能上存在限制。当被要求生成特定项目内容时,Elsa甚至错误声称某研究领域超出FDA职权范围。

FDA人工智能主管杰里米·沃尔什承认,需通过培训和个人文档库功能改善系统局限。尽管设置文档引用核查机制,但该功能仅适用于内部文件。专家指出,美国在AI医疗监管方面落后于欧盟——后者2024年已实施《人工智能法案》建立风险管控体系。斯坦福大学乔纳森·陈教授警示:"AI不是魔法,医疗领域的问题远比机器理解复杂"。

【全文结束】

大健康

猜你喜欢

  • 诺奖得主戴密斯·哈萨比斯预言AI十年内攻克所有疾病诺奖得主戴密斯·哈萨比斯预言AI十年内攻克所有疾病
  • 口袋里的心理治疗师?你需要了解的AI聊天机器人与心理健康口袋里的心理治疗师?你需要了解的AI聊天机器人与心理健康
  • 监管机构低估空气污染对健康的影响:新研究发现监管机构低估空气污染对健康的影响:新研究发现
  • AI可通过心脏扫描识别人种分类——这意味着什么及为何重要AI可通过心脏扫描识别人种分类——这意味着什么及为何重要
  • 医学过度概括问题——人工智能如何让情况更糟医学过度概括问题——人工智能如何让情况更糟
  • Reveleer收购Novillus以扩展其由AI驱动的临床智能和质量解决方案Reveleer收购Novillus以扩展其由AI驱动的临床智能和质量解决方案
  • 学生运营诊所缓解医疗资源短缺学生运营诊所缓解医疗资源短缺
  • AI驱动应用程序声称可通过心电图数据提前数月预测心力衰竭AI驱动应用程序声称可通过心电图数据提前数月预测心力衰竭
  • Atombeat与BioDuro启动战略协作 推出AI赋能多肽药物研发平台Atombeat与BioDuro启动战略协作 推出AI赋能多肽药物研发平台
  • 全球再生医学市场将从2023年596.8亿美元飙升至2032年4729.5亿美元,复合年增长率达25.86%全球再生医学市场将从2023年596.8亿美元飙升至2032年4729.5亿美元,复合年增长率达25.86%
大健康
大健康

热点资讯

大健康

全站热点

大健康

全站热文

大健康