在特朗普政府官员的描述中,人工智能已登陆华盛顿,旨在加速新药上市、优化百亿级健康机构运营效率,并成为削减政府浪费的智能助手。"AI革命已经到来",美国卫生与公共服务部(HHS)部长小罗伯特·F·肯尼迪在国会听证会上宣称,"我们正用这项技术管理医疗数据并加快药物审批"。
2025年6月,隶属HHS的FDA推出名为Elsa的人工智能系统,宣称其能显著提速药物和医疗设备审批。但知情内部人员向CNN透露,这款AI工具不仅存在"编造不存在的研究"(AI幻觉)问题,还会错误解读科研文献,导致其在关键工作中不可靠。
六名现任和前任FDA官员(匿名接受访谈)表示,Elsa虽能辅助生成会议纪要、邮件模板,但其生成的虚假研究数据已引发严重担忧。两名现职员工指出,当AI总结20页药物研究报告时,可能遗漏关键信息且无法验证准确性。有员工抱怨:"它自信地编造内容,反而浪费我们核查时间"。
FDA局长马蒂·马卡里承认Elsa存在幻觉问题,但强调使用完全自愿。该AI目前无法访问行业提交材料,导致其无法回答"某公司申请过几次审批"等基础问题。尽管官方宣称Elsa可加速临床协议审查,但实际使用中主要作为文档检索工具。
技术细节显示,Elsa的早期版本基于拜登时期研发的AI模型,其名称已非原缩写"高效分析语言系统"。演示显示其界面类似普通AI助手,但在医学期刊文献链接等关键功能上存在限制。当被要求生成特定项目内容时,Elsa甚至错误声称某研究领域超出FDA职权范围。
FDA人工智能主管杰里米·沃尔什承认,需通过培训和个人文档库功能改善系统局限。尽管设置文档引用核查机制,但该功能仅适用于内部文件。专家指出,美国在AI医疗监管方面落后于欧盟——后者2024年已实施《人工智能法案》建立风险管控体系。斯坦福大学乔纳森·陈教授警示:"AI不是魔法,医疗领域的问题远比机器理解复杂"。
【全文结束】

