美国食品药品监督管理局（FDA）内部人士对机构使用人工智能加速药物审批流程的做法敲响了警钟。
据CNN报道，六名现任和前任FDA官员警告称，这一个人工智能系统名为Elsa，几周前刚刚推出，却经常“幻觉”出完全虚构的研究。
这种令人担忧的现实可能在最坏的情况下，导致某些潜在危险的药物被误批。这是美国政府大力推动使用存在严重缺陷的人工智能技术的一部分。Elsa的表现与目前市面上其他AI聊天机器人类似，经常编造信息。
一名FDA员工告诉CNN：“任何你没有时间反复核实的内容都不可靠。它自信地幻觉。”
美国卫生与公共服务部（HHS）部长小罗伯特·肯尼迪（Robert Kennedy Jr）是反疫苗运动中著名的代表人物，他不具备相关职位的专业资质，也经常传播已被证伪的阴谋论。他赞扬政府采用人工智能是“人工智能革命已经到来”的标志。
他上个月告诉国会：“我们已经在HHS使用这项技术来管理医疗数据，而且完全安全，同时加快了药物审批速度。”
但现实正在迅速显现——对于那些使用过大型语言模型工具的人来说，这并不意外。鉴于这项技术迄今为止的表现，医学界对人工智能的采纳已经陷入争议，批评者指出过度依赖该技术的风险。
事实证明，Elsa并没有为科学家节省时间，反而适得其反，凸显了企业急于将人工智能技术嵌入运营各个方面的失败尝试。
另一位FDA员工告诉CNN：“人工智能应该为我们节省时间，但我可以保证，我因为必须提高警惕而浪费了大量额外的时间。”
内部人士称，Elsa无法真正帮助他们审查药物批准，因为它无法访问相关文档。据CNN报道，它甚至无法“回答基本问题”，比如某家公司曾多少次向FDA申请批准。
更糟糕的是，它经常引用根本不存在的研究，而当被质疑时，它只是“道歉”并告诉员工其输出需要验证。
这些严厉的指控直接反驳了FDA试图将Elsa描绘成一项革命性工具的努力，声称其可以显著加快药物评估进程。
在6月的一份声明中，FDA自豪地表示：“我们已经在使用Elsa加速临床方案审查，缩短科学评估所需时间，并识别高优先级的检查目标。”
与此同时，FDA人工智能主管杰里米·沃尔什（Jeremy Walsh）告诉CNN，Elsa“可能会产生幻觉”，但员工“如果不觉得它有价值，就不必使用该工具”。
为了安抚人心，沃尔什表示，通过使用更详细的问题，可以减少Elsa的幻觉问题。
在国会正竞相制定人工智能监管方案的关键时刻，Elsa的出现似乎来得不是时候。特朗普政府并没有制定新规则来防止灾难发生，而是继续致力于为行业扫清监管障碍，数十亿美元资金持续涌入人工智能领域。
换句话说，目前似乎没有太多人愿意约束FDA使用未经验证的人工智能技术——这是一场令人担忧的豪赌，未来可能会带来严重后果。
【全文结束】
