大约一年前,在查塔努加市最大的医院Erlanger Baroness,麻醉工作人员注意到一名护士在手术中心值班时说话含糊不清,难以保持清醒,根据田纳西州护理委员会的同意令显示。
该命令指出,在随后的几天里,这名护士药物测试失败并被解雇。根据该命令,这名护士后来承认,数月来他一直在窃取和滥用手术后剩余的芬太尼,有时甚至是每天。
在大多数情况下,这将是一起典型的"药物转移"案例,即从医疗机构非法取用管制药物——据信这种现象非常普遍,几乎每家美国医院都发生过。
但Erlanger的案例很特别,因为本应有高科技守卫在岗。
该医院使用了最新的药物转移防御手段:Sentri7,这是一款由人工智能驱动的药物监控软件,设计用于比任何人更快地检测缺失的药物。但根据护理委员会的命令,在Erlanger医院,Sentri7连续数月未能发出警报,忽略了缺失的药物和其他"不一致"情况,而这些情况"本应被标记"。
这起此前未被报道的Erlanger案例,罕见地展示了AI药物转移软件在数百家美国医院中的明显失效情况,而这一领域几乎没有透明度或监督。医疗机构没有义务披露其使用此类软件的情况,也不需要向任何人报告故障,因此没有完整的记录表明这些程序的使用范围有多广,以及它们失败的频率有多高。
Erlanger Baroness(也称为Erlanger医疗中心)拒绝就其使用Sentri7或转移的药物发表评论。Sentri7背后的荷兰科技公司Wolters Kluwer健康部门的发言人André Rebelo拒绝回答有关Erlanger发生的事情的问题,但表示公司对"我们的软件保持信心"。
"透明度不足"
约翰霍普金斯医学院的神经学家兼AI研究员David Rastall表示,由于AI技术高度专有,医院官员往往不了解其工作原理,这种透明度的缺乏使得错误被掩盖而非修复。他说,这意味着错误可能在其他医院重复发生。
Rastall说:"对患者、护理人员和医院系统来说,理想的情况是,当发现AI在犯某种错误时,这种情况变得非常透明和公开。"
缉毒局规定医院必须保密报告丢失或被盗的药物。医院也可以向州卫生机构报告被盗药物,这些机构负责许可医疗专业人员并调查不当行为。
但根据对三位药物转移预防专家的采访,这些报告不需要包含有关任何涉及的AI软件的详细信息。在采访中,所有专家都说他们从未见过像Erlanger案例中这样被公开记录的AI故障。
约翰霍普金斯医学院负责药物安全的药剂师Jacob Smith谈到Sentri7故障时说:"我自己从未见过这些技术以这种方式被点名。我不明白你怎么可能错过它。"
Smith和其他专家表示,Erlanger案例也引发了疑问,因为窃取剩余药物是最为人熟知的转移方法之一。而芬太尼是一种止痛药,效力可以是海洛因的50倍,是最常见的目标之一。
药物解决方案公司(Rxpert Solutions)创始人Terri Vidals质疑Erlanger案例是否是用户错误而非故障的结果。
Vidals说:"这是该软件最基本的基本。我发现他们说软件没有标记它很有趣。我认为这个故事可能还有更多内容。"
Erlanger的Sentri7故障是由田纳西州卫生部在12月例行发布的州纪律命令中披露的。这些记录中包括护理委员会的命令,该命令总结了对麻醉护士John Stevenson的州调查,Stevenson于11月签署了该文件以和解针对他的案件。
Stevenson通过他的律师拒绝发表评论。他没有因Erlanger案件被指控任何罪名。护理委员会在他的执照上设置了缓刑,同时他接受了药物咨询。
卫生部和护理委员会的发言人Bill Christian拒绝就Erlanger案例或Sentri7发表评论。在回应公共记录请求时,卫生部和田纳西州卫生设施委员会均表示,他们没有关于Erlanger Sentri7故障的其他文件。
Erlanger发言人Charlie Milburn今年早些时候表示,该医院已准备了一份关于其使用Sentri7的书面声明,以回应KFF健康新闻的提问。
该声明从未发布。
Milburn在3月的电子邮件中说:"我们的法律团队正在讨论这是否是我们想要谈论的事情",之后拒绝回答任何问题。
Wolters Kluwer的高管Kristy Drollinger在3月份向KFF健康新闻谈到了Sentri7,她说该软件需求很高,因为许多医院都在努力确保其药物安全。
Drollinger说,Sentri7监控约60种"风险归因",这些归因识别出需要医院员工进一步调查的警示信号。
Drollinger谈到广泛的药物盗窃时说:"这相当可怕。每个卫生系统,每个卫生设施,都曾有过转移情况——可能现在仍有。"
"未来的方向"
药物转移是美国医疗机构面临的普遍挑战。它可能导致患者无法获得药物或获得被血液传播疾病污染的药物。根据非营利组织"医疗转移网络"的数据,估计有高达15%的医疗工作者至少转移过一次药物。
据美国疾病控制与预防中心称,自1985年以来,转移已与至少13次疾病爆发有关——导致200多次感染,主要是丙型肝炎。
为防止这种情况,医院试图通过比较电子药物柜和患者健康记录中的数据,从药物分发到给患者使用的那一刻起跟踪每一粒药片或小瓶。
医院工作人员曾经手动执行这一繁琐的过程,但在过去十年中,这一任务已基本由反转移软件实现自动化。经过多年合并和收购,现在有两个程序主导该行业:Wolters Kluwer的Sentri7和Bluesight的ControlCheck。两者都结合了人工智能。
药物专家的老板Luke Overmire说:"这绝对是未来的方向。"
Bluesight表示,超过1,500家医院使用ControlCheck。根据Wolters Kluwer的数据,另有700家使用Sentri7临床监测程序,其中包括其药物转移软件。
两家公司都没有公布其软件的价格。约翰霍普金斯的药物安全官员Smith表示,医院购买这些"昂贵的技术"是因为灾难性的转移案件可能导致缉毒局处以数百万美元的罚款。
Smith说:"它们不承诺投资回报。它们承诺的是成本避免。"
2022年,一项由美国国立卫生研究院资助的同行评审研究发现,当时称为Flowlytics的Sentri7可以比现有方法更快地发现药物转移。该研究的主要作者曾为Sentri7的前所有者Invistics公司工作。
根据该研究,研究人员通过让软件梳理跨越两年和10家医院的药物数据,寻找22名已知转移药物的护士来测试该软件。
该研究称,该程序不仅全部找到了他们,而且比人类更快地找到他们,快则一周,慢则一年半。
在Erlanger,人类首先发现了问题的迹象。
根据护理委员会的命令,同事报告称,Stevenson在2025年6月30日左右在手术中心值班时表现出"受损"状态。
命令称,Stevenson"说话含糊不清,显得极度疲倦,被看到闭着眼睛站立并摇晃,在直立站立时点头,并似乎难以保持眼睛睁开"。
根据命令,当州调查人员询问时,Stevenson承认他从2025年3月开始转移"手术后本应被浪费的未使用芬太尼"。命令称,Stevenson表示他最初每周使用一两次芬太尼废料,然后到当年6月"增加到每天使用"。
根据命令,Erlanger对其四个月内的分发记录进行了审计。发现Sentri7大约有五次未能标记缺失的药物。
命令还补充说,医院发现了"药物分发和废料记录之间的额外不一致,本应被自动监测系统标记"。
护理委员会提供了一个可能的解释,即在命令中称Sentri7在Erlanger处于"初始学习阶段",尽管委员会没有提供任何细节。
在一次采访中,Drollinger没有具体讨论Erlanger,但表示Sentri7没有"学习阶段",因为它在新医院实施时会使用9到12个月的历史数据进行训练。
约翰霍普金斯的Smith有另一个理论。
在一次采访中,Smith表示,他对AI药物转移软件的经验使他相信,它在监控急诊室和重症监护室方面有效,但在手术室中效果较差,因为那里的药物分发和记录方式不同。
Smith说,这些区域对AI来说更难跟踪,因此需要人类更密切地监视。
Smith说:"我们有整个工作就是与这个软件打交道的人。软件是其中的一部分,但如果你依赖软件给你所有的信号,你会错过一些东西。它不是100%的。"
【全文结束】

