非营利组织ECRI（Emergency Care Research Institute）将人工智能列为2025年医疗技术的头号风险。该机构每年都会识别医疗设备和系统带来的主要安全风险，以帮助医疗设备开发者、医疗服务提供者和政策制定者了解危险、减轻风险并防止伤害，不仅针对患者，也包括医生和护理团队。
ECRI基于设备相关事件报告（包括不良事件和未遂事件）、实验室测试、医院运营观察和评估、文献回顾以及与临床医生、临床工程师、设备供应商和其他关键利益相关者的对话，编制了年度风险清单。报告中提到的问题不一定是最常报告的问题或后果最严重的问题，但它们反映了ECRI认为应立即关注的风险，以帮助护理提供者、设备制造商和其他相关人员优先考虑患者安全工作。
以下是报告中列出的前十大医疗技术风险：
1. 人工智能医疗技术的风险
人工智能有望提高医疗诊断、治疗和服务的效率和精确度，但改进并非必然。过度信任AI模型可能导致不当的患者护理决策。如果训练AI模型的数据存在偏见，模型与目标患者群体不匹配，或模型性能未进行评估和持续监控，都可能带来可预防的伤害。此外，如果组织对AI解决方案有不切实际的期望，未能定义目标，缺乏足够的治理和监督，或未能充分准备数据以供AI应用使用，AI解决方案可能会令人失望。
ECRI在2024年的立场文件中提出了关于纳入AI的建议，包括监管考虑、AI解释性和风险概况。AI开发者可以通过提供“用于训练模型的数据点数量和来源”、“理想条件下模型性能的基本指标”以及“用外行人可以理解的术语解释模型及其如何得出结论”的信息，帮助医疗提供者安全使用AI。
2. 家庭护理患者的未满足技术支持需求
传统的急性护理环境下的设备（如呼吸机、透析机和输液泵）越来越多地被用于家庭。患者或非专业护理人员安全有效使用这些设备需要遵循关键技术管理实践。这些实践包括评估设备在用户能力背景下的可用性，缓解使用区域的任何物理或结构限制，提供适当的附件，并提供足够的培训以确保正确的设备操作和维护。忽视这些做法可能导致事件和错误未被发现，设备读数被误解，或因设备故障未解决而导致护理延误和其他伤害。
设备开发者应提供清晰简洁的家庭安全操作说明，包括“设备在家庭环境中正常运行的基本要求，如空间、清洁消毒、电力和互联网需求”以及“与设备、使用环境及设备在使用环境中如何运作相关的任何安全隐患”。
3. 易受攻击的技术供应商和网络安全威胁
过去发生的未经授权访问、服务中断或其他不利网络安全事件影响了供应商，导致医疗提供者无法访问关键服务、可靠数据或有效的与合作护理提供者的通信渠道。这些情况可能使患者处于危险之中，延迟、阻止或降低护理质量，从而影响患者结果。
ECRI向医疗提供者和政策制定者提供了建议，但设备开发者也需对其产品的网络安全负责。
4. 不合格或欺诈性的医疗器械和用品
不合格或欺诈性（例如假冒）产品大规模进入美国市场的情况变得惊人常见，对患者护理产生了广泛的影响。如果医疗器械或用品（例如注射器、隔离衣）未能按预期功能运行，患者或工作人员可能会受到伤害。不合格或欺诈性设备可能更容易发生故障或失灵，导致误诊或受伤。此外，这些产品引起的中断和召回会增加供应链压力，导致产品短缺；而纠正措施需要时间和金钱，因为医疗组织必须审查受影响的库存项目。
ECRI敦促医疗技术行业在与材料/组件供应商和第三方测试设施开展业务前确认其完全合格和获得认证，并定期进行审计以确认持续合规。该组织还鼓励设备制造商确认所有供应环节的质量，并改善可追溯性和跟踪系统以打击假冒行为和改进不合格产品的召回。
5. 使用补充氧气区域的火灾风险
与补充氧气输送相关的火灾发生在多种患者护理区域，包括家庭。在急性护理环境中，手术室工作人员通常对火灾风险有充分认识。然而，在手术室外，ECRI的调查表明需要更多关注以防止使用补充氧气区域的火灾。火灾所需的三个要素——氧化剂、燃料和点火源——在任何输送氧气的地方都可能存在。点火源可能从显而易见的（如电外科笔）到不易察觉的（如除颤器、加热加湿器、光纤光源或损坏的电源线）。
ECRI警告工程师，其已调查过涉及空气-氧气混合器的事故，这些混合器由于橡胶膜片退化而未能混合氧气和空气，而是仅输送其中一种气体（两者都有风险）。
6. 麻醉机上的危险低默认报警限值
某些麻醉机可以配置为新手术开始时默认报警限值（即激活的报警限值）设置为零或类似的不安全下限。实际上，这在手术开始时禁用了报警。ECRI调查了多起因不当的默认报警限值导致危险条件未被发现的事故，有些情况下甚至导致脑损伤或死亡。虽然麻醉提供者在手术过程中需要时可以将较低的报警限值设置为零，但ECRI建议不要将单位配置为默认较低限值为零（或其他不安全的下限）。
ECRI表示，设备制造商不应将这些不安全的下限设置为出厂默认值。该组织赞扬了一些设备开发者的努力：Draeger Perseus A500根据呼吸设置和患者大小自动设置初始低分钟体积限值；所有在美国销售的Getinge和Mindray型号使用非零默认限值作为低分钟体积报警。ECRI赞赏这些变化，并将继续更新其报告以反映产品改进。
7. 药物订单临时暂停处理不当
根据临床情况暂停（或暂停）药物给药是患者护理中的常见情况。然而，如果组织缺乏经过严格审查的工作流程来记录电子健康记录中的暂停订单参数，就可能出现错误。安全用药研究所发现，与暂停订单相关的错误通常归因于对暂停订单含义的不确定、订单应如何沟通或应遵循什么程序的不确定。在指示时未能暂停药物，或未能根据情况重新启动或停止暂停的药物，都可能导致患者伤害。
ECRI没有针对此风险或列表中接下来两个风险提出设备制造者的建议，但为医疗提供者提供了支持安全实践的建议。
8. 输液线管理不当导致的感染风险和绊倒隐患
在接入输液线连接器前未清洁和消毒，用污染的手套触摸插入部位或管路，或在准备输液液时未遵循无菌技术，都可能导致医疗相关感染。另一种可能导致伤害的情况是输液线允许停留在地板上。这会形成绊倒隐患，导致患者或工作人员因跌倒受伤，以及输液线脱位导致的患者伤害。
9. 医用粘合剂产品导致的皮肤损伤
医用粘合剂产品用于各种应用（如包扎伤口、固定静脉导管、连接心电图电极）。但并非所有粘合剂都相同，也不是所有患者对粘合剂产品的反应都相同。不当选择或使用错误可能导致皮肤撕裂、水泡、接触性皮炎等不良反应或其他形式的伤害。医用粘合剂相关的皮肤损伤可能发生在任何护理环境、医学专业和患者群体中。尽管大多数皮肤损伤在几天内恢复，但仍会造成不必要的不适和疼痛；此外，它们可能使患者容易感染，从而导致更严重的后果。
10. 输液系统事件调查不彻底
许多患者接受输液治疗，因此与输液泵使用相关的不良事件并不罕见。缺乏专业知识或资源来彻底调查此类事件的组织将难以防止未来的事件。令人担忧的是，涉及输液系统的调查特别具有挑战性，因为潜在的促成因素种类繁多。必须检查泵硬件和软件、静脉输液装置和其他附件以及用户的行为。此外，工作人员必须知道如何（以及不应如何）协助调查。
(全文结束)
