人工智能可能提升急诊分诊的速度和准确性，但在欧洲，监管审查正与创新同步加速。能够预测疾病严重程度并对患者紧急程度进行分类的算法正从实验室进入医院工作流程。然而，围绕这些系统的法律框架远比许多医疗保健提供者预期的更为严格。
在发表于《AI》期刊的《规范AI驱动的分诊：欧盟的基本权利与合规挑战》一文中，研究人员检视了欧盟法律如何约束AI在急诊环境中的部署。研究发现，根据《人工智能法案》和《通用数据保护条例》，完全自动化的分诊决策难以被证明是合理的，这强化了对有意义的人工干预的要求。
AI在急诊分诊中日益增长的作用
急诊分诊旨在当需求超过可用医疗资源时对患者进行优先排序。传统上由训练有素的临床医生使用标准化工具进行，如今分诊越来越多地融入能够数秒内处理大量患者数据的机器学习模型。
该研究概述了AI系统在急诊环境中如何展现出强大的预测性能。传统机器学习工具在识别高风险患者、预测住院率和分层疾病严重程度方面显示出高区分能力。深度学习与集成模型通常优于传统的分诊评分系统。在创伤护理和急性环境中，AI系统改进了对死亡风险、重症监护需求以及住院可能性的预测。
基于大语言模型的生成式AI工具也正进入分诊领域。这些系统能够处理非结构化的临床笔记、解释症状描述并协助紧急程度分类。据报道，在结构化的分诊类场景中，大语言模型的准确率大约在70%到90%之间，在受控条件下往往接近临床医生的一致性。它们可以协助优先处理急救电话、支持院前评估，并加强急诊部门的培训。
尽管性能有所提升，但作者警告，技术准确性并不自动转化为法律或伦理上的可接受性。分诊决策具有重大后果，影响医疗服务的获取、治疗时机，甚至可能影响生存结果。因此，AI在此背景下的应用触发了欧盟法律下的严格监管审查。
欧盟《人工智能法案》下的高风险AI
该研究特别关注欧盟《人工智能法案》，该法案将急诊医疗分诊系统归类为高风险AI系统。这一分类为开发者和部署者激活了一系列严格义务。
根据《人工智能法案》，高风险系统必须设计为允许有效的人工监督。这一要求超越了象征性的监督。系统必须使训练有素的专业人员能够理解输出、检测异常、正确解读建议，并在必要时推翻决策。监督必须与系统的自主性和风险状况相称。
作者强调，急诊环境使这一要求变得复杂。分诊在时间压力下进行，常常面临人员有限和患者激增不可预测的情况。完全核实每一个AI生成的建议在操作上不可行。相反，研究建议监督必须是分层的、组织性的，而不仅仅是个人性的。实时临床判断应与针对不确定或高危病例的升级机制、结构化的推翻能力、事后审计和持续监控相结合。
《人工智能法案》还要求部署者在使用高风险AI系统之前进行基本权利影响评估。该评估需要映射对基本权利（如人的尊严、平等、数据保护、医疗保健获取和有效补救）的潜在影响。部署者必须评估可预见的滥用、自动化偏见以及潜在危害的严重性和可能性。风险缓解策略必须记录在案并整合到治理流程中。
研究指出，尽管《人工智能法案》要求这些评估，但实际实施指南仍然有限。机构需要结构化的内部程序，以确保分诊系统在其整个生命周期内得到验证、监控和审查。
透明度义务进一步塑造了AI在分诊中的使用。基于高风险AI系统做出决定的个人有权获得关于系统作用以及影响决定的主要因素的清晰且有意义的解释。当AI用于决策时，患者也必须被告知。在急诊环境中，实时提供解释可能具有挑战性，但研究认为，事后透明度对于维护信任和问责制仍然至关重要。
《通用数据保护条例》与全自动决策的限制
《通用数据保护条例》施加了额外限制。AI驱动的分诊通常涉及画像，因为个人健康数据被处理以评估和预测个人医疗状况的各个方面。
当画像产生法律或类似重大影响时，《通用数据保护条例》第22条限制了仅基于自动处理做出的决策。作者认为，大多数AI驱动的分诊系统将属于这一类别，因为它们显著影响患者获得医疗服务的途径和治疗优先级。
根据《通用数据保护条例》的标准，完全自动化的分诊决策很难被证明是合理的。该法规倾向于包含有意义的人工干预。人工审查必须是实质性的，而不是对算法输出的例行认可。审查人员必须经过授权、具备能力，并且能够修改决定。自动化偏见（即临床医生过度遵从算法输出）是一个重大风险，必须通过培训和流程设计加以解决。
尽管《通用数据保护条例》允许对全自动决策的禁令有有限例外，包括明确同意或法律授权，但研究认为这些路径在分诊环境中存在问题。急诊情况下的患者可能缺乏提供有效同意的能力，而分诊决策的不可逆后果使得纯自动化模型在法律和伦理上都显得脆弱。
总体而言，欧盟数据保护法强烈倾向于混合模式，即AI支持临床决策，但不取代人类判断。
医疗器械法规与通用人工智能
《医疗器械法规》增加了另一层监管复杂性。如果AI系统直接确定临床优先级、建议特定医疗措施或影响治疗获取，它可能符合医疗器械的定义。在这种情况下，制造商必须满足《医疗器械法规》下的安全、性能、文档和风险管理义务。
专门用于医疗目的的独立AI工具可能属于这一制度。然而，通用人工智能模型（例如广泛可用的大语言模型）处于灰色地带。如果临床医生非正式使用，且没有被打算或被营销用于医疗用途，它们可能不会自动符合医疗器械的定义。但当它们被集成到具有临床意图的结构化分诊系统中时，可能会触发同时遵守《人工智能法案》和《医疗器械法规》的义务。
责任分配变得至关重要。开发者对系统设计、训练数据质量、风险缓解以及遵守《人工智能法案》义务负责。部署者（包括医院和公共机构）承担将AI整合到临床工作流程、进行影响评估、确保监督和满足数据保护要求的主要责任。临床医生对患者护理负有专业责任，但不应为系统性设计缺陷或机构限制承担责任。
研究指出，监管合规并不能取代现有的医疗责任制度。相反，AI治理与专业问责和产品责任框架并行运作。
【全文结束】