欧盟委员会起草的指南旨在帮助企业确定其产品（包括包含人工智能(AI)组件的医疗设备）是否在欧盟《人工智能法案》下被归类为高风险。
对于受《人工智能法案》约束的设备，这些要求将叠加在现有的《医疗器械法规》(MDR)和《体外诊断医疗器械法规》(IVDR)的现有义务之上，而非取代它们。
德国律所Bird & Bird专攻AI领域的律师Nils Lölfing近期在接受《Focus》采访时表示，他讨论了《人工智能法案》的含义及其对医疗设备的影响。他还强调了当前为防止设备受到多重监管框架约束而正在进行的努力。
《人工智能法案》创建了一个法律框架，以鼓励为医疗设备（包括体外诊断(IVD)和其他产品）开发"以人为本且值得信赖"的人工智能。
《人工智能法案》将对独立高风险AI系统于2027年12月2日生效，对嵌入在产品中的高风险AI系统于2028年8月2日生效。
根据委员会公告，"这些指南阐述了委员会对某些与分类相关概念的解释，并根据《人工智能法案》第6(5)条，包含了应或不应被归类为高风险的AI系统的实际示例。这些指南中列出的示例力求涵盖所有领域和使用场景，但不应被视为详尽无遗，可能会随时间更新。"
委员会发布了三份不同的指南，以阐明其对高风险产品含义的解释。这些指南包括：确定AI系统是否为高风险的一般原则；第二份指南讨论法案附件一；第三份指南涉及附件三。
Lölfing表示，这些指南阐明了根据第6条的分类过程，但没有具体说明设备类型，因此它们看起来比较宽泛。
原则指南指出，"AI系统的预期用途在其被归类为高风险方面起着重要作用，也对评估是否符合《人工智能法案》第三章第2节规定的高风险AI系统要求至关重要。"
它还补充道："根据《人工智能法案》第6条，AI系统将在两种情况下被视为高风险。首先，如果该系统作为产品的安全组件使用，或AI系统本身就是产品，且涵盖在法案附件一列出的欧盟协调立法中，并且作为AI系统安全组件的产品或AI系统本身需要接受第三方符合性评估，则该系统将根据《人工智能法案》第6(1)条被归类为高风险。"
欧盟《人工智能法案》附件三的指南（148页）讨论了根据《人工智能法案》第6(1)条和附件一，以及第6(2)条的高风险分类。
它明确指出，某些AI系统因其对人类健康、安全和基本权利的潜在影响而被视为"高风险"。这些系统需履行严格的合规义务，包括独立符合性评估、风险管理系统和注册要求。
该指南指出："急诊医疗患者分诊系统如果符合《医疗器械法规》第2(1)条对医疗器械的定义，可能符合医疗器械的条件。如果此类系统满足《人工智能法案》第6(1)条的条件，它们将根据该条款和《人工智能法案》附件一被归类为高风险，并需要与部门法律保持精简一致的合规性。"
《人工智能法案》附件一的指南指出，虽然《人工智能法案》没有提供安全组件或安全功能的清单，但根据《人工智能法案》第3(14)条对安全组件的定义以及序言47和48提供的澄清，"安全功能的概念可能特别包括以下预防或缓解功能：预防功能：监测和检测可能导致人身伤害或财产损失的情况（例如检测异常系统行为的AI系统）；如果不执行此类操作可能导致人身伤害或财产损失（例如检测与安全相关的部件或可能对人身或财产造成伤害的部件是否磨损，可能需要更换或维护的AI系统）。"
该指南还概述了《人工智能法案》涵盖的产品类型。这些包括机械、玩具、电梯、设备以及用于潜在爆炸性环境的保护系统的安全组件。此外，该法案还涵盖无线电设备、压力设备、休闲船只、缆车装置、燃烧气体燃料的器具、医疗器械、体外诊断医疗器械以及汽车和航空领域的相关产品。
努力阻止双重监管
Lölfing通过电子邮件与《Focus》分享了他对《人工智能法案》与MDR和IVDR之间相互作用的看法。
他表示："出发点是医疗设备中的AI已经受制于欧盟的设备规则，即MDR和IVDR。《人工智能法案》在此之上增加了第二层要求，但仅针对其所谓的高风险系统。当AI医疗设备本身是设备或作为设备的安全组件，并且该设备需要公告机构（独立评估者）签字确认时，它就被视为高风险。实际上，这大致相当于MDR下的IIa类及以上，以及大多数IVD。"
他列举了两个例子来阐明将受《人工智能法案》约束的设备类型。这将包括纯AI软件，例如分析扫描以标记或诊断疾病的算法，其中软件本身充当设备；其次，集成到硬件中的AI，例如调节输液泵剂量的AI或控制手术机器人的AI，作为安全组件。简单的自认证I类设备不属于高风险类别。
Lölfing指出，目前正在进行两项改革，试图防止这些设备受到双重监管。
这包括数字综合法案，其中包含使医疗设备继续受《人工智能法案》约束的条款，但将高风险义务推迟至最终截止日期2028年8月。此外，它允许委员会通过后续立法或授权法案，免除某些《人工智能法案》高风险要求，如果MDR或IVDR已经规定了相同的标准。这意味着在《人工智能法案》内现在有一个机制可以消除重复要求。虽然已达成协议，但尚未正式纳入法律，等待最终法律审查。
另一项提案包含在2025年12月发布的MDR和IVDR计划修订中。"该计划将使设备规则成为主要规则手册，因此AI要求将在正常的设备审批过程中处理，而不是在单独的AI法案流程中，AI特定义务可能会写入MDR本身的规则下。这与欧盟已经处理汽车和机械及机器人中AI的方式相呼应，在这些领域，部门法律而非AI法案直接承担AI要求。"
Lölfing表示，在这些提案下，"这意味着医疗AI继续受到监管，但企业获得更多时间，重点正转向设备规则。"
他补充道："明智的做法是通过MDR和IVDR文件而非单独的AI法案流程来证明AI特定要点，主要是数据治理、稳健性和人为监督。具体细节将取决于委员会的后续法案以及MDR修订的最终结果。"
根据咨询公司IQVIA 2024年的一篇博客文章，在医疗保健中使用的大量AI将被《法案》归类为"高风险"，因此需满足多项要求。
提交意见的截止日期为6月23日。
咨询
【全文结束】