全球律师事务所Norton Rose Fulbright的医疗业务合伙人杰夫·沃茨堡(Jeff Wurzburg)表示，医疗领域人工智能的监管执法目前处于早期阶段——但预计在未来几年将显著增加。
沃茨堡表示，他预计执法将通过现有支付和监督框架成熟发展，而不是通过专门的人工智能监管机构。但无论如何，医疗机构应为AI使用的日益严格的监督做好准备。
"随着AI越来越多地嵌入到日常功能中，如使用管理、编码、临床决策支持和报销决定，监管机构将较少关注技术的新颖性，而更多关注其如何影响保险范围决定、医疗必要性和索赔准确性，"他解释道。
"核心问题将保持不变：谁对驱动支付的决定负责，以及当这些决定由算法做出、影响或加速时，能否根据医疗保险、医疗补助和商业支付方规则进行辩护？"他继续说道。
欺诈和滥用法
他补充说，展望未来，最大的执法风险将继续来自美国医疗保险和医疗补助服务中心(CMS)、美国卫生与公众服务部(HHS)监察长办公室以及司法部应用长期存在的欺诈和滥用法律。
"当自动化取代或压缩人类判断时，我预计监管机构可能会仔细审查AI工具是否嵌入了不恰当的财务激励、产生系统性过度编码或拒赔，或模糊临床责任，"他预测。"值得注意的是，州监管机构和总检察长可能会发挥重要作用。"
"医疗服务提供方面临着迅速扩大的州法律拼凑，这为跨州运营创造了合规挑战，当州要求偏离或直接与现有联邦监管框架冲突时，引发了棘手的优先权和协调问题，"他继续说道。"随着AI工具变得越来越集成和常规化，我预计执法将集中在治理、文档和监督上。"
他补充说，这提高了使用AI的医疗利益相关者的内部治理和监督的重要性。
董事会的责任
沃茨堡建议，对于医疗系统董事会而言，因AI监督不力而产生的潜在责任将通过传统的非营利和公司治理原则来评判。
"当AI工具嵌入临床决策支持、收入周期、排班、人员配置和使用管理时，董事会被期望对直接影响患者安全、护理质量、监管合规和公共资金的风险进行积极、知情的监督，"他说。
"虽然董事可能不需要理解AI的技术机制，但他们应该了解这些工具如何影响临床判断、护理路径或医疗保险和医疗补助报销，并确保管理层、临床领导层和董事会之间有明确的责任结构。"
"我相信医疗系统董事会真正的风险很可能源于流程和治理失败，而非孤立的不良事件，"他继续说道。"监管机构、认证机构和原告律师可能会询问董事会是否收到了关于正在使用的AI系统有意义的报告，高风险用途是否得到适当上报，以及系统是否保持了符合医疗保险参与条件和医务人员义务的人类临床监督。"
"因此，随着已知和未知的AI使用增加，缺乏明确定义的治理框架的董事会——例如指定委员会、记录的风险评估，或与AI使用相关的定期质量和合规报告——可能面临更严格的审查并承担更大风险，"他补充道。
"在这种环境下，AI监督变得与董事会对质量、合规和使命管理的核心责任密不可分，"他解释道。"董事会疏忽越来越可能被视为监督失败，而非技术失误。"
医疗AI的关键风险
沃茨堡表示，从监管和报销的角度来看，医疗中AI最直接的风险是欺诈和支付完整性。
"随着AI越来越多地融入受监管的医疗决策，那些将审查仅限于独立AI政策的组织可能会错过更大的风险，"他解释道。"随着AI工具越来越多地部署在编码、风险调整、使用管理和临床决策支持中，执法机构可能会关注AI驱动的报销结果，而这些结果无法在现有覆盖范围、文档和医疗必要性标准下得到支持。"
"使用AI并不会将责任从向联邦医疗计划提交索赔的提供商或健康计划转移，"他继续说道。"相反，大规模自动化增加了系统性错误的风险，例如嵌入式过度编码、不适当的拒赔或倾向于收入优化的算法偏差——所有这些都可能成为司法部《虚假申报法》审查以及CMS和HHS-OIG监督的肥沃土壤。"
他补充说，随着AI嵌入临床和运营工作流程，医疗系统面临更高的HIPAA风险，包括不透明的数据使用、未经授权的受保护健康信息(PHI)披露，以及AI供应商实践与长期隐私和安全义务之间的不一致。
歧视风险
沃茨堡指出，另一个风险是歧视，特别是当AI工具影响保险范围决定或临床决定时。
"一个被适当强调的领域是基于历史数据训练的算法，这些算法可能在种族、残疾、年龄或其他受保护类别中复制不平等——在民权法、医疗保险参与条件以及州保险和消费者保护法规下产生风险，"他解释道。
"医疗系统需要高度意识到由第三方开发和管理的AI系统以及供应商使用AI所带来的风险，"他继续说道。"即使决定是供应商技术的结果，提供商和计划仍需对监管合规、数据完整性和患者影响负责。"
他补充说，实体必须对供应商进行积极的尽职调查，确保有意义的审计和赔偿权利到位，并将AI监督整合到合规和质量计划中。
防御策略
沃茨堡表示，从医疗监管和报销的角度来看，为涉及AI的调查和案件进行辩护将较少关注技术本身，而更多关注组织能否在现有监管框架内证明善意合规。
"这些调查和案件的基本要素仍将集中在熟悉的潜在争议上，如支付方和提供商争议、《虚假申报法》、医疗保险支付和覆盖规则以及州保险法规，"他继续说道。"因此，可信的辩护将强调AI作为决策支持工具发挥作用，而不是临床判断或合规监督的替代品。"
"重要的是要证明AI的使用是基于记录的法律、法规、政策和标准，并辅以人工审查流程，"他补充道。"由于AI系统具有适应性、概率性，并且通常由供应商开发，组织可能会认为争议结果反映了新兴技术，而非明知或鲁莽的行为。"
他说，此类辩护的关键是证明勤奋、针对参与条件和支付、支付方规则的验证、持续监控，以及问题出现时的积极纠正行动。
有意义的监督
"最后，责任分配将发挥重要作用，"他指出。"提供商和计划将通过展示他们没有盲目依赖AI输出并保留了有意义的监督来防范责任，"他继续说道。"确保供应商安排保持透明和问责很重要。"
"同时，必须考虑监管的模糊性和不确定性，"他总结道。"行政法原则，例如指导和要求是通过次级监管指导而非通知和评论规则制定提供的，也应该被考虑。最终，医疗机构必须继续保持灵活，愿意随着不断发展的行业标准而改变。"
【全文结束】
