加利福尼亚州州长纽森签署了参议院第1120号法案，该法案被称为“医生做决定法”。该法案旨在通过要求支付方在使用AI评估所需医疗服务的医疗必要性及相应覆盖范围时，确保一定水平的医疗服务提供者监督，从而保障患者获得治疗的途径。
通常，健康计划会使用一种称为利用管理的过程，即计划审查服务请求（也称为预先授权请求），以努力将保险福利的使用限制在医学上必要的服务，并避免不必要的治疗成本。越来越多的健康计划依赖于AI来简化内部操作，包括自动化预先授权请求的审查。特别是，AI在降低成本以及解决预先授权请求响应滞后方面显示出一定的潜力。尽管如此，AI的使用也引发了挑战，例如关于AI产生不准确、有偏见或最终导致错误拒绝索赔结果的担忧。许多这些担忧基于监督的问题，而这正是该法案旨在解决的核心问题。
首先，该法案适用于健康护理服务计划及其与之签订合同的服务实体，这些实体包括利用审查或利用管理职能（统称为“受监管方”）。根据该法案，“健康护理服务计划”包括由加利福尼亚州医疗保健管理部（简称“DMHC”）许可的健康计划。值得注意的是，该法案纳入了多项具体要求，适用于受监管方使用具有利用审查或利用管理功能的AI工具，主要包括：
- AI工具必须基于以下内容做出关于医疗必要性的决定：
- 参保人的医疗或其他临床历史；
- 请求提供者的参保人临床情况；
- 参保人的医疗或其他临床记录中包含的其他相关临床信息。
- AI工具不能仅基于一组数据集做出决定。
- AI工具不能替代医疗服务提供者的决策。
- AI工具不得直接或间接歧视参保人，违反联邦或州法律。
- AI工具必须公平、公正地应用。
- AI工具，特别是其算法，必须接受DMHC的审计或合规检查。
- 使用AI工具得出的结果必须定期审查和评估，以确保符合该法案并确保准确性和可靠性。
- AI工具的使用必须限于符合加州《医疗信息保密法》和HIPAA的要求。
- AI工具不得直接或间接对参保人造成伤害。
此外，受监管方必须在其书面政策和程序中包含有关AI使用和监督的披露，这些政策和程序规定了其审查和批准、修改、延迟或基于医疗必要性部分或全部拒绝医疗服务提供者为参保人提出的请求的过程。
最重要的是，该法案规定，只有持证医生或有能力评估请求医疗服务涉及的具体临床问题的持证医疗服务提供者才能做出医疗必要性的决定。换句话说，最终责任在于提供者，AI不能取代提供者的角色。
该法案可能是医疗保健领域AI相关法规发展的冰山一角。尤其是，AI的使用可能产生巨大的现实后果。例如，如果AI工具在利用管理活动中导致错误结果，从而不当拒绝福利，患者可能无法获得覆盖医学上必要的服务，并可能遭受不良健康后果。同样，当医疗服务提供者认为健康计划不当拒绝了索赔时，健康计划和提供者之间可能会出现纠纷，这在AI工具采用了影响大量索赔的决策模式时尤为突出。所有这些都可能对患者、提供者和健康计划产生巨大影响。
(全文结束)
