在过去十年中，健康保险公司越来越多地采用人工智能算法。与医生和医院使用AI来帮助诊断和治疗患者不同，健康保险公司使用这些算法来决定是否支付医生推荐的医疗护理和医疗服务。
最常见的例子之一是预先授权，即在提供医疗服务之前，医生需要从保险公司获得支付批准。许多保险公司使用算法来决定所请求的护理是否“医学上必要”并应被覆盖。
这些AI系统还帮助保险公司决定患者有权获得多少护理——例如，手术后患者可以在医院住院多少天。
如果保险公司拒绝支付医生推荐的治疗费用，患者通常有三个选择。你可以尝试申诉该决定，但这个过程可能需要大量的时间和金钱，并且需要专家的帮助。只有约五百分之一的索赔被申诉。你可以同意接受保险公司会覆盖的不同治疗。或者你可以自费支付推荐的治疗费用，但由于高昂的医疗费用，这通常是不现实的。
作为一名研究健康法律和政策的法律学者，我非常关注保险算法如何影响人们的健康。就像医生和医院使用的AI算法一样，这些工具有可能改善护理并降低成本。保险公司表示，AI有助于他们快速、安全地决定哪些护理是必要的，并避免浪费或有害的治疗。
然而，有强有力的证据表明，情况可能恰恰相反。这些系统有时被用来延迟或拒绝本应被覆盖的护理，所有这些都是为了节省资金。
一种拒绝护理的模式
假设公司将患者的医疗记录和其他相关信息输入到医疗覆盖算法中，并将这些信息与当前的医疗标准进行比较，以决定是否覆盖患者的索赔。然而，保险公司拒绝披露这些算法是如何做出这些决定的，因此无法确切地说它们在实践中是如何运作的。
使用AI审查覆盖范围可以为保险公司节省时间和资源，尤其是因为这意味着需要更少的医疗专业人员来审查每个案件。但对保险公司的财务好处并不止于此。如果一个AI系统迅速拒绝了一个有效的索赔，而患者提出申诉，那么申诉过程可能需要数年时间。如果患者病情严重且预期寿命较短，保险公司可能会通过拖延过程来节省资金，希望患者在案件解决之前去世。
保险公司表示，如果他们拒绝覆盖某种医疗干预，患者可以选择自费支付。
这引发了令人不安的可能性，即保险公司可能会使用算法来拒绝昂贵、长期或终末期健康问题的护理，如慢性病或其他致残性疾病。一位记者直言不讳地指出：“许多一生都在缴纳医疗保险的老年人现在面临截肢或癌症，被迫要么自费支付护理费用，要么放弃治疗。”
研究支持这一担忧——患有慢性病的患者更容易被拒绝覆盖，并因此遭受损失。此外，黑人、西班牙裔和其他非白人种族的人，以及认同为同性恋、双性恋或跨性别者的人，也更有可能经历索赔被拒。一些证据还表明，预先授权可能会增加而不是减少医疗系统的成本。
保险公司认为，患者总是可以自费支付任何治疗费用，因此他们并没有真正被拒绝护理。但这种论点忽略了现实。这些决定对人们的健康有严重的后果，特别是当人们负担不起所需的护理时。
走向监管
与医疗算法不同，保险AI工具基本上不受监管。它们不需要经过食品药品监督管理局（FDA）的审查，保险公司通常声称他们的算法是商业秘密。
这意味着没有关于这些工具如何做决策的公开信息，也没有外部测试来验证它们是否安全、公平或有效。没有任何同行评审的研究来证明它们在实际应用中的效果。
似乎有一些改变的势头。负责管理医疗保险和医疗补助计划的联邦机构——医疗保险和医疗补助服务中心（CMS）最近宣布，医疗保险优势计划中的保险公司必须基于个别患者的需求做出决定——而不仅仅是基于通用标准。但这些规则仍然允许保险公司制定自己的决策标准，并且仍然不要求在使用前进行外部测试以证明其系统有效。此外，联邦规则只能监管联邦公共健康计划，如医疗保险，而不适用于不提供联邦健康计划覆盖的私人保险公司。
包括科罗拉多州、佐治亚州、佛罗里达州、缅因州和得克萨斯州在内的一些州已经提出了限制保险AI的法律。其中一些州已经通过了新法律，包括2024年加利福尼亚州的一项法规，要求由持照医生监督保险覆盖算法的使用。
但大多数州法律都存在与新的CMS规则相同的弱点。它们赋予保险公司太多权力来定义“医学必要性”并在什么情况下使用算法进行覆盖决策。它们也不要求这些算法在使用前由中立专家进行审查。即使强大的州法律也不够，因为各州通常无法监管医疗保险或在其边界外运营的保险公司。
FDA的作用
许多健康法律专家认为，保险公司行为与患者需求之间的差距已经变得如此之大，以至于监管医疗覆盖算法现在变得至关重要。正如我在即将发表于《印第安纳法律杂志》的一篇文章中所论证的那样，FDA在这方面处于有利地位。
FDA配备了能够评估保险算法在用于做出覆盖决定之前的医疗专家。该机构已经审查了许多医疗AI工具的安全性和有效性。FDA的监管还将提供一个统一的全国性监管方案，而不是全国各地的拼凑规则。
有些人认为FDA在这方面的权力有限。根据FDA的监管目的，医疗器械被定义为“用于诊断疾病或其他状况，或用于治愈、缓解、治疗或预防疾病的仪器”。由于健康保险算法不用于诊断、治疗或预防疾病，国会可能需要修改医疗器械的定义，以便FDA能够监管这些算法。
如果FDA目前的权力不足以覆盖保险算法，国会可以通过修改法律来赋予它这种权力。同时，CMS和州政府可以要求对这些算法进行独立测试，以确保其安全性、准确性和公平性。这可能会促使保险公司支持单一的国家标准——如FDA监管——而不是面对全国各地的拼凑规则。
很明显，已经开始朝着监管健康保险公司如何使用AI来确定覆盖范围的方向迈进，但还需要强有力的推动。患者的生命实际上悬而未决。
(全文结束)
