在过去十年中，健康保险公司越来越多地采用人工智能算法。与医生和医院使用人工智能帮助诊断和治疗患者不同，健康保险公司使用这些算法来决定是否支付患者医生推荐的医疗服务费用。
一个最常见的例子是事先授权（prior authorization），即你的医生在为你提供医疗服务之前需要获得你保险公司的付款批准。许多保险公司使用算法来决定所请求的护理是否“医学必要”并应予以覆盖。
这些人工智能系统还帮助保险公司决定患者有权获得多少护理——例如，患者手术后可以在医院接受多少天的护理。
如果保险公司拒绝支付你医生推荐的治疗费用，你通常有三种选择。你可以尝试对这一决定提出上诉，但这个过程可能需要大量时间和金钱，以及专家的帮助。只有每500起被拒赔的索赔中约有1起被上诉。你可以选择保险公司愿意承保的其他治疗方案。或者你可以自费支付推荐的治疗费用，但由于高昂的医疗成本，这通常是不现实的。
作为一名研究健康法律与政策的法律学者，我担心保险算法如何影响人们的健康。就像医生和医院使用的人工智能算法一样，这些工具有可能改善护理并降低成本。保险公司表示，人工智能有助于他们快速而安全地决定哪些护理是必要的，并避免浪费性或有害的治疗。
但有强有力的证据表明，情况可能恰恰相反。这些系统有时被用来拖延或拒绝本应覆盖的护理，这一切都是为了节省资金。
拒绝提供护理的模式
据推测，公司会将患者的医疗记录和其他相关信息输入到医疗保险覆盖算法中，并将其与当前的医疗护理标准进行比较，以决定是否覆盖患者的索赔。然而，保险公司拒绝披露这些算法的工作原理，因此无法确切知道它们在实践中是如何运作的。
使用人工智能来审核保险覆盖范围为保险公司节省了时间和资源，尤其是这意味着需要审查每个案件的医疗专业人员减少了。但对保险公司的财务利益并不仅限于此。如果一个人工智能系统迅速拒绝了一项有效的索赔，而患者提出上诉，那么上诉过程可能需要数年时间。如果患者病情严重且预计很快死亡，保险公司可能会通过拖延流程来节省资金，希望患者在案件解决之前去世。
这引发了一个令人不安的可能性，即保险公司可能会使用算法来拒绝为昂贵、长期或晚期健康问题（如慢性病或其他使人衰弱的残疾）提供护理。一位记者直言不讳地指出：“许多老年人一生都在缴纳医疗保险，现在却面临截肢或癌症，被迫自费支付医疗费用或放弃治疗。”
研究支持了这一担忧——患有慢性疾病的患者更有可能被拒绝保险覆盖并因此受苦。此外，黑人、西班牙裔和其他非白人种族的人，以及自认为是女同性恋、男同性恋、双性恋或跨性别者的人，更有可能经历索赔被拒。一些证据还表明，事先授权可能增加而非减少医疗系统的成本。
保险公司辩称患者总是可以自费支付任何治疗费用，因此他们并没有真正被拒绝护理。但这种论点忽略了现实。这些决定对人们的健康有严重后果，尤其是在人们无力承担所需护理费用时。
迈向监管
与医疗算法不同，保险人工智能工具基本上不受监管。它们不需要经过美国食品药品监督管理局（FDA）的审查，而且保险公司通常表示其算法是商业机密。
这意味着公众无法获得这些工具如何做出决策的信息，也没有外部测试来检验它们是否安全、公平或有效。没有同行评审的研究来展示它们在现实世界中的实际效果。
似乎确实有一些变革的势头。负责管理医疗保险和医疗补助的联邦机构——美国医疗保险和医疗补助服务中心（CMS）最近宣布，医疗保险优势计划（Medicare Advantage）中的保险公司必须根据个别患者的需求做出决定——而不仅仅是基于通用标准。但这些规则仍然允许保险公司制定自己的决策标准，而且它们仍然不要求在使用前进行任何外部测试以证明其系统有效。此外，联邦规则只能监管联邦公共健康计划，如医疗保险。它们不适用于不提供联邦健康计划覆盖的私人保险公司。
一些州，包括科罗拉多州、佐治亚州、佛罗里达州、缅因州和德克萨斯州，已经提出法律来约束保险人工智能。一些州已经通过了新法律，包括2024年加利福尼亚州的一项法律，要求由持牌医生监督保险覆盖算法的使用。
但大多数州法律与新的CMS规则一样存在同样的弱点。它们在保险公司手中留下了太多控制权，让他们决定如何定义“医学必要”以及在什么情况下使用算法来做覆盖决策。它们也没有要求这些算法在使用前由中立专家进行审查。而且，即使有强有力的州法律也未必足够，因为各州通常无法监管医疗保险或在本州以外运营的保险公司。
美国食品药品监督管理局（FDA）的角色
在许多健康法律专家看来，保险公司行为与患者需求之间的差距已经变得如此之大，以至于监管健康保险覆盖算法现在已势在必行。正如我在即将发表在《印第安纳法律杂志》（Indiana Law Journal）的一篇文章中所论述的那样，FDA非常适合承担这一职责。
FDA由医疗专家组成，他们有能力在算法用于做出覆盖决策之前对其进行评估。该机构已经审查了许多医疗人工智能工具，以确保其安全性和有效性。FDA的监管还将提供一个统一的全国监管体系，而不是全国各地零散的规则。
一些人认为FDA在此方面的权力有限。根据FDA的监管定义，医疗器械是指“用于疾病或其他状况的诊断，或用于疾病治疗、缓解、治疗或预防的仪器”。由于健康保险算法并不用于诊断、治疗或预防疾病，国会可能需要修改医疗器械的定义，以便FDA能够监管这些算法。
如果FDA当前的权限不足以涵盖保险算法，国会可以修改法律赋予其这一权力。与此同时，CMS和各州政府可以要求对这些算法进行独立测试，以确保其安全性、准确性和公平性。这也可能促使保险公司支持一个统一的国家标准——比如FDA监管——而不是面临全国各地零散的规则。
显然，对健康保险公司如何在确定保险覆盖范围时使用人工智能的监管已经开始，但仍然需要强有力的推动。患者的性命确实悬于一线。
【全文结束】
