各州正努力限制健康保险公司对人工智能的使用，与此同时，患者和医生则装备了AI工具来对抗索赔拒付、事先授权和不断上涨的医疗费用。多家企业和非营利组织已推出人工智能工具，帮助患者获得保险索赔支付并应对复杂的医疗账单，从而在谁获得医疗服务以及谁为这些服务买单的问题上形成了一场机器人拉锯战。
成立三年的Sheer Health公司帮助患者和医疗服务提供者处理健康保险和账单事务，该公司现已推出一款应用程序，允许消费者连接其健康保险账户、上传医疗账单和索赔单，并就免赔额、共付额和保险覆盖福利提出疑问。
"你会以为应该有某种技术能用简单的英语解释为什么我收到一张1500美元的账单，"联合创始人杰夫·维滕表示。他说，该程序免费提供人工智能和人工双重支持来解答这些问题。需要额外支持来挑战被拒付索赔或处理网络外报销的患者可以付费让Sheer Health代为处理。
在北卡罗来纳州，非营利组织Counterforce Health设计了一款AI助手，帮助患者申诉被拒付的健康保险索赔并应对大额医疗账单。这项免费服务使用AI模型分析患者的拒付通知，然后查阅患者的保险政策和外部医学研究，起草定制化的申诉信。
其他面向消费者的服务则利用AI捕捉计费错误或解析医学术语。一些患者甚至开始使用Grok等AI聊天机器人寻求帮助。
凯泽家庭基金会(KFF)于2024年8月发布的民调显示，四分之一30岁以下的成年人表示他们每月至少使用一次AI聊天机器人获取健康信息或建议。但大多数成年人表示，他们对这些健康信息的准确性缺乏信心。
与此同时，两党州立法者正争先恐后地制定新规，规范保险公司、医生和其他人在医疗保健中使用AI的方式。咨询公司Manatt的数据显示，今年已有十几个州通过了监管医疗保健AI的法律。
"让两个机器人就患者是否应获得某种特定医疗服务来回争论，这感觉不是令人满意的解决方案，"哈佛大学法学院健康法律与政策诊所助理临床教授兼教务主任卡梅尔·沙查尔表示，"我们不想陷入AI驱动的跑步机困境，只是不断加速。"
黑箱系统
医疗保健系统就像一个黑箱。例如，如果医生说你需要手术，费用取决于众多令人眼花缭乱的因素，包括你的健康保险提供商、具体的健康计划、共付要求、免赔额、你居住的地区、手术实施的医疗机构、该机构和你的医生是否在保险网络内，以及你的具体诊断。
某些保险公司可能要求在手术获批前进行事先授权，这可能需要大量的医疗文件。手术后，产生的账单可能难以解读。
Sheer Health的维滕表示，他的公司已发现数千例患者案例：医生建议某种手术程序后，患者却在手术前几天才得知保险未予批准。
近年来，随着越来越多的健康保险公司转向AI自动化处理索赔和事先授权，被拒付索赔的比例有所上升。征信公司益佰利(Experian)9月的报告显示，今年41%的医生和其他医疗服务提供者表示其索赔被拒付率超过10%，而三年前这一比例为30%。
根据凯泽家庭基金会(KFF)最新可用数据，2023年，平价医疗法案市场上的保险公司拒付了近五分之一的网络内索赔（2021年为17%），以及超过三分之一的网络外索赔。
联合健康集团(UnitedHealth Group)因使用算法系统性拒绝为老年人提供医疗服务而受到媒体和联邦立法者的批评，而Humana等其他保险公司则面临诉讼和监管调查，指控他们使用复杂算法阻止或拒付医疗程序的保险。
保险公司表示，AI工具可以通过自动化涉及分析大量数据的任务来提高效率并降低成本。公司表示他们正在监控其AI以识别潜在问题。联合健康的一位代表向Stateline指出该公司的AI审查委员会，这是一个由临床医生、科学家和其他专家组成的团队，负责审查其AI模型的准确性和公平性。
"健康计划致力于负责任地使用人工智能，为客户提供更顺畅、实时的客户体验，并使索赔管理对患者和医疗服务提供者来说更快、更有效，"代表健康保险公司的全国贸易组织美国健康保险计划(America's Health Insurance Plans)的一位发言人告诉Stateline。
但各州正在加强监督。
例如，亚利桑那州、马里兰州、内布拉斯加州和德克萨斯州已禁止保险公司将AI作为事先授权或医疗必要性拒付的唯一决策者。
阿文德·文卡特是匹兹堡地区的急诊室医生，同时也是宾夕法尼亚州民主党众议员，他是一份两党法案的主要提案人，旨在监管AI在医疗保健中的使用。
他表示，在他25年的从医生涯中，他见证了新技术重塑医疗保健，但AI感觉完全不同。AI是"人们医疗护理中的积极参与者"，这是其他技术所不具备的。
"如果我们能够利用这项技术来改善临床护理的提供和效率，这将是一个巨大的胜利，"文卡特表示。但他对缺乏约束的AI使用表示担忧。
他的立法将迫使宾夕法尼亚州的保险公司和医疗服务提供者在使用AI方面更加透明；要求在任何使用AI的情况下由人类做出最终决定；并强制他们证明已最小化AI使用中的偏见。
"在医疗保健领域，这关系到个人且风险极高，我们必须确保在每位患者的案例中，我们以关注个体患者的方式应用人工智能，"文卡特表示。
患者监督
历史上，消费者很少挑战被拒付的索赔：KFF分析发现，不到1%的健康保险拒付被申诉。即使提出申诉，患者在超过一半的申诉中也会失败。
新的面向消费者的AI工具可能通过简化申诉流程和提高过程的可理解性来改变这一动态。但专家表示，这些工具存在局限性；没有人工监督，AI容易出错。
"外行可能很难理解AI何时在做好工作，何时在产生幻觉或提供不太准确的信息，"哈佛大学法学院的沙查尔表示。例如，AI工具可能起草一封患者认为看起来很专业的申诉信。但由于大多数患者不是医学专家，他们可能无法识别AI是否错误陈述了医疗信息，从而破坏申诉，她说。
"挑战在于，如果患者是推动这一过程的人，他们能否适当监督AI？"她表示。
今年早些时候，马修·埃文斯在预定的背部手术前48小时才得知保险公司不会为其提供保障。这位68岁的佛罗里达州公关高管与他的医生一起提出申诉，但毫无进展。他使用AI聊天机器人起草了一封给保险公司的信，但同样失败了。
在儿子的建议下，埃文斯转向Sheer Health。他表示，Sheer Health发现了他医疗记录中的编码错误，并负责与保险公司沟通。大约三周后，手术获得批准。
"不幸的是，公共卫生系统如此糟糕，需要第三方代表患者进行干预，"埃文斯表示。但他很感激这项技术使他能够获得改变生活的手术。
"AI本身并非答案，"他表示。"当AI被理解特定问题及其后果的专业人士使用时，那就是另一回事了。然后你就拥有了一个有效的工具。"
大多数专家和立法者一致认为，需要人类来约束机器人。
AI使保险公司能够快速评估案例并决定是否授权手术或覆盖特定医疗服务。但文卡特表示，这种闪电般快速的决策能力应该由人类来平衡。
"这就是为什么我们需要政府监管，为什么我们需要确保强制要求由人类决策者进行个性化评估。"
维滕表示，在某些情况下AI效果良好，例如当它梳理保险政策（本质上是公司与消费者之间的合同）并将政策覆盖范围与相应保险索赔联系起来时。
但他说，"有些复杂案例是AI根本无法解决的。"这时就需要人类进行审查。
"我认为AI有巨大机会改善患者体验和整体医疗服务提供者体验，"维滕表示。"我担心的是当保险公司或其他参与者使用AI完全取代客户支持和人工互动时。"
此外，越来越多的研究发现，AI可能强化医学中已有的偏见，歧视女性、种族和少数民族以及公共保险持有者。
"人工智能的结论可能强化歧视性模式，并以我们已经立法禁止的方式侵犯隐私，"文卡特表示。
【全文结束】
