当91岁的吉恩·洛克肯三年前在家中摔倒并骨折后，他被送往威斯康星州当地的一家医院，随后由于虚弱且持续疼痛，又被送入一家疗养院。他在那里开始接受物理治疗，并逐渐恢复，但几周后他的保险公司拒绝继续报销他在该设施的护理费用。
尽管医生和护理人员建议继续护理，并且洛克肯提出了申诉，但联合健康保险公司仍拒绝支付他在该设施的进一步费用。这使得他的家人不得不每月承担超过12,000美元的费用，直到一年后他去世。
洛克肯的家庭以及其他七个家庭正处于多起正在进行的集体诉讼和调查的核心，这些诉讼和调查声称健康保险公司使用人工智能（AI）来推翻医生的判断并拒绝覆盖费用——尽管算法在评估患者需求时存在高错误率。
这些行动突显了虽然AI在医疗保健中变得越来越普遍，并且具有巨大的潜在益处——如快速可靠的临床诊断和加速药物开发——但它也带来了显著的风险和负面影响。
被告联合健康保险公司是美国最大的保险公司，其UnitedHealthcare业务为5300万美国人提供健康保险计划。批评声音还涉及其他大型保险公司，包括Humana，尽管这个问题对联合健康保险公司尤为敏感。去年12月，该公司UnitedHealthcare部门的首席执行官布莱恩·汤普森在纽约被枪杀，引发了关于不公平拒赔的激烈辩论，尽管被指控的枪手及其家人并不是该公司的客户。
该保险公司拥有并向竞争对手销售一种名为nH Predict的计算机模型，由其子公司NaviHealth开发。原告称，这种AI不准确地决定了应报销的护理天数，并限制了员工的否决权。联合健康保险公司及其子公司UnitedHealthcare否认这些指控，并计划在3月底对诉讼作出回应。
对于AI使用的担忧已经足以促使前美国总统乔·拜登政府在2023年引入与保险公司、付款人和供应商的自愿运营协议。2024年，这一举措通过一项关于标准、指南和防护措施的行政命令得到加强。
负责监督联邦医疗保险系统的医疗保险和医疗补助服务中心（CMS）在2023年底发布了指导方针，要求医疗保险优势计划基于“个人的具体情况”做出决定，“而不是使用不考虑个人情况的算法或软件”。其评估“必须由医生或其他适当的医疗专业人员审查”。
此外，美国参议院的一个调查委员会于去年10月强调，在医疗保险优势计划下，对“急性后护理”（如洛克肯的康复治疗）的“预授权”报销拒绝率正在上升。
“许多最让患者和医疗服务提供者感到沮丧的问题仍然笼罩在不确定性中。特别是保险公司在自动化和预测技术方面的使用。”报告总结道。
联合健康保险公司一直在对抗洛克肯领导的诉讼，并驳斥其主张，该公司在一份声明中表示，这些主张“基于毫无根据的指控，并歪曲了我们经验丰富的富有同情心的临床医生所做的极其有价值的工作。覆盖决定仅由医学主任做出——不是由AI做出——符合CMS的医疗保险标准。”
该公司表示，它支付了98%的所有有效索赔，而只有0.5%的索赔因临床证据和患者安全原因被拒绝。它称参议院的报告“完全是党派性的”，并且“歪曲了医疗保险优势计划和我们的临床实践，同时忽略了CMS要求对急性后护理进行更严格审查的标准。”
然而，其他人也对AI在医疗报销中的部署提出了更广泛的担忧。《美国医学会健康论坛杂志》的作者认为：“机器学习方法的应用加剧了一些赔付拒绝的问题，尤其是决策的不透明性。即使开发者也可能不知道为什么其AI算法做出了特定的推荐。”
芝加哥大学NORC研究中心为全国保险专员协会消费者代表撰写的报告称：“AI的支持者引用了减少行政负担和加快审批速度的好处。然而，必须考虑一些风险，如现有偏见的加剧、错位激励的优先化以及在原始用途或设计之外使用技术导致的意外伤害。”
全国保险专员协会在2023年12月发布了一份关于保险公司使用人工智能的示范公告，提醒保险公司，由AI支持的决策或行动“必须遵守所有适用的保险法律和法规”。
该协会目前正在调查健康保险公司在使用AI和机器学习方面的情况，以便更好地了解并适当监控健康保险公司实施这项技术的情况。
NORC在11月提交给监管机构的文件中指出，美国一些州已经开始对健康保险中的AI进行监管，但大多数“未能跟上AI使用的激增”，并呼吁提高透明度并将人类洞察力嵌入技术使用中。
政治斗争远未结束。今年1月，新任特朗普政府废除了拜登的AI命令，取而代之的是要求在年中提出新的行动计划。
正如Maynard Nexsen律师事务所的分析所述：“AI领域仍在不断发展，监管似乎正在放松——至少在联邦层面。这些变化导致使用AI技术的组织感到不确定。”
(全文结束)