加州健康保险公司将被禁止仅依赖人工智能来拒绝索赔，这是州参议员Josh Becker（民主党-Menlo Park）提出的一项新立法，该法案将于下月生效。这项名为SB 1120的立法旨在打击大型保险公司用来提高拒赔效率的一种机制。这一话题在12月4日保险巨头UnitedHealthcare首席执行官Brian Thompson在曼哈顿中城被枪杀后受到了更多公众关注。警方认为，据称的枪手Luigi Mangione因对全国健康保险行业的敌意而行凶。UnitedHealthcare是因使用AI拒绝索赔而面临集体诉讼和媒体审查的保险巨头之一。
贝克尔的法案被称为“医生做决策法”，规定任何基于医疗必要性的拒赔、延迟或修改护理决定都必须由持牌医生进行审查。贝克尔在声明中表示，尽管人工智能在提升医疗保健交付方面具有巨大潜力，“但它永远不应取代医生的专业知识和判断。”
“算法无法完全理解患者的独特病史或需求，其滥用可能导致灾难性后果。SB 1120确保人类监督始终处于医疗决策的核心，保障加州居民获得应得的优质医疗服务，”贝克尔说。
今年夏天，贝克尔的法案在州议会获得了压倒性的支持，并于9月28日由州长加文·纽森签署成为法律。该法案由代表约50,000名医生的加州医学协会赞助。UC Davis Health急诊医学的医生Anna Yap博士在6月份的一次听证会上表示，医生多年来一直在使用人工智能协助诊断和测试。
例如，AI模型可以检测癌症。但Yap表示，虽然医生用于制定治疗方案的AI模型需经过食品和药物管理局的评估，保险公司使用的工具却未受到同样的审查。
“总的来说，医生对医疗保健中AI的潜力持乐观态度，但我们也要保证它以安全、负责任和道德的方式为患者服务，”Yap说。
贝克尔在今年早些时候的委员会听证会上辩称，该法案是应对保险行业日益增长的人工智能使用所需的必要保障。健康保险公司越来越多地转向算法来简化理赔处理和事先授权请求。Bloomberg Law今年早些时候报道称，Humana、Cigna和UnitedHealthcare等保险公司正面临消费者因使用先进技术拒绝索赔而提起的集体诉讼。
一起针对Humana的集体诉讼在肯塔基州提起，指控该公司使用名为nH Predict的计算机程序通过拒绝本应支付的索赔来节省资金，并消除雇佣医生进行个别审查所需的人力成本。该程序由nH Predict的母公司UnitedHealth Group开发。
“Humana还利用nH Predict AI模型积极拒绝覆盖，因为他们知道不会因错误拒赔而承担责任，”诉讼声称。
另一起在明尼苏达州针对UnitedHealthcare的集体诉讼称，这家保险巨头使用其AI模型拒绝索赔是一种“欺诈行为”，使被告“在无需支付承诺的护理费用的情况下获得明显的经济利益，而老年人则被迫提前离开护理设施或耗尽家庭储蓄以继续接受必要的医疗护理，仅仅因为AI模型‘不同意’他们的真实医生的决定。”
过去一年，立法者对使用算法拒绝护理的做法越来越担忧。10月，美国参议院民主党人在一份报告中批评了Medicare Advantage，这是一种政府与私人公司合作管理健康计划的医疗保险替代方案。健康保险公司基于AI算法拒绝医疗护理的做法也是STAT News调查的主题，该调查去年报道称，UnitedHealthcare高管曾向公司医疗人员施压，要求他们根据计算机算法的计算切断对重症患者的付款。
10月的报告由美国参议院常设调查小组委员会发布，引用了STAT的调查，并特别指出NaviHealth使用人工智能“为各种住院设施的患者设定住院时间，在某些情况下甚至决定这些患者是否应该入院。”该报告建议，联邦医疗保险和医疗补助服务中心应扩大监管，确保预测技术不会对人工审核员产生“不当影响”。
“即使预测技术仅用于批准请求，审核案件的护士和医生也可能面临压力，盲目接受算法和人工智能的建议，”报告称。
确保医生在拒绝护理中有发言权也是贝克尔法案的目标。在6月份关于SB 1120的听证会上，贝克尔表示，虽然人工智能工具有能力改善护理的可及性，但它们因“不准确和偏见”而受到批评，引发了对监管的呼吁。
“针对公司的诉讼称，他们使用AI错误地拒绝了成千上万患者的基本护理，”贝克尔告诉众议院健康常务委员会。
(全文结束)
