2024年11月25日，伊利诺伊州立法机构引入了众议院第5918号法案（IL HB5918），即《人工智能系统在健康保险中的使用法案》（以下简称“AI法案”）。该法案赋予伊利诺伊州保险部（以下简称“保险部”）对使用人工智能进行影响消费者的决定的保险公司进行监管的权力。拟议的法案还授予保险部根据《伊利诺伊州行政程序法》采用规则（包括紧急规则）以实施和管理AI法案的权力。
AI法案要求对使用人工智能系统的监管和披露。监管的重点是使用人工智能进行或支持可能影响消费者的不利决定。
AI法案使保险部能够监督所有在伊利诺伊州运营的保险公司的行为，包括保险公司开发、实施和使用由人工智能驱动的模型进行保险覆盖决定的行为。根据该法案，此类行为将受到调查或市场行为行动的审查。该法案扩大了保险部的调查工具，使其可以（1）进一步询问有关特定模型、人工智能系统或模型或人工智能系统的应用的相关问题；（2）还可以要求提供关于人工智能系统治理、风险管理、人工智能使用协议、保险公司预收购和预使用尽职调查、第三方开发的数据或人工智能系统的监控和审计，以及与保险公司人工智能系统计划的实施和合规相关的信息和文件。
对于在伊利诺伊州运营的保险公司，AI法案禁止保险公司仅依靠人工智能系统或预测模型作出拒绝、减少或终止福利或保险计划的不利消费者结果。当涉及人工智能系统或预测模型时，保险公司必须对这些决定进行有意义的审查。
为了增强透明度并促进消费者信任，保险部有权制定规则，要求保险公司披露其人工智能使用情况。虽然AI法案本身没有详细说明这些规则，但保险部有权限制定要求全面和公平披露保险公司人工智能使用方式和内容的规则。
获得授权在伊利诺伊州开展业务的保险公司必须遵守AI法案。任何涉及高级分析和计算技术（包括人工智能系统和机器学习）并影响消费者的决定，都要求保险公司遵守适用的联邦和州法律、法规和规则，包括保险法律和处理不公平贸易行为和不公平歧视的法律。
尽管AI法案目前是一项拟议法案，但医疗保险和医疗补助服务中心（以下简称“CMS”）已于2023年4月发布了一项最终规则，该规则于2024年1月生效。CMS的最终规则明确指出，医疗保险优势计划必须基于参保者的具体情况作出医疗必要性决定，而不能依赖算法。此外，此类决定必须由医生或适当的医疗保健专业人员进行审查。
随着越来越多的法律和法规进入保险人工智能领域，保险公司需要仔细审查其合规计划和政策，并调整其运营。使用人工智能及其算法存在诸多风险，人工智能在医疗保健和保险行业的日益广泛使用引发了对其决策不透明性的重大担忧。此外，对人工智能模型在理赔裁决、覆盖决定和定价方面的依赖增加，可能导致消费者因不清楚或难以理解的因素而被拒绝保险或福利。
随着对健康保险公司公众审查的增加，针对人工智能的诉讼可能性也将增加。在不断演变和动态的保险监管法律环境中，保险公司需要其法律团队协助审查、维护和更新其人工智能政策。
(全文结束)
