关注人工智能（AI）法律发展的人都在密切关注加州，该州目前有四项法案待州长签署，这些法案将影响AI的发展和使用。加州处于一群州的前列，这些州已经通过立法增加对AI系统开发和部署的透明度和监管，可能是第一个通过专门针对医疗保健提供者和支付者使用AI的立法的州。
详细内容：
两项法案特别关注医疗保健，并对医疗保健提供者（包括医疗机构、诊所、医生办公室或团体执业机构）和健康计划使用AI提出了要求：
- 众议院第3030号法案 要求医疗保健提供者在向患者提供由生成型AI生成的临床信息时，通过免责声明告知患者信息是由AI生成的。“生成型人工智能”被广泛定义为“可以生成衍生合成内容的人工智能，包括图像、视频、音频、文本和其他数字内容”。此外，免责声明还必须告知患者如何联系“人类医疗保健提供者”或医疗机构的员工。该免责声明必须包含在传统的书面通信中，如信件和电子邮件，以及基于聊天的技术中。与之前的版本不同，最终待签署的法案不要求如果由生成型AI生成的通信“由持证或认证的医疗保健提供者阅读和审查”，则不需要免责声明；如果医疗保健提供者实施涉及持证专业人士的AI审查流程，则不必包含免责声明。该法案旨在平衡医疗保健提供者的负担与患者希望了解信息是否由持证专业人士准备以及在有任何疑问时联系谁的愿望。这项法案类似于2023年底通过的犹他州法律。
- 参议院第1120号法案 实质上要求持证医师或持证医疗保健专业人员保留对每位健康服务计划成员或健康保险公司成员进行个性化医疗必要性决定的最终责任。虽然该法案还提出了一些其他要求，但主要要求之一是健康服务计划和健康保险公司不得使用AI工具“基于医疗必要性拒绝、延迟或修改医疗服务”。换句话说，医疗必要性的决定只能由持证医师或医疗保健专业人员做出。这项拟议的法律与CMS发布的关于Medicare Advantage计划使用AI进行临床覆盖决定的指导意见一致，后者要求决定基于个别患者的医疗历史和临床状况，并由医师或其他合适的提供者审查覆盖拒绝。这项法案与CMS的指导意见一样，旨在在允许计划利用AI提高利用审查效率的同时，确保有人类审查可能对计划成员产生不利影响的决定。
另外两项法案更广泛地涉及AI的使用，如果相关方是AI系统的开发者，这些法案将影响医疗保健利益相关者：
- 众议院第2013号法案 是一项透明度法案，要求生成型人工智能系统（定义略有不同）的开发者公开发布用于训练系统的数据信息，包括数据集的来源或所有者、数据集中的数据点数量、数据集中数据点类型的描述以及数据集是否包含个人信息。开发者被定义为“为公众成员”制作AI工具的人，具体排除了“医院的医务人员”，尽管排除的意图并不完全清楚。
- 参议院第1047号法案 规定了旨在减轻大型语言模型带来的安全和安保问题的一系列广泛要求。该法案不太可能适用于医疗保健利益相关者。涵盖的模型包括开发成本超过一亿美元或优化成本超过一千万美元的模型。对这些模型的开发者的要求包括全系统关闭功能；每年更新的安全协议和合规声明；年度第三方审计；以及在识别到任何安全事件后72小时内向州总检察长报告的要求。州总检察长可以对违反该法律的开发者提起民事诉讼。
下一步是什么？
州长必须在2024年9月30日前签署或否决这些法案；如果在该日期前未签署或否决，这些法案将在没有州长签名的情况下成为法律。在加州运营的医疗保健提供者、计划和AI开发者都在期待州长的决定。即使加州今年不通过这些法律，我们预计2025年当州议会开始下一次会议时，将有更多州引入类似AB 3030和SB 1120的法律。我们将继续密切关注各州议会推进对医疗保健有重大影响的法案的情况。
1 “人工智能”被定义为“一个工程化或基于机器的系统，其自主程度不同，可以根据输入推断如何生成影响物理或虚拟环境的输出。”
2 “生成型人工智能”被定义为“可以生成衍生合成内容的人工智能，例如文本、图像、视频和音频，模仿人工智能训练数据的结构和特征。”
3 “开发者”被定义为执行覆盖模型初始训练的人，无论是通过使用足够的计算能力和成本来训练模型，还是通过使用超过SB 1120(e)条款规定的数量的计算能力和成本来微调现有覆盖模型或覆盖模型衍生产品。
(全文结束)
