加州州长加文·纽森签署的《医疗保健服务中的人工智能法案》对使用生成式人工智能工具生成患者沟通信息的加州医疗保健提供者提出了新的要求。这项法律为加州医疗保健提供者部署生成式人工智能（GenAI）以接触患者引入了新的保护措施，也是加州更广泛努力监管快速增长的生成式人工智能（GenAI）行业的一部分。开发旨在供加州医疗保健提供者使用的生成式人工智能工具的开发者需要关注新立法，并可能需要与其医疗保健提供者客户协调，以支持这些新要求的合规性。
AB 3030 的要求
《医疗保健服务中的人工智能法案》（AB 3030）要求，对于使用生成式人工智能生成的涉及患者临床信息的患者沟通信息，必须提供免责声明，声明该信息是由生成式人工智能创建的，并提供明确的指示，说明患者如何联系人类医疗保健提供者。具体来说，该法律适用于任何使用生成式人工智能生成“涉及患者临床信息的书面或口头患者沟通”的加州医疗机构、诊所、医生办公室或团体执业办公室。
这些来自医疗保健提供者的生成式人工智能沟通还必须提供明确的指示，说明患者如何联系人类医疗保健提供者、设施员工或其他合适人员。值得注意的是，AB 3030的要求适用于每次涉及临床信息的生成式人工智能沟通，无论患者之前是否已经收到过生成式人工智能沟通。AB 3030还包括关于书面、音频和视频沟通中免责声明放置的具体要求。
根据AB 3030，只有特定的生成式人工智能沟通需要免责声明和/或联系合适人类的指示。最重要的是，如果沟通信息在发布前由获得许可或认证的医疗保健提供者阅读和审查，则AB 3030不适用。该法律也不影响与患者临床信息无关的生成式人工智能沟通，例如预约安排或账单沟通。
AB 3030 背景
AB 3030紧随政府在人工智能领域的活动之后，包括：
- 州长纽森2023年的州行政命令，研究人工智能技术的发展、使用和风险；
- 加州隐私保护机构即将出台的企业使用自动化决策技术的规定；
- 拜登-哈里斯政府2023年的《人工智能权利蓝图》。
AB 3030也与美国医学会的《增强智能开发、部署和使用原则》一致，该原则提倡在使用人工智能工具时保持透明度和披露。AB 3030似乎是试图平衡生成式人工智能在减轻提供者负担和提高效率方面的积极影响（如记录数字笔记、优化运营流程和自动化繁琐任务，这些生成式人工智能工具不在AB 3030的范围内），以及在直接患者护理活动中实施生成式人工智能的潜在风险。
影响
这些新要求对目前使用或考虑使用生成式人工智能工具的加州医疗保健提供者和生成式人工智能开发者都有影响。服务于加州医疗保健行业的开发者可能需要更新或修改其生成式人工智能工具，以满足生成式人工智能患者沟通的新免责声明和指示要求。使用或考虑使用生成式人工智能工具的加州医疗保健提供者应进行充分的尽职调查，以确保符合这些新要求。
影响生成式人工智能和其他数字健康技术的法律环境不断变化，医疗保健仍然是一个高度监管的领域。医疗保健提供者和数字健康开发者应确保及时了解新立法，这些立法可能规范、报销或限制在医疗保健行业中使用生成式人工智能及相关技术。这不仅包括新的加州立法和州医学委员会的要求，还包括联邦法律和法规，如联邦食品和药物管理局、医疗保险和医疗补助服务中心以及联邦民权办公室在联邦网络安全和数据保护法律方面的规定。
(全文结束)
