随着加州一起关于医疗环境中使用环境AI的集体诉讼案件启动，一家全国性律师事务所正为医院及其他医疗服务机构总结经验教训。这很有道理：所有配备AI技术的医疗服务提供者都可能成为类似诉讼的潜在目标。
该案件（Washington等人诉Sutter Health案）的原告声称，Sutter Health和Memorial Health Services在未经患者知情同意的情况下，使用该技术秘密记录、转录并传输敏感医疗对话。
环境AI供应商Abridge作为Sutter的供应商，在诉讼中被多次提及，但并未被列为被告。
提供分析的辛辛那提FBT Gibbons律师事务所表示，此案提醒人们医疗AI固有的一种风险：医疗机构面临的法律风险不仅来自AI工具的功能本身，还来自其实施、披露、治理和监控方式。
该诉讼于4月提交，目前仍处于初步阶段。以下是FBT Gibbons律师事务所的Mason Clutter律师及其同事提出的10条建议，无论案件最终结果如何，医疗机构在案件进入法庭审理前都应引以为鉴。
- 随着AI应用加速，诉讼风险同步上升
Clutter与合著者Michael Ruggio律师、Neha Matta律师指出，当AI应用于涉及敏感患者沟通、健康信息或高信任度临床环境时，这一特点尤为明显。
- 在医疗领域，AI风险很少局限于单一领域
作者指出："单一使用场景可能同时涉及隐私、同意、保密性、数据治理、网络安全、供应商管理、专业责任和消费者保护等多方面问题。"
- 当AI工具捕获或处理患者沟通内容时，通知和同意仍是核心问题
Clutter及其同事表示，在隐私法或需全体同意法严格的州，尤其应重视这一点。
- 医疗机构应仔细评估敏感数据如何通过AI工具流动
律师们建议，医疗机构应考虑音频、文字记录或其他输出是否被传输到直接临床环境之外，是否为质量保证或模型改进而保留，或是否可供供应商人员访问。
- 组织应谨慎，不要假定使用第三方平台就能转移法律责任
Clutter等人评论道："供应商尽职调查和管理是任何良好治理框架的关键组成部分。"
- 医疗AI治理应基于风险、跨职能且融入实际工作流程
这通常意味着"维护AI使用案例清单；根据对患者的影响和数据敏感性对工具进行分类；在部署前评估隐私、安全、意外偏见和临床风险；并将使用案例与患者通知、授权、政策和培训保持一致。"
- 即使特定使用场景在法律上是允许的，不透明的部署也可能削弱患者信心并招致监管机构和原告律师的审查
法律专家强调，强调清晰度、问责制和以患者为中心的实施——简言之，透明度——的治理有助于组织建立并维持信任。
- 医疗AI的法律框架仍在演变中
作者写道，随着法律框架的持续发展，"组织应预期监管机构将更加关注他们在选择、实施和监督这些技术时是否行使了合理注意。"
- 周密的治理不会消除所有风险，也无法防止每一起索赔
"但它可以帮助减少风险暴露，提高抗辩能力，支持更透明的患者互动，并使组织处于更有利的位置，以负责任的方式实现AI的益处。"
- 关键问题已不再是AI是否应在医疗中发挥作用
Clutter及其团队评论道："而是如何以支持创新、尊重患者期望并经得起法律和监管审查的方式使用它。"
【全文结束】