在各行业，生成式AI（GenAI）在相对短时间内已取得突破性进展。这些进步由基础模型驱动——根据《加利福尼亚前沿AI政策报告》定义，基础模型是"一类通用技术，其生产需消耗大量资源，依赖海量数据和计算能力以获得可支撑多种下游AI应用的能力"。
此类通用大语言模型（LLMs）如Gemini和ChatGPT，正日益展现超越人类认知能力的潜力，尤其在数据分析、文本撰写和推理领域。在医疗健康领域，临床医生及其他专业人员正积极采用该技术以减轻行政负担、加速运营流程，甚至辅助临床决策，推动生成式AI应用持续上升。
然而，若实施或使用不当，医疗领域的生成式AI将引发关键合规风险。通用大语言模型的使用尤其带来特定合规隐忧，医疗机构必须充分理解以防止隐私或安全漏洞。这些模型可能依赖未经验证的数据源、以未授权方式利用患者健康信息，或传播偏见及错误信息。
为保护患者数据隐私、适应不断演变的法规要求并降低高成本风险，医疗领导者必须采取果断措施化解"未受控"大语言模型使用所埋藏的合规"定时炸弹"。
通用大语言模型在医疗领域的应用现状
在医疗行业，员工日益借助大语言模型支持日常任务，从行政工作到患者沟通。多模态大语言模型凭借处理文本、图像和音频的能力，进一步拓展了应用场景。除行政支持外，医疗机构使用该技术辅助临床任务（而非仅限文书工作）的情况也显著增加。
这些模型已展现出部分令人瞩目的成效：多项研究表明其在特定领域表现达到甚至超越人类水平。例如，GPT-4模型在美国医师执照考试中以86.7%的总分通过。
混合式AI是医疗领域生成式AI应用的新兴方向，通过结合机器学习（ML）与大语言模型处理复杂分析并将结果转化为通俗语言。该方法旨在整合两类模型优势，克服大语言模型在幻觉、准确性及偏见方面的缺陷。代理型AI（Agentic AI）也因能自动执行关键任务（如回复患者消息或安排预约）而日益普及。
但AI的潜力也凸显了加强主动治理的紧迫性。这些工具在医疗运营中嵌入越深，确保准确性、安全性和合规性的责任就越重大。
通用大语言模型在医疗领域的合规风险
尽管医疗数字化开启众多新可能，但也暴露关键漏洞。例如，2023年11月1日至2024年10月31日期间，医疗行业发生1,710起安全事件，其中1,542起涉及确认的数据泄露。
AI时代加剧了这些隐患，为数据隐私与安全增添新维度。具体而言，医疗领域使用通用大语言模型引发四大核心合规风险：
风险一：黑箱开发阻碍持续监测与验证
闭源模型对开发过程缺乏透明度，例如模型训练的具体数据来源或更新机制均不公开。这种不透明性使开发者和研究人员无法追溯安全风险源头或解析决策逻辑，导致大语言模型可能采用未经验证的医疗数据源，且安全漏洞难以被及时发现。
风险二：患者数据泄露
大语言模型并非总依赖去标识化患者数据。特殊提示词或交互可能无意泄露可识别的健康信息，造成违反HIPAA（美国健康保险流通与责任法案）的风险。
风险三：偏见与错误信息的传播
某实验中，研究人员在生物医学模型知识库的某类别注入少量错误事实，同时保持其他领域行为不变。结果发现错误信息在模型输出中广泛传播，凸显大语言模型易受虚假信息攻击的脆弱性。
基础模型的任何缺陷都会被所有衍生应用继承。输出差异可能加剧健康不平等，例如对代表性不足群体给出错误建议。
风险四：法规适配缺失
通用大语言模型的使用可能不符合HIPAA、GDPR（通用数据保护条例）或新兴AI专项法规要求，尤其当供应商无法验证训练数据时。若医疗机构员工使用未经批准或未受监控的AI工具（即"影子AI"），风险将进一步叠加。据IBM统计，20%的受访组织因影子AI引发的安全事件导致数据泄露。
最终，医疗领域通用大语言模型的风险将产生现实后果：法律诉讼、声誉损害、患者信任流失及高昂诉讼成本。
最佳实践：大语言模型应用指南与考量
为负责任地采用生成式AI，医疗领导者需建立明确防护机制以保护患者与机构。以下最佳实践可助力建立合规AI应用基础：
最佳实践一：审慎选择AI技术
要求供应商明确说明AI技术开发流程及数据来源。优先选择仅采用专家验证医疗内容、决策过程透明且避免使用患者健康信息训练模型的工具。
最佳实践二：构建人机协同审核机制
确保临床医生审核任何可能影响诊疗决策的AI生成内容。AI虽是强大工具，但在直接影响患者生命的行业，临床监督对保障负责任使用及AI辅助信息的准确性至关重要。
最佳实践三：培训与员工能力建设
向医护人员普及AI应用的益处与风险，降低"影子AI"使用率。医疗员工面临 staffing短缺与高 burnout 率的复杂环境，简化AI教育流程有助于在不加重工作负担的前提下确保合规。
最佳实践四：建立治理文化
引入第三方评估验证AI解决方案的安全性、可靠性与合规性。同时制定全机构范围的AI监督框架，明确审批、使用及监测流程，增强技术信任度并防止员工转向未授权工具。
最佳实践五：与领导层协同推进AI治理
与决策层协作，前瞻性应对法规演变及FDA（美国食品药品监督管理局）、ONC（国家卫生信息技术协调员办公室）的指导方针。州级法规正在涌现：例如加州《前沿AI透明度法案》强调医疗场景中的风险披露、透明度与缓解措施；科罗拉多《人工智能法案》（CAIA）则旨在防止算法歧视。
最佳实践六：持续监测与反馈机制
医疗场景中的AI应用绝不能采用"部署即遗忘"的思维。建立持续监测框架有助于确保AI工具准确性、强化问责制并长期维持合规性。
最佳实践七：通过合作优化监督与研究
医疗机构应与监管机构及公共部门合作，强化监督机制、为安全标准贡献行业视角，并整合专家资源。
通过合规领导力建立信任
医疗AI解决方案的差异化将日益取决于专家内容质量、评估流程完整性及临床工作流中的负责任整合。下一阶段的AI采用将更侧重合规领导力而非代码本身。
信任与合规同等关键。要使技术真正有效，患者和提供者必须确信AI安全可靠且符合高质量伦理诊疗标准。合规领导力是战略优势而不仅是防御手段。具备前瞻思维的组织若能在危害事件发生前及早建立防护机制，将在AI驱动的医疗未来中脱颖而出。
【全文结束】
