大型医疗中心在整合大语言模型（LLMs）时面临多重权衡：私营企业的封闭模型提供便捷部署却带来数据隐私风险，本地部署的开源模型可定制性强但需投入技术资源。这种平衡需要临床医生、研究人员和企业间的协作，以确保技术实施既有效又符合伦理规范。
LLMs在医疗基础设施中的整合
大语言模型（LLMs）和其他AI系统预计将对医疗领域产生重大影响。尽管该领域的发展速度惊人，但必须注意其基础限制及技术、伦理和监管挑战。使用LLMs需要建立受控框架以确保问责制，特别是在处理敏感医疗数据时。已有研究显示LLMs在临床信件撰写、临床决策支持、非结构化医学文本信息提取、医学教育和文献筛查等任务中具有实用价值。总体而言，LLMs和智能体AI正迅速成为医疗基础设施的关键组成部分。
当前LLMs向临床实践的过渡期尤为关键，生成式AI作为变革性技术与传统信息系统存在本质差异。其实现面临三大挑战：高性能计算硬件需求、特定场景的模型调整专业能力，以及生成式AI不可预测性的潜在风险。LLM输出受训练数据、架构设计、输入提示和参数设置等多重因素影响，在缺乏防护机制的情况下可能产生看似合理却错误的"AI幻觉"。更严重的是，模型可能继承训练数据中的性别或种族偏见，甚至给出临床有害建议。如何预见并缓解这些负面行为仍是重大挑战。
对LLMs的访问和控制权定义对于确保稳定性、数据安全和问责至关重要。LLMs的开放性可分为三个层面：开源代码、开放训练数据和可下载的模型权重。当三者兼具时，用户可在本地系统直接调整模型输出。但目前私营企业的先进模型往往不具备这种开放性。
封闭式与开放式LLMs的对比
封闭式LLMs通常通过网页接口或API接入（图1a）。这类模型可能提供"稳定版本"等控制机制，允许用户依赖特定版本的性能稳定性，并通过企业级解决方案解决数据隐私问题。例如OpenAI的ChatGPT系列、Anthropic的Claude和谷歌的Gemini等模型具有卓越能力。对于资源有限的医疗机构，通过API接入这些模型可快速测试临床流程应用。其优势包括快速部署、成本可控以及电子病历（EHR）提供商（如EPIC或Oracle Cerner）的系统互操作性支持。
![图1：LLMs临床应用的封闭与开放架构](
图1：LLMs临床应用的封闭与开放架构。a）封闭模型运行在私营企业服务器；b）开放模型部署在医疗机构本地环境
然而这种便捷性伴随潜在风险：对外部供应商的依赖可能导致数据主权丧失和供应商锁定效应。医疗机构可能因单一供应商的政策、价格或服务可用性变化而影响运营。数据安全方面，即使采用伪匿名化处理，向外部服务器传输敏感患者数据仍存在泄露风险。Pool等人的研究发现，第三方数据保护失败是医疗数据泄露的主要诱因之一，已有LLM供应商发生过实际数据泄露事件。
相比之下，本地部署的开放式LLMs（图1b）提供更高的控制权。通过在机构安全环境中运行模型，可最大限度降低数据隐私风险。尽管数据泄露风险仍存在（取决于整体IT基础设施安全性），但开放代码、训练数据和模型权重的透明性有助于缓解模型偏见和幻觉问题。例如，医疗机构可利用LangChain或Guidance等框架调整源代码，建立定制化的日志监控系统，确保符合伦理指南和隐私要求。这种部署方式还支持针对特定临床需求和工作流程的深度定制。
利益相关方间的协作与控制关系
投资建设本地AI基础设施可促进创新和协作。开源社区的活跃度正在推动医疗专用模型的快速发展，例如丹娜—法伯癌症研究所（Dana-Farber Cancer Institute）在微软Azure OpenAI团队支持下成功部署GPT-4，并通过开源许可分享源代码。微软还联合医疗领袖组建"可信与负责任AI网络"，旨在落实医疗领域的AI伦理原则。
实现最佳患者治疗效果需要同时精通机器学习和医疗的专业知识。临床医生必须深度参与技术整合——虽然无需完全掌握机器学习的技术细节，但应避免过度依赖专有解决方案。同时，机器学习专家需要临床输入确保LLM系统满足真实需求。这种协作关系对患者结果至关重要。
本地基础设施的初期建设和持续维护需要硬件、软件和人才的持续投入。虽然封闭方案的长期成本可能相当，但其支出通常发生在系统产生价值之后。相反，开放式方案的前期投入可能成为部分机构的障碍。封闭方案将部分控制权让渡给外部利益相关方，而开放方案需要机构自行承担AI基础设施的管理维护工作。
医疗LLMs部署的任务、场景与解决方案
LLM系统的技术需求因具体应用场景而异。关键考量点是是否涉及敏感数据及类型。例如用于医学教育的通用聊天机器人（如ChatGPT）无需处理敏感数据，而用于临床决策支持的系统则需要整合个人健康数据并进行输出调控。图2展示了不同任务的技术需求和数据敏感度分级。
![图2：LLMs在临床场景的应用层级](
图2：LLMs在临床场景的应用层级。横轴表示技术需求复杂度，纵轴表示数据敏感度
开放式和封闭式框架均可应用于不同任务。本地部署模型可通过专用框架进行输出约束或分析，私营企业也可能提供LLM输出结构化功能。在集中式医疗体系国家（如法国或英国），建立国家级AI医疗平台可能具有优势，包括安全数据共享、标准化数据集开发和AI模型库建设。
临床医生在LLMs应用中的核心角色
在LLMs和生成式AI的医疗应用中，临床医生必须主动参与角色定义。尽管封闭式LLMs通过API接入提供便利，医疗机构应认真考虑通过开放式模型保持更高控制权。当前LLMs的应用仍处于新兴阶段，需要临床、研究、技术和商业多方协作确保患者安全和伦理规范。严格的系统测试验证和医疗专业人员的持续教育至关重要。
私营企业可在开放式LLMs的部署中发挥关键作用，提供软件开发框架、监管合规方案和数据安全支持。通过与医疗机构合作定制模型，可有效解决诊断、治疗规划和患者监测等具体需求。建议避免"一刀切"方案，在安全标准和数据结构尚未明确的情况下，应注重构建可扩展的应用基础。
【全文结束】
