人工智能在宾夕法尼亚州医院中的应用
人工智能已全面渗透日常生活，医疗领域亦不例外——床旁诊疗正面临其变革。AI确能提升诊疗效果，但滥用风险及即时临床判断被颠覆的隐患同样真实存在。
事实是，当前医疗AI应用错误率高达20%，且存在"产生幻觉"的特性：当数据缺失时，系统会虚构不存在的信息。正因如此，本协会坚定主张：AI必须在床旁接受持续监管与质疑，确保其服务于医护工作者而非损害患者安全。
本文阐明现状、深层影响及对医疗服务的改变。
AI可辅助诊疗，但主导权须在医护手中
2025年12月15日，宾夕法尼亚州注册护士及联合专业人员协会(PASNAP)主席莫琳·梅在哈里斯堡州众议院通信与技术委员会听证会上，就《HB 1925法案》（详见下文）作证。该法案《医疗人工智能使用监管条例》旨在为全州医疗AI应用设立规范框架。
莫琳在证词中强调："经验表明，我们无法依赖雇主确保技术创新优先服务医护与患者而非利润。必须保障临床人员始终主导诊疗决策，即便AI参与其中。"
AI在宾州医院的四大应用场景
医疗AI算法多基于患者电子健康档案(EHR)及诊疗环境数据生成：
- 病情严重程度与排班算法
医院日益依赖软件确定患者病情分级、人员配置及任务分配——即便基础数据不完整或不切实际。系统出错将直接导致人力配置失误。
- "预测性"临床警报
部分系统宣称可早于医护人员识别病情恶化。实则常使医护中断诊疗处理误报，而专业人员才能捕捉的细微变化反遭忽视。
- 远程监测系统
多家宾州医疗机构试点减少现场医护人员的远程观察模式，导致诊疗碎片化，责任转移至远程或低资质人员。
- 自动生成诊疗记录
文档系统可自动生成模板化病历与护理计划，常遗漏关键行为、情绪或临床细节。此类工具常未经解释与培训即强制推行，且失误时无人担责，使使用者面临执业风险。
PASNAP立场：宾州亟需强化AI监管
2025年12月本协会内部调查显示：医护人员几乎被排除在床旁AI决策外，对管理层意图缺乏信任，且深度担忧AI失误的责任归属。
若AI已进入医疗领域（事实如此），PASNAP坚信：一线医护必须参与决策，州政府需立法保障宾州居民隐私与诊疗安全。宾州医院医护人员亟需：
实施与持续评估机制
每家医疗机构应成立AI实施团队，持续评估部署场景、适用人群及成效：
- 该场景及患者群体是否适用AI？
- 系统如何试点？
- 是医护训练系统，还是系统训练医护——抑或双向影响？
- 系统成功率几何？失误群体是谁？是否存在特定人群受系统性负面影响？
专业培训保障
使用AI的医护需掌握其运作原理以融入临床思维，必须提前知晓：
- 系统训练方法及训练人群构成
- 模型是否固定或具备学习能力
- AI决策步骤是否透明（"黑箱"系统应禁用于诊断评估，医护必须理解判断依据）
临床判断权保护
确保AI仅辅助而非取代临床判断，医护对AI失误不担责：
- 即便AI建议正确，医护拒绝采纳亦不应受罚
- 即便AI建议错误，医护遵从执行亦不应担责
- AI使用应为可选项，不得强制作为临床决策基础
工具优化机制
鼓励一线医护质疑AI决策、在必要时覆盖系统指令以优化工具。拥有丰富临床经验的医护应持续修正数据集——否则系统将用20%的错误率"反向训练"人类。
患者隐私保护
需强化患者隐私保障。某合作医院未经充分告知即用AI录音生成病历，严重侵害知情权。
员工行为追踪监管
医疗机构须透明公开AI追踪员工行为的目的及方式，任何录音或监控均须提前告知。
新入职人员特别保护
新医护更易无条件遵从AI建议导致诊疗恶化，此类错误将固化为系统"经验"：
- 执业前两年的医生、护士及其他临床人员禁用AI进行评估诊断
- 新医护需在无AI干预下独立发展临床判断能力，否则将丧失核心技能
《HB 1925法案》核心内容
该法案《医疗人工智能使用监管条例》建立全州性监管框架：
- 透明度要求
医院、保险公司及临床医师必须公开AI使用场景（含诊疗决策、患者沟通及保险审批），保障公众知情权。
- 人类临床判断优先
所有AI应用必须经合格人类进行个性化评估。AI不得替代医护人员的临床判断与专业职责。
- 偏见与歧视防控
医院及保险公司须提供证据证明其AI工具已最小化法律禁止的偏见。监管机构有权验证实效。
- 问责与监督机制
要求机构向卫生或保险部门提交合规报告，建立现有缺失的公共监督体系，为问责提供依据。
法案对PASNAP成员的意义
《HB 1925》标志重大转折：若通过，医院与保险公司将无法在未说明功能、原理及安全性的前提下秘密部署AI系统。对PASNAP成员而言：
- 算法不可取代人类
- 软件不得推翻临床评估
- 机构必须披露AI使用情况
- 保险公司需公开AI导致的拒保或预授权决定
- 州政府将获得前所未有的监管权
此立法为医疗AI普及浪潮奠定了可扩展的治理基础。
本协会曾通过集体行动推动《第102号法案》（宾州医疗强制加班禁令），持续倡导安全 staffing、全民医疗覆盖及医护人员反骚扰保护。
【全文结束】
