犹他州的医生们正在挑战一个他们认为危及患者安全的人工智能处方药物续药系统。
今年1月，犹他州与AI医生初创公司Doctronic签署了一项合作协议，测试一种"自动化常规、基于指南的处方续药"系统，供犹他州居民使用。正如Fierce Healthcare在一月份报道的那样，这标志着在监管豁免框架下，AI作为自主临床决策者的首次测试。
犹他州居民无需等待数天或数周才能获得医生预约来续药，而是可以在线与AI代理聊天，几乎即时续药。
根据犹他州人工智能政策办公室与Doctronic之间的缓解协议，该AI系统允许对已由持证医疗提供者开具的药物进行30天、60天或90天的续药。该公司将可续药的药物类型限制为191种常用处方药。该药品目录已由独立药剂师和州政府审核。
犹他州医学执照委员会表示，直到该协议实施后，系统已经上线并可供使用时，他们才得知此协议。该委员会在致犹他州商务部的一封信中写道。
医学执照委员会写道："监督处方续药是一项因关键安全和临床原因而保留给适当执照医疗从业者的任务。每次续药都需要重新评估和临床决策，以安全调整剂量、监测副作用、禁忌症或新的药物相互作用，并确保药物仍然有效。继续在没有评估的情况下续药的患者可能会在数月或数年内继续使用过时或次优的治疗方案。处方续药需要医师授权是有原因的。"
医学执照委员会在4月20日的信中表示，未经咨询医学执照委员会就推进AI驱动的试点项目"可能使犹他州公民面临风险，并且是委员会的主要关切"。该信由医学执照委员会14名医生中的11名签署。
医学执照委员会写道："至关重要的是，具有医学背景的专业人士在实施前审查所有提案，以确保这些项目不会危及患者安全。我们决不能允许AI或其他财务动机凌驾于这一义务之上，而这正是这里发生的情况。"
医学执照委员会希望该项目"立即暂停"，待进一步讨论。
Doctronic一位发言人在给Fierce Healthcare的声明中表示："我们正按设计参与该流程，具有明确定义的安全保障措施，在项目第一阶段对每张处方进行医师监督，并在整个过程中持续有医师参与。我们仍专注于展示安全、基于证据的常规护理渠道扩展。"
在4月21日的回复信中，犹他州官员试图解决医学执照委员会的担忧，指出请求监管缓解协议的公司提交了"详细部署和安全计划，该计划经过彻底审查"。
州官员在由人工智能政策办公室(OAIP)和专业执照处(DOPL)联合撰写的信中表示："对于涉及医疗应用的任何协议，OAIP都会咨询该特定领域的执业医学专家，以及公共卫生专家和监管机构，以确保技术包含必要的安全防护措施。"
州官员声称，涉及Doctronic的试点项目"在启动前已由多位医学专业人士严格审查"。"这一评估过程产生了大量建议的实质性调整和防护措施，其中许多已纳入试点项目。正如我们在最近的电子邮件线程中所沟通的，我们期待在评估该试点项目并考虑未来试点项目时，更多地让委员会参与我们的审查和监督过程。"
根据州官员在信中的说法，该试点项目目前处于第一阶段，每张AI生成的处方续药在传输到药房前都需经持证人类医师审核。
信中称："自动化系统与审核临床医生之间存在分歧的任何案例，都将使用既定的学术评分程序进一步审查、分析和评估风险。"
州官员表示，在项目进入第二阶段之前，必须证明这些一致的安全标准，第二阶段要求在处方开出后不久进行临床医生审核。如果AI系统在第一和第二阶段被认为安全，试点项目将进入第三阶段，允许AI"在持续临床监督下半自动续药，通过随机抽样AI输出来确保持续遵守标准"，州官员表示。
州官员声称，在所有阶段，AI系统都需要进行综合医疗评估，"模仿人类临床决策，包括验证药物、筛查新副作用、分析药物相互作用、确认过敏状况以及评估持续有效性"。
AI系统"严格禁止"处理管制药物、修改治疗计划或发起新处方。患者还必须定期由医师亲自或通过远程医疗进行评估。
州官员写道："如果案例超出既定指南、呈现临床复杂性或涉及冲突信息，AI必须自动将案例升级给医师。患者和药剂师也始终可以选择要求人类医师审查。"
州政府计划继续试点项目，指出OAIP"保留绝对权限，如果安全基准未达到，可以修改或取消试点项目"。
商务部和DOPL表示，他们希望与作为部门顾问的犹他州医学执照委员会合作，审查试点项目的进展，评估系统性能并评估未来的医疗保健提案。
在最近的一篇博客文章中，Doctronic联合创始人兼联合CEO Matt Pavelle和Adam Oskowitz写道："现状是最大的风险。"
Pavelle和Oskowitz写道："问题不在于AI是否完美。无论是AI还是人类医生，永远不会完美。问题在于它是否比我们现在的情况更安全——即患者因为无法及时续药而得不到药物。每年有12.5万人死于用药不依从。这不是关于AI的统计数据。这是关于我们继承的系统的统计数据。"
联合创始人写道："在犹他州，我们仍处于第一阶段：每张续药处方在到达药房前都需由我们的一位医师审核。我们将通过证明我们应该这样做来赢得完全自主运营的权利。这就是信任的建立方式。"
Pavelle和Oskowitz认为，医疗保健正面临人力资本问题，初级保健医生短缺和护理需求上升导致患者等待数周才能见到临床医生。
Doctronic联合CEO们写道："医疗保健中最大的风险是继续依赖一个无法满足当前或未来需求的系统。扩大准入需要重新思考护理的提供方式，AI在管理常规任务方面发挥核心作用，而医师则专注于复杂的决策。通过谨慎实施、可衡量的结果和持续验证，这种方法可以改善准入、降低成本，并更好地使医疗保健提供与患者需求保持一致。"
【全文结束】
