今年初在犹他州悄然推出的一项处方续开计划引发了一场重大的医学辩论：人工智能是否已准备好接手此前只能由医生完成的任务？
该计划允许犹他州居民跳过医生办公室，通过名为Doctronic的AI聊天机器人在线续开处方。这看似是一个让医疗保健对患者和处方提供者更加便捷的简单步骤。
但这同时也是一项打破先例的里程碑，引发了医生、律师和公共卫生专家的警觉。这项试点计划暴露了关于AI在医学中角色的一系列问题，包括应如何监管、医生是否应该能够否决AI的决定，以及需要采取哪些安全措施来保护患者。
争论的核心在于：州和联邦法律将处方权限制在持牌医疗专业人员范围内。支持者认为，这些已支撑美国医学100多年来的法律应该更新，以包括AI聊天机器人和其他新技术。
"我们在给予非人类实体医疗许可方面已经跨过了一个门槛，无论我们是否愿意这样称呼它，"宾夕法尼亚大学的埃里克·布雷斯曼博士说道。
AI在现行法律下不能行医
布雷斯曼和其他专家表示，他们并不反对AI开处方。但他们认为，AI应该达到与人类医生相当的严格标准，人类医生在获得行医执照前需要经历多年的测试和培训。
在犹他州，Doctronic能够推出这项服务，要归功于一种"监管沙盒"机制，该机制允许州官员为提供有前景技术的AI公司豁免相关法律。
该处方续开计划目前由五名AI专家组成的委员会监管，其中没有一人是医生，他们声称已实施了多项安全保障措施。例如，在计划的初始阶段，所有由Doctronic发出的续开处方订单都由人类医生审核。该公司预计很快将过渡到完全自动化的处方续开。
该州医疗执照委员会负责人表示，他和他的同事是在1月份该计划启动被新闻报道后才得知此事的。在3月致州政府的一封信中，11名委员会成员要求叫停该计划，理由是自动续开可能产生副作用或药物相互作用的药物存在风险。
"我们基本上被告知：'是的，这个计划正在进行。但你们无权干涉，'"担任委员会主席的家庭医生艾伦·史密斯博士说道，但他表示这只是个人观点。
情况变得更加复杂的是，医疗技术传统上由联邦层面监管，而医疗专业人员则由各州监管。
Doctronic的高管认为他们的AI属于州监管的医疗实践范畴。但联邦食品药品监督管理局(FDA)应该监管那些直接影响医疗护理或决策的AI，而一些专家认为Doctronic已经越过了这条界限。
一些州正在为AI医疗铺路
在接受采访时，Doctronic的高管们没有透露他们是否已向FDA寻求许可。
"我们在这里的目标真的是在患者需要医疗保健的地方满足他们，"与科技行业企业家共同创立该公司的亚当·奥斯科维茨博士说道，"我们尽量不深入探讨监管方面的细节。"
在犹他州，居民可以访问为处方续开计划专门建立的Doctronic网站。在确认身份后，AI聊天机器人会询问用户的处方和病史，通过接入国家药房数据库验证其是否拥有有效处方。如果没有问题，AI可以续开处方并将其发送至当地药房。如果请求需要更多关注，聊天机器人会将患者转接给Doctronic远程医疗服务的医生。
奥斯科维茨设想了一个未来，许多常规医疗任务，包括开检验单和分析结果，都可以交给Doctronic处理，使医生能够管理比现在多出数千倍的患者。
包括德克萨斯州和怀俄明州在内的其他州也在为AI豁免规则。
与此同时，爱荷华州、爱达荷州等地的立法者已提出法案，旨在正式许可AI医疗服务。许多法案基于非营利组织西塞罗研究所(Cicero Institute)的模板，该亲AI智库由人工智能软件公司Palantir的联合创始人乔·隆斯代尔创立。
西塞罗健康政策主任表示，对医疗AI的反对主要源于医生和其他卫生工作者的经济担忧。
"先行者将会承受各种批评，因为存在经济利益、对劳动力的担忧以及这对工作意味着什么，"西塞罗的亚当·梅尔说道。
医生们看到AI处方续开的潜在风险
医疗委员会主席史密斯表示，对患者的潜在风险是真实的。他指出，Doctronic可续开的190种药物清单中包括抗凝血剂，如果患者出现胃溃疡或其他导致内出血的情况，这些药物可能变得危险。
"很多时候，我在六个月后见到人们时发现，他们的病史或状况已经发生了变化，"史密斯说，"仅仅因为某种药物以前被开过，并不意味着现在仍然适用。"
美国医学会已表达了类似的担忧，警告称"处方续开不是例行检查框。"
犹他州AI办公室负责人扎克·博伊德表示，到目前为止，Doctronic过于谨慎，经常将无争议的决定升级给医生。为应对安全担忧，几种药物已从可续开清单中移除，包括一种治疗心律不齐的药物。
犹他州已发布该计划的一些初步数据，Doctronic计划在今年晚些时候发表同行评审的研究。目前关于其技术的唯一出版物是由公司科学家撰写但未经独立评审的论文。
该研究考察了Doctronic能否根据500次远程医疗咨询记录正确诊断疾病。研究显示，Doctronic的诊断与人类医生的匹配率达到80%。
FDA采取放任态度
布雷斯曼表示，犹他州应该在Doctronic启动前就要求提供处方续开的数据，而不是在其运行后才要求。
"他们基本上是在信任公司的说法，认为他们能够胜任这项任务，"他说道。
布雷斯曼表示，当前对AI的处理方式反映了20世纪初混乱的医疗标准，在医学院、医疗委员会和其他机构就培训和执照的国家标准达成一致之前的情况。
关于医疗技术的国家指南通常来自FDA，但该机构已表示，在现任政府领导下，他们计划采取放任态度。
FDA发言人表示，该机构尚未授权任何AI聊天机器人，但"致力于鼓励医疗创新，帮助将有前景的新技术带给患者，同时将安全置于每个决策的中心。"
目前，Doctronic和其他公司可能会在具有不同监管方法的各州扩展业务。
"从短期来看，公司可能通过扩展商业模式并使技术超越证据而受益，"犹他大学法学院的丹尼尔·亚伦表示，"但从长期来看，我认为他们可能危及公众信任并引发反弹。"
美联社健康与科学部门获得霍华德·休斯医学研究所科学教育部和罗伯特·伍德·约翰逊基金会的支持。美联社对所有内容负全责。
——美联社健康记者马修·佩罗内
此文章最初发表于fastcompany.com
【全文结束】