人工智能正在迅速改变犹他州的医疗行业，为该州患者提供了可及且负担得起的医疗服务。然而，医生和公共卫生官员非但没有欢迎这一变革，反而在抵制它。
过去几年里，犹他州通过多项法律和举措推动人工智能在医疗领域的应用，包括今年早些时候启动的一项创新试点计划，允许人工智能聊天机器人开具处方。该项目由州商务部管理，由AI初创公司Doctronic提供技术支持，授权AI开具避孕药、哮喘、糖尿病及其他常见疾病的处方。患者在使用该平台前仍需去医院获取新处方。
犹他州人工智能政策办公室表示：“Doctronic的AI将致力于自动化常规的、基于指南的处方续药工作——这些行政性工作常常拖慢诊所效率。通过安全地将这些重复性任务交给AI，该系统可以减轻临床医生的工作负担，改善续药连续性，并扩大患者获取服务的渠道，同时保持患者期望的安全和质量标准。”
尽管有这些承诺，该试点项目仍招致了医疗界的广泛批评，被视为一个未经审查且危险的系统。
家庭医生艾伦·史密斯上周告诉《华尔街日报》：“人们对药物可能会有生死攸关的反应。我还担心责任问题——如果因药物续药出现问题，到底谁来负责？”史密斯同时也是犹他州医疗执照委员会主席，他对《华尔街日报》表示，他的观点仅代表个人，但委员会似乎也抱有同样的担忧。
今年4月，委员会成员向商务部下属的人工智能政策办公室提交了一封信，敦促立即暂停该项目。然而，该机构声称其有权根据法定权力继续推进试点，并指出其正在加大力度加强AI合作项目的安全措施，包括此前与Legion Health（一家利用AI处理低级别精神药物续药并提供心理治疗的在线平台）达成的协议。该机构向《理性》杂志表示，他们还在“探索第三方审计员的作用，以帮助制定标准化的审计流程，包括透明报告和增强信任。”
尽管如此，批评者，尤其是医疗领域的人士，坚持认为AI无法复制精神治疗所需的细致临床判断。
美国医学会首席执行官约翰·怀特告诉《华尔街日报》：“这确实是一个滑坡效应的担忧。我们从处方开始，然后突然之间，会不会导致诊断测试？医疗决策复杂而细微，是医患关系的根本组成部分。”
医疗决策很复杂，但Doctronic表示，其平台由委员会认证医师的意见指导，这些医师设计系统、审查意见并持续更新AI的医学指南，以确保每项建议都反映真实的临床推理。一项临床研究发现，“Doctronic与临床医生的顶级诊断在81%的病例中一致，治疗计划在99.2%的病例中一致。”至于隐私问题，该公司坚称其政策基于事先同意，默认匿名，且是否将Doctronic的医疗建议分享给医生完全由患者自行选择。
Doctronic在其网站上说明：“Doctronic符合HIPAA标准，并默认保护隐私。您的信息仅在处理续药时按需访问。我们从不出售您的数据，也从不将其用于训练AI模型。”
迄今为止，Doctronic试点项目取得了相当令人瞩目的成果。STAT新闻在5月报道称，该聊天机器人在72%的情况下成功续药，“无需因缺少化验结果等原因上报医生”。同时，在聊天机器人批准续药的病例中，医生在91%的情况下与其意见一致。
不过，对于犹他州医疗领域AI的未来，仍有理由保持谨慎乐观。STAT指出：“目前尚不清楚AI机器人能否在没有FDA授权的情况下合法续药。”FDA目前仅将技术产品视为医疗器械时进行监管，且尚未出台明确的AI监管规定。如果FDA决定像Doctronic这样的聊天机器人属于其管辖范围，可能会阻碍这类AI平台进入行业。正如卡托研究所指出的那样，复杂医疗器械获得FDA批准并进入市场可能需要数年时间和数百万美元。对Doctronic而言，这意味着阻止患者使用能够在不牺牲质量或安全性的情况下处理常规处方续药的AI。
犹他州正在采取积极措施将AI融入医疗（尽管如果由私营部门主导，这项努力更有可能成功）。然而，无论该试点计划多么具有前瞻性，法规和医学界都可能会阻碍它，并削弱这一可能降低患者成本、增加护理机会的革命性工具。
【全文结束】