六个月后，这一试点项目已成为全国关注的焦点。医生、患者安全倡导者和监管机构提出了技术本身无法回答的问题：当AI遗漏禁忌症时，谁应承担责任？软件应在何时拒绝请求？州监管的临床工具与联邦监管的医疗设备之间的界限在哪里？
安全担忧有具体表现。犹他州医学会主席、家庭医生艾伦·史密斯（Alan Smith）博士向美联社表示，Doctronic的190种可续处方药物清单中包括抗凝血剂，如果患者出现导致内出血的病症，这些药物可能会变得危险。
"我经常在六个月后见到患者时发现，他们的病史或状况已经发生了变化，"史密斯说，"仅仅因为某种药物之前被开具过，并不意味着现在仍然适用。"
美国医学会（American Medical Association）也表达了同样的担忧，警告称"处方续签不是例行勾选项"。据《The Verge》四月份报道，在该系统上线几周内，安全研究人员就能推动Doctronic系统将患者的阿片类药物剂量增至三倍，并生成疫苗错误信息。
AI的临床角色与百年执照法相冲突
据美联社报道，Doctronic高管不愿透露他们是否已向美国食品药品监督管理局（FDA）申请该系统的许可。联合创始人亚当·奥斯科维茨（Adam Oskowitz）博士对美联社表示："我们在这里的目标真的只是在患者需要医疗保健的地方为他们提供服务。我们尽量不深入监管方面的细节。"
据美联社报道，通常为医疗技术制定国家标准的FDA目前计划对AI处方工具采取不干预的监管方式。FDA发言人表示，该机构尚未授权任何AI聊天机器人，但"致力于鼓励医疗创新，帮助将有前景的新技术带给患者，同时将安全置于每个决策的核心。"
与此同时，爱荷华州（Iowa）和爱达荷州（Idaho）的立法者已推进法案，包括爱达荷州众议院第945号法案（Idaho House Bill 945）和爱荷华州HSB 766号法案（Iowa HSB 766），旨在为自主AI医疗服务提供者创建执照系统。这些努力要求进行审计，并旨在监管那些被授权在无人监督情况下进行诊断或处方的系统。
宾夕法尼亚大学的埃里克·布雷斯曼（Eric Bressman）博士阐述了结构性担忧："无论我们是否愿意称之为如此，我们在为非人类实体授予医疗执照方面已经跨过了一个门槛，"他告诉美联社。
第二个犹他州试点缩小了范围，但问题依然存在
据犹他州AI政策办公室称，犹他州今年4月批准了第二个AI处方试点项目，这次是通过Y Combinator支持的Legion Health公司，专注于精神药物续方，该州多达50万居民无法获得足够的行为医疗服务，PYMNTS报道称。Legion的限制比Doctronic更为严格。该AI不能开具新处方、调整剂量或处理管制药物。患者必须病情稳定，已有一个持牌精神病医生制定的现有治疗计划，并且在过去一年内没有精神病住院记录。
需求方面毋庸置疑。PYMNTS报道称，全球有超过4000万人每天使用ChatGPT进行与健康相关的查询，其中约70%的互动发生在诊所营业时间之外。
犹他大学法学教授丹尼尔·亚伦（Daniel Aaron）指出了超越证据快速发展的风险。亚伦对美联社表示："公司可能通过扩展其商业模式并让技术超越现有证据而在短期内受益。但从长远来看，我认为它们可能危及公众信任并引发反对浪潮。"
【全文结束】