犹他州已悄然成为美国第一个允许AI聊天机器人续开处方而无需医生参与的州，据美联社报道。由Doctronic公司运营的这一项目于1月份启动，已引发激烈的医疗辩论。
居民可以跳过医生办公室，直接通过聊天机器人在线续开处方。该聊天机器人会询问患者的用药情况和病史，检查国家药房数据库，然后决定是直接续开处方还是转交给人类医生处理。
这一项目的实施得益于"监管沙盒"机制，该机制允许犹他州官员为有前景的AI技术豁免相关法律法规。通常情况下，州和联邦法规将处方权严格限制在持证医疗专业人员范围内。
"我们在某种程度上已经跨越了一个门槛，即给予非人类实体医疗许可，无论我们是否愿意称之为许可，"宾夕法尼亚大学的埃里克·布雷斯曼博士向美联社表示。他和其他专家表示并非反对AI开处方，但希望AI必须达到与人类医生同样严格的标准。
犹他州医疗执照委员会表示，他们直到1月份项目启动成为新闻后才得知该项目的存在。在4月份的一封信中，11名委员会成员呼吁停止该试点项目，理由是自动续开可能产生副作用或药物相互作用的药品存在安全风险。
"我们基本上被告知：'是的，这正在进行。而且，你对此没有发言权'，"担任委员会主席的家庭医生艾伦·史密斯博士表示，他以个人身份发言。
该州拒绝暂停该项目，指出在这一初始阶段，人类医生仍会审查每一次处方续开。目前该项目由一个五人AI专家委员会监督，成员中没有医生。Doctronic预计很快将转向完全自动化的续开流程。
史密斯警告称风险真实存在，他指出Doctronic大约190种可续开的药物中包括抗凝血剂，如果患者出现内出血，这些药物会变得极其危险。美国医学协会也表达了类似担忧，认为"处方续开并非简单的例行检查"。
该案例暴露了监管领域的复杂性：医疗技术由联邦政府监管，而医疗专业人员则由各州监管。Doctronic将其AI定位为州监管医疗实践的一部分，尽管一些专家认为它已进入FDA的管辖范围。
该公司未说明是否已寻求FDA许可。该机构告诉美联社，它尚未授权任何AI聊天机器人，但希望鼓励创新，这种不干预的立场符合对AI健康工具监管的广泛放松趋势。
批评者认为历史正在重演，布雷斯曼将这一时刻比作20世纪初混乱的医疗环境，当时医疗委员会和标准尚未建立。为其他州制定AI医疗服务许可模板的机构是Cicero研究所，这是一个由Palantir联合创始人乔·隆斯代尔创立的支持AI的智囊团。
风险并非理论上的，因为安全研究人员已警告，医疗聊天机器人可能在提供建议时显得权威，却给出危险指导。其他专家警告称，将人类从医疗过程中移除可能会破坏其所承诺的积极结果。
竞争对手也在努力识别这些潜在故障点。Meta甚至曾伪装成青少年来测试竞争聊天机器人如何处理敏感话题。
Doctronic计划在今年晚些时候开展同行评审研究，尽管迄今为止其唯一发表的论文由公司内部科学家撰写，未经独立审查。正如一位犹他州法律教授所言，企业风险在于让技术发展超越科学证据，从而在此过程中背叛公众信任。
【全文结束】