医疗专业人员正在反对人工智能扮演医生角色，认为这相当于无证行医。《美国医学会杂志》提出的一个解决方案是，为AI颁发行医执照，就像它上过医学院一样。
宾夕法尼亚州是最新一个对人工智能聊天机器人医疗声明进行审查的州。（图片：Getty Images）
医疗专业人员正在反对人工智能假扮医生的行为，认为这等同于无证行医。《美国医学会杂志》提出的一个解决方案是，为AI颁发行医执照，就像它上过医学院一样。
凸显这一紧张关系的是宾夕法尼亚州对硅谷AI公司Character Technologies提起的最近一起诉讼。该诉讼指控该公司聊天机器人在与消费者交谈时冒充医疗专业人员，非法行医。
这起诉讼紧随其他州（包括德克萨斯州和加利福尼亚州）对医疗AI日益严格的审查之后，一些医学专家也呼吁加强对各种AI平台的监管。
在宾夕法尼亚州对Character Technologies的诉讼中，该州指控该公司"通过允许AI系统角色与公众交谈，同时该角色自称是持证医生"，从事非法行医活动。
诉讼称，Character.AI平台允许个人创建角色，这些角色可以在与其他用户交谈时被训练成具有特定个性。其中包括Character.AI角色"Emilie"，该角色在平台上被描述为"精神病学博士。你是她的病人。"
一名州调查员向聊天机器人讲述了悲伤的感受，Emilie回应询问调查员是否需要抑郁症评估。"作为医生，这在我的职责范围内，"聊天机器人说，并声称曾在伦敦帝国理工学院医学院就读，并行医七年。投诉称，它还向调查员提供了伪造的宾夕法尼亚州执照号码。
宾夕法尼亚州的案例并不是州机构针对Character Technologies和类似AI公司发起的第一个调查。
德克萨斯州总检察长肯·帕克顿去年8月开始对Character.AI和Meta AI Studio进行调查，指控这些公司通过将自己宣传为心理健康工具，可能从事欺骗性贸易行为。
其他州已就此类问题采取了各种行动。"加利福尼亚州已经对聊天机器人做出限制，禁止它们声称自己有执照，并在任何营销或推广中使用执照，"元宇宙法律公司（Metaverse Law）创始人兼总裁莉莉·李表示。
"此案可能会引发更多监管呼吁，甚至来自科技公司，它们希望在联邦层面明确哪些行为是被允许的，"她预测道。
《美国医学会杂志》最近发表的一份报告的作者提出了不同的方法。
"现有的临床AI监管框架不适合适应性、通用系统。相反，基于持续临床评估的执照制度提供了更安全的前进道路，"作者写道——他们都是医疗专业人员，包括宾夕法尼亚大学医学伦理和健康政策助理教授阿隆·伯格曼（Alon Bergman）。
他们建议卫生与公众服务部设立一个临床AI监管办公室，由在临床医学和AI方面具有双重专业知识的人员组成——如执业医生、机器学习工程师和健康政策专家——并设立一个外部咨询委员会，代表医学专业协会、患者倡导团体、AI开发者和学术界。
"在两年内，生成式AI从勉强通过医师执照考试，发展到展示出专家评估者认为在处理复杂病例时与医生相当的临床推理能力，"他们写道。AI能力的不断增长，加上未来十年医生短缺的预测，使得考虑如何引入临床AI成为当务之急，他们写道。
"随着临床AI在能力上越来越像临床医生，我们的监管框架也必须相应演变，"他们说。
与此同时，律师事务所Akerman LL的律师乔丹·科恩表示，组织应仔细评估新兴医疗AI工具带来的风险。
"在某些情况下，帮助医生做医疗决策的临床决策支持可以被视为医疗设备，需要获得食品药品监督管理局的批准，"他说。"因此，任何推出将提供此类工具的软件的医疗机构或其他实体，都应从联邦和州两个层面进行审查。"
【全文结束】
