AI助手正在咨询室中迅速普及，但有一些重要的“红旗”需要注意。Avant律师事务所高级律师Tracy Pickett在珀斯举行的年度RACGP会议上的发言中表示，医生在使用AI助手前应考虑隐私、同意、准确性、职业义务、产品条款和条件、质量、安全、尽职调查和治理等问题。
Pickett女士指出：“与其他你在实践中使用的工具不同，这些工具可以说已经经过TGA测试或有其他认证表明它们适合使用，而AI助手并没有这样的标准。”Avant收集的数据表明，一半的全科医生已经在使用或愿意在未来使用AI助手，Pickett女士认为医学防御组织理解其成员对这项技术的兴趣。“这些AI记录工具可以预先生成转诊信，并帮助处理其他耗时的行政任务，这可以带来巨大的好处。”她告诉与会者。“但有一个问题是，你必须检查输出结果，我们收到一些令人不安的案例，医生开始使用该工具并对其产生的内容感到兴奋……然后变得有些松懈，不再检查工具的输出结果。”这是一个非常严重的问题，因为这些记录是你自己的记录，你将被这些记录所束缚。你不能以这是AI助手生成的为借口进行辩护。”
Pickett女士还提到，AI助手的一个关键缺陷是它们无法记录咨询过程中未说出口的信息，例如患者行为异常、看起来疲惫或不愿意谈论家庭情况。“无论是什么让你觉得不对劲，或你对患者及其治疗的任何担忧，都需要手动添加到记录中。”Pickett女士说。她指出，使用AI记录助手与简单口述的主要区别在于，AI助手是医患关系中的第三方，因为它会对对话应用算法并生成不同的输出。因此，Pickett女士表示，需要从患者那里获得三次同意：一次是为了收集患者数据的隐私方面，一次是为了让设备“听”咨询过程，一次是为了使用算法将对话转换为笔记。
RACGP 2024年大会于11月21日至23日在珀斯会议中心举行。
(全文结束)
