如果你在过去两三年内看过医生，很可能你的医生使用了AI记录员：一种能够监听医患对话、将其转录并整理成医疗记录格式的软件。
理论上这是一个很酷的想法，但问题不少。本周早些时候，安大略省审计长——安大略省立法议会的问责官员——发布了一份特别报告，警告称AI医疗记录系统"评估不足"，可能会向医疗专业人员提供"编造的信息"。
据《环球新闻》首次报道，这项审计调查了20种AI记录平台，发现"所有20家政府批准供应商的AI记录系统在采购测试阶段均显示一个或多个不准确之处"，例如"产生幻觉（编造信息）、提供错误信息或遗漏/不完整信息"。
报告声明："AI记录系统生成的医疗记录中的不准确信息可能会导致不适当或有害的治疗计划，可能影响患者的健康结果。"
然而，安大略省公共服务和商务交付与采购部长斯蒂芬·克劳福德指出，这些幻觉是在州监管机构测试期间观察到的，在实际医疗就诊中并未记录到。
克劳福德对《环球新闻》表示："让我们非常明确这一点，这些系统实际上并未与医生一起投入运营使用，它们仍处于我们审查各种记录系统的可选阶段。"
尽管如此，审计长谢莉·斯宾斯指出，各种记录系统仍在安大略省约5000名医生中使用。在与记者交谈时，斯宾斯表示她甚至要求她的医生在她自己的就诊结束后"请查看一下转录内容"。
与此同时，另一款AI记录系统OpenEvidence在美国也因产生幻觉和提供不完整答案而面临越来越多的审查。
例如，几位医生告诉《NBC新闻》，OpenEvidence有时会从样本量相对较小的医学研究中得出过于强烈的结论。
尽管许多医生对这一新工具表示赞赏，但它们在现实世界条件下的表现如何——以及当AI热潮消退后医学界将如何评判它们——仍有待观察。
关于AI幻觉的更多信息：完全由AI幻觉构成的新版维基百科克隆
【全文结束】
