医生团体对一款用于撰写医院出院信件的AI工具提出了安全担忧，该工具计划通过联邦数据平台（FDP）在全国范围内推广。
该技术由切尔西和威斯敏斯特医院NHS基金会信托开发，采用大型语言模型从医疗记录中提取关键信息（如诊断和检验结果），以协助撰写患者出院所需的文件。
这款AI辅助出院总结工具自2025年8月起已在该信托机构投入使用。
然而，皇家全科医生学院（RCGP）主席Victoria Tzortziou Brown教授告诉《数字健康新闻》说，学院对“当前AI辅助工具潜在的患者安全风险”表示担忧。
“我们希望看到来自独立、公正的临床安全评估的明确证据，证明任何AI辅助出院总结工具至少与目前的出院总结流程一样安全有效，然后才能更广泛地推广。”
“该评估应包括在不同临床环境（包括高压环境）下的真实世界测试，并完整公布研究结果。”Brown说。
RCGP是FDP检查和挑战小组的成员，该小组在2025年9月的会议上听取了关于出院总结产品的演示。在会议上，成员们质疑该工具是否已被英国药品和健康产品管理局（MHRA）归类为医疗器械，并提出了临床相关信息丢失的风险，这可能影响后续护理和安全性。
一名成员还强调，使用患者数据验证和重新验证正在开发的工具，并未明确属于直接护理的范畴。根据会议记录，该小组告诫称，该工具需要“进一步的临床深度和监管保证”，并要求在进一步部署之前，能看到关于安全性、临床适宜性和正式监管的更多证据。
作为回应，FDP团队确认，有关医疗器械分类的讨论仍在与MHRA进行，该工具旨在支持临床判断，并内置了多重验证步骤以降低信息丢失的风险。
英国医学会（BMA）的一位发言人告诉《数字健康新闻》：“在允许此类新技术在处理患者数据中发挥核心作用之前，我们必须首先了解其对患者、医生和整个系统的影响。”
“在我们与检查和挑战小组的会议中，我们得到保证，人工签字将是最后一步，但如果不全面探索潜在风险，我们仍然担心这项新技术实施的速度。”
数据理解主管Anna Steere告诉《数字健康新闻》，如果有适当的保障措施，这款出院工具可以成为“我们已知需要大幅改进的系统中的务实一步”。她补充说，“如果临床医生过度依赖人工智能而停止仔细检查输出结果，错误可能会漏过”，但她表示，这关乎为整个医疗服务系统制定清晰的人工智能使用规则。
《数字健康新闻》联系了切尔西和威斯敏斯特NHS信托以及NHS England寻求评论。
【全文结束】