一项耗资100万英镑的项目正在进行中，以测试人工智能（AI）在医疗领域的安全性和有效性。
该项目由Innovate UK资助，汇集了医院、格拉斯哥大学（Glasgow University）、爱丁堡大学（Edinburgh University）以及技术公司，共同为苏格兰NHS创建一个AI工具的验证框架。
项目涉及NHS大格拉斯哥和克莱德（NHS Greater Glasgow and Clyde）、NHS洛锡安（NHS Lothian）以及AI评估公司Aival之间的合作。
NHS洛锡安的顾问放射科医生兼创新研究员Rishi Ramaesh博士表示：“人工智能有巨大的潜力改善患者护理，但医疗领导者需要确信这些系统是安全且有效的。这个项目将帮助医疗领导者评估AI，并确保新技术为患者带来真正的益处。”
Aival的独立评估平台将用于评估诊断头部创伤和肺癌的AI系统，旨在改善患者护理并支持NHS工作人员。该平台允许医院使用匿名患者数据验证AI性能，并在软件部署后提供持续监控。
该项目还将测试Aival平台对AI长期性能的监控能力，解决“漂移”问题——即由于患者群体、疾病趋势或设备更新的变化，导致软件准确性随时间下降的问题。
NHS大格拉斯哥和克莱德的顾问放射科医生Mark Hall博士表示：“部署后的监控监测是患者护理中的关键但常被忽视的部分，尤其是在放射学领域，早期发现疾病进展可能起到决定性作用。尽管其重要性显而易见，但目前尚无标准化指南。AI驱动的监控软件通过提供结构化方法填补了这一空白。”
项目还解决了AI测试过程漫长的问题。目前，评估单个产品可能需要九个月以上的时间，而一些医院部门已有超过200种AI选项可用，这限制了AI解决方案在临床环境中的推广。
该项目将比较六种用于中风和肺癌分诊的商业AI产品，包括由InferVision、Annalise-AI和Qure.AI开发的工具。
爱丁堡大学学者兼AI评估与保障专家Luciana Da’Adderio表示：“AI技术正在医疗环境中广泛部署，但其保障尚未得到应有的严格关注。迫切需要创新工具和技术来保障AI，而这些工具本身也必须经过彻底评估和验证。这一关键挑战构成了我们开创性项目的核心。”
Aival首席执行官兼创始人Kanwal Bhatia表示：“我们必须监控和检查用于患者健康决策的AI，以确保患者的最佳结果。任何使用AI的医疗工作者都需要确信该产品能够兑现其承诺——不仅现在如此，五年后亦然。建立有效的验证系统将促进对AI的信任和采用，并为NHS及私人医疗带来成本节约和增长。我们与NHS领导者、临床和技术团队密切合作，提供专业知识和软件，以确保其AI系统按预期运行。”
(全文结束)
