AI医疗设备在真实患者身上可能失效,报告发出警告
一份Paragon Health Institute最新报告警示,AI医疗设备虽在测试中表现良好,但在面对医学图像与训练数据不同的真实患者时可能失效。报告深入分析了"泛化不确定性"问题,指出AI性能高度依赖训练数据特性,当患者特征、成像技术或临床环境与开发数据有显著差异时,设备可能出现故障,导致患者安全风险增加、临床医生信任度下降,并阻碍AI技术在医疗领域的普及应用。报告建议采用"数字相似性分析"方法并在监管上加强全产品生命周期风险管理,以应对当前验证不足和未来可能出现的自适应AI系统挑战,同时强调即使训练数据包含多样化群体,个别患者仍可能面临不准确输出的更高风险。

