美国食品药品监督管理局（FDA）本周发布了一份草案指南，其中包含关于提交包含AI赋能软件功能的医疗设备的建议。根据该机构的说法，这些建议支持其对安全性和有效性的评估。
“这些建议反映了在整个设备总产品生命周期（TPLC）中对风险进行全面管理的方法，”FDA表示，“为了支持FDA对设备进行评估所需的适当文件的开发，这份草案指南还提出了有关设计、开发和实施AI赋能设备的建议，制造商可以在整个TPLC中考虑使用这些建议。”
FDA指出，该指南并不是为了提供提交AI赋能设备所需的所有描述。它建议早期参与以指导产品开发和提交准备。
在指南中，FDA概述了其当前关于在AI赋能设备的TPLC中处理透明度和偏见的想法。FDA认为，透明度确保了重要信息的可访问性和功能性理解，包括信息共享和设备可用性。AI偏见可能会以系统性但有时难以预见的方式产生错误结果，这可能会影响设备的安全性和有效性。
对于AI赋能设备，FDA表示，考虑到透明度和偏见的原因在于这些设备对用户来说可能难以理解，因为模型的不透明性和对数据相关性的依赖，这些相关性可能无法直接映射到生物学上合理的机制。
在整个TPLC中，FDA表示控制AI赋能设备的偏见可以包括在开发、测试和监控的数据收集过程中解决代表性问题。开发者还可以评估在预期用途子群体中的性能。
最后，该指南包括对上市后AI赋能设备的建议。这包括突出输入数据差异的敏感性，例如开发期间使用的输入数据与实际部署中的输入数据之间的差异。除了数据漂移外，设备的性能也可能因其他因素而发生变化，FDA表示。
(全文结束)
