医疗科技公司必须规范使用人工智能
根据Valerie Armstrong-Surgenor的报道，2024年8月1日，欧盟AI法案正式生效，预计将重塑医疗科技行业，对苏格兰医疗设备的使用产生重大影响。目前，几乎三分之二的英国医疗保健机构已经在其运营中利用了人工智能。这项立法标志着医疗技术监管和监控方式的根本转变。
尽管这是欧洲立法，但这不仅仅是欧洲的问题。如果一家公司的医疗设备使用了人工智能并且“在欧盟使用或销售”，就必须遵守该法案的要求，无论该公司位于何处。
随着AI法案将在2026年开始强制执行，部分关键条款最早将于2025年2月生效，各组织必须立即开始准备。苏格兰的医疗保健企业和使用AI的组织需要了解这些法规，以确保与欧盟合作伙伴或客户的交易符合规定。
医疗保健组织尤其需要注意“高风险系统”。将人工智能作为组件或独立运行的医疗设备将被归类为高风险系统，因为它们可能对患者健康和安全产生潜在影响。这种分类触发了一系列严格的技术合规措施，医疗保健组织需要满足这些要求。
为了帮助企业应对这一分类，我们概述了高风险AI系统的具体技术合规要求：
- 建立全面的风险管理系统。医疗设备中的人工智能系统需要进行全面的、持续的风险管理——不仅包括设计和开发阶段，还包括产品的整个生命周期。
- 确保基于AI的医疗设备符合监管质量标准。高质量的合规数据集对于这些设备的安全性和性能至关重要，因为它们通常处理敏感的健康数据。低质量的数据可能会危及诊断或治疗决策，危及患者安全，并违反欧盟AI法案和GDPR的规定。
- 编制技术文件以证明合规性，并确保有人类监督。这对高风险AI系统尤为重要，以确保它们符合法规，并不会取代人类判断——尤其是那些做出诊断或治疗决定的医疗设备。
- 保证适当的准确性、稳健性和网络安全。由AI驱动的设备必须按照法案设计，配备网络安全保护措施。公司应向使用者提供使用说明，以确保医疗设备的安全使用。
对于最严重的违规行为，非合规的罚款可能高达全球年营业额的6%。不良的数据管理、不充分的监督和薄弱的风险管理框架也可能导致公司被市场淘汰，因此没有时间可以浪费在准备上。
随着AI创新的加速，监管机构正努力跟上步伐，苏格兰的医疗保健组织以及更广泛的医疗科技行业也必须如此。虽然合规可能看起来具有挑战性，但它也为公司提供了改进系统和建立产品信任的机会。
各国正在争先恐后地制定足够强大的法规，以应对AI的快速发展，苏格兰公司应监测监管变化，以获得可能在其本国实施的潜在法律的见解。通过走在监管曲线的前面，苏格兰医疗设备制造商和更广泛的医疗科技行业可以在继续创新的同时，确保符合必要的安全和有效性标准。
(全文结束)
