医疗保健中人工智能/机器学习的演变角色
人工智能/机器学习（AI/ML）在医疗保健领域的应用正在迅速发展，并带来了新的挑战。不仅医疗设备使用AI进行诊断已有数十年历史，我们还看到了AI在组织中的新用途，包括生成式AI，用于编码、数据挖掘以发现见解和趋势等众多其他应用。
AI和ML在医疗保健中的重要性不容忽视。这些技术每天都在帮助制造商创新新产品或改进现有产品，从而协助医疗提供者并改善患者护理。然而，AI/ML技术的迅速进步也导致了显著的监管和法律挑战，以及在美国及其他国家（包括欧洲和中国）的政策变化。除了这些法规外，现有的隐私和网络安全风险以及知识产权（IP）考虑仍然相关，且围绕这些领域的执法和诉讼活动也在增加。（参见我们的FDA专题警报以获取更多关于FDA的考虑）。
美国AI监管：联邦和州的发展
在美国，拜登政府时期强调消费者保护和护栏的人工智能行政命令于2025年1月被“消除美国在人工智能领域领导地位障碍”的行政命令所取代。该命令旨在尽量减少联邦规则制定对人工智能创新的影响。此前，2024年的两党努力在国家标准与技术研究院（NIST）建立了人工智能安全研究所，该研究所开发了一个类似于其他NIST框架的人工智能框架。尽管有关私人部门AI使用的联邦立法已被提出，但迄今为止进展甚微，许多立法者不愿为该技术设置障碍。在缺乏联邦行动的情况下，加利福尼亚州、科罗拉多州和犹他州等州已经通过了自己的法规来监管AI系统。
对于医疗保健行业来说，最值得注意的是《科罗拉多州人工智能法》，该法重点关注高风险AI系统（包括那些在做出重大决策时起重要作用的系统），要求开发者提供详细的文档并促进影响评估。虽然该法对某些符合“实质性等效”标准的FDA监管产品以及执行非高风险医疗建议的HIPAA监管实体给予豁免，但该法非常广泛，这些豁免的实际影响尚不确定。由于担心语言过于宽泛和模糊，一个特别工作组被任命来评估并建议对该法进行修改，尽管一些建议已经被提出，但最终如何解决仍有待观察。我们可能会看到其他州效仿科罗拉多州的做法，这反映了欧洲立法中的一些相同原则。
欧盟的人工智能监管
在欧盟（EU），《欧盟人工智能法案》和《通用数据保护条例》（GDPR）是管理AI的关键监管框架。《欧盟人工智能法案》定义了AI系统，并对高风险AI系统施加了较高的监管负担，其中包括许多医疗设备。该法案强调风险管理、数据治理、技术文档和整个AI系统生命周期的透明度。高风险AI系统还需要符合性评估，类似于医疗器械的公告机构要求。对于医疗器械制造商而言，这些规定必须在2026年8月2日前遵守，在许多情况下，这些规定将叠加在当前的医疗器械法规之上。
中国的人工智能监管方法
中国也在积极进行人工智能监管，考虑措施以平衡人工智能的安全性和安全性与创新和领导目标。到目前为止，中国的监管主要集中在生成式AI上，但更广泛的人工智能发展将来可能会受到进一步监管。与中国近期的政策制定类似，中国似乎在寻求平衡人工智能的保障措施和鼓励创新。
知识产权考虑
知识产权（IP）纠纷是AI法律中的另一个活跃领域，美国目前正在进行大量与使用版权作品训练AI/ML模型相关的案件。IP考虑具有双重性——未经管理地使用生成式AI工具可能会无意中导致IP或商业秘密的损失，而另一方面，生命科学公司也必须仔细考虑IP和其他数据所有权权利是否可能限制其使用数据来开发或增强自己的AI/ML模型。随着案例法的进一步发展，这些界限将会更加明确。
AI开发中的隐私和网络安全风险
此外，隐私和网络安全问题继续影响着AI/ML的使用和发展。使用个人数据训练AI仍然是美国及其他国家监管机构关注的重要领域，尤其是健康数据。使用这些信息作为AI/ML工具的输入也会引发隐私和网络安全问题，因为公司在处理员工和供应商使用AI工具完成工作时，有时会因这些工具未得到适当审查而面临IP保护或输入数据隐私的风险。
幸运的是，通过保持信息更新、计划实施政策和培训、进行供应商风险评估、了解隐私要求以及适当的合同条款，可以缓解这些风险。
(全文结束)
