欧盟人工智能（AI）法案可能保护了公民，但在生命科学行业中的一些专家担心它可能给企业带来的潜在挑战。
随着AI继续渗透到药物开发路径中，像礼来、赛诺菲和BioNTech这样的大公司已经通过重大交易将这项技术纳入其开发路径。与此同时，英伟达也与多家公司建立了合作伙伴关系，包括与Gain Therapeutics等小型公司的合作，以在未来几年内推动其AI平台和疗法取得重大市场成功。Gain Therapeutics的首席执行官Gene Mack表示，该公司与英伟达的合作旨在推进其用于药物发现的Magellan平台。
除了在加速药物发现方面的潜力外，AI还被生命科学行业探索用于患者招募、临床试验设计等方面，但仍有批评者指出围绕这项技术缺乏监管。在LSX世界大会（于29-30日举行）上，专家们分享了他们对欧盟AI法案潜在结果的看法以及未来AI监管的方向。
欧盟AI法案（Regulation (EU) 2024/1689），于2024年7月12日在欧盟官方期刊上首次发布，据称是全球首个关于AI的法规。该法案根据风险级别对AI的使用进行分类：不可接受的风险、高风险、有限风险和最小风险。不可接受的风险包括操纵人们从事不希望的行为的AI系统和实时远程生物识别系统等，而最小风险则涵盖AI支持的视频游戏和垃圾邮件过滤器等。
AI法案于2024年8月首次实施，并将于2026年8月全面生效，但某些例外情况除外。例如，有关AI素养的规定于2025年2月2日生效，治理规则和通用AI模型的义务于2025年8月2日生效，如欧盟委员会网站所述。
根据GlobalData的一份关于AI的报告，使用AI系统的组织所承担的义务比提供或开发、销售或供应AI系统或模型的组织要少。开发高风险AI系统的公司需在2027年8月2日前遵守新指南。此外，未能遵守规定的企业将面临高达3500万欧元或其全球收入7%的罚款。
荷兰标准化研究所NEN的医疗设备和AI主席Leon Doorn在LSX会议上表示，该法规应“帮助我们保护我们的基本权利”。然而，对于该法案如何与现有法规保持一致仍存在担忧。“从立法层面来看，欧盟AI法案和医疗器械法规（MDR）结合得很好，但在监管方面，存在复杂性。”Doorn补充道。
与医疗器械法规的交叉
欧盟委员会于2017年首次通过了医疗器械法规（MDR），并设定了到2027年逐步实施该法律的时间表。该法规更新了1992年的医疗器械指令（MDD）。目前，根据MDR，商业化的医疗器械必须获得CE标志，确保制造商已评估该设备并确认其符合MDR下的一般安全和性能要求。“AI法案做得最好的一点是与MDR保持一致，”总部位于德国慕尼黑的医疗设备公司Custom Surgical的首席技术官Fernando Benito说。
Doorn表示，遵守AI法案的制药公司可能会受益于CE标志为公司带来的良好形象。虽然监管可能会“扼杀”生命科学中的AI发展，但额外的指导方针可能会增加消费者的信任，AstraZeneca前全球数字监管策略主管Sridevi Nagarajan在会议上补充道。
然而，从实施MDR到欧盟AI法案，引发了关于监管机构如何确保不“阻碍进展”的问题。Doorn表示，AI法案中的基于风险的方法未出现在MDR的协调标准列表中，因此这两种法规的结合可能会使公司承担更大的负担。
未来的可能性
新的法规风险类别可能为行业带来一些好处，Nagarajan说。“中等[有限]风险的AI可能能够利用特权，”Nagarajan补充道。有限和最小风险级别的规定可能会增加制药公司在投资者和用户中使用该技术的信任度，她解释道。
“即将进入AI领域的人有优势[遵循欧盟AI法案]，但对于已经在使用AI的人来说，情况会有所不同，”Benito说。新的AI法规也可能对小型公司和初创企业构成更大挑战，Benito解释道。“这[欧盟AI法案]只适用于欧洲。此外，欧盟已经有MDR和通用数据保护条例（GDPR），所以如果再增加这一层，可能会使欧洲初创企业更晚进入市场，”Benito说。
“美国公司可能会更早地推出他们的第四版AI技术，而欧洲公司仍在第一版，”Benito说。“然后美国公司可以重新调整他们的技术以符合欧盟法规，”他补充道。
根据GlobalData关于医疗保健中AI的报告，不同国家之间的AI法规差异可能会限制在全球范围内训练AI系统的能力。
另一方面，一些专家认为，尽管欧盟AI法案增加了额外的障碍，但早期在欧盟推出可能更受欢迎。“当GDPR发布时，它只是欧洲的，但现在它是全球性的，”Doorn说。因此，如果欧盟AI法案走类似的路径，较早合规的公司将看到好处，他解释道。“这对欧洲来说是一个巨大的机会，不要等待美国领先，”Nagarajan说。
未受监管的设备问题将越来越频繁地出现，因此“现在是各国和公司拥抱更多AI监管的时候了，”Nagarajan补充道。“欧盟AI法案正在为世界其他地区树立先例……看到欧盟如此重视公民，即使对行业造成一定损害，这也是件好事，”Benito说。
(全文结束)
