临床试验是医疗保健数据中AI应用显著增长的关键领域之一，但这带来了独特的法律挑战。AI开发通常依赖从临床试验中收集的数据来训练算法，这要求仔细考虑同意、数据来源和伦理标准。当数据从第三方来源获取时，关于收集方法、地理来源和匿名化标准的透明度变得至关重要。虽然临床试验中使用的知情同意书可以提供更明确的数据使用条款，但关于试验结束后如何将这些数据用于AI目的仍存在模糊之处。
主要关切之一涉及数据再识别，即匿名数据可能通过与其他数据集链接而追溯到个人。数据所有权也是医疗保健领域内一个复杂且往往模糊的领域，尤其是在美国。AI开发者必须向医院网络安全团队清楚解释数据收集的价值，确保他们了解数据将如何安全和合乎伦理地使用。
欧盟的AI法案提出了一种基于风险的监管模型，通过采用这种模型，医疗保健数据被归类为“高风险”类别，需要严格的质量控制和伦理标准。这种方法强调数据的准确性、公平性和稳健性，解决了许多围绕在医疗保健中使用AI的伦理问题。基于风险的方法特别适合管理健康数据的复杂性，确保数据质量的高标准而不妨碍创新。
网络安全是另一个关键问题，因为健康数据特别容易受到泄露，可能导致身份盗用、欺诈和其他风险。伦理问题同样重要，因为不当使用健康数据可能导致负面的公众反应，损害医疗保健提供者和AI技术的信任。
鉴于这些复杂性，专家在2024年多伦多MEDTECH会议期间举行的小组讨论“解锁健康数据：创新的法律雷区导航”中提出了几项建议。
明确的所有权权利允许负责任的数据共享。制定明确的数据所有权框架至关重要。建立有关临床试验和医疗保健提供者数据的所有权的具体指南，将促进透明度并减少数据使用冲突。明确的所有权权利可以为负责任的数据共享实践奠定基础。
与医疗保健提供者的沟通也至关重要。AI开发者应进行开放沟通，以医院工作人员和网络安全团队能够理解的方式解释技术和法规术语。
采用类似于欧盟AI法案的风险基础监管方法，将创建一个灵活且高标准的监管环境。这种方法将健康数据使用分类为高风险，实施严格的控制，同时仍促进技术进步。
对公众进行数据安全和伦理教育也很重要。教育公众关于数据安全实践和合乎伦理的AI使用可以帮助建立信任并解决关于数据隐私和AI的常见担忧。公众意识计划可以澄清为什么收集某些数据以及如何保护这些数据，进一步增强对这些技术的信心。
(全文结束)
