临床试验是医疗保健数据中AI应用显著增长的关键领域之一，但这也带来了独特的法律挑战。AI开发通常依赖从临床试验中收集的数据来训练算法，这需要仔细考虑同意、数据来源和伦理标准。当数据从第三方来源获取时，透明度关于收集方法、地理来源和匿名化标准变得至关重要。尽管临床试验中使用的知情同意书可以提供更明确的数据使用条款，但在试验结束后如何将这些数据重新用于AI目的仍存在模糊之处。
主要关切之一涉及数据再识别，即匿名数据可能被追溯到个人，尤其是在与其他数据集关联时。数据所有权也是医疗保健行业内部一个复杂且常常模糊的领域，特别是在美国。AI开发者必须向医院网络安全团队清楚解释数据收集的价值，确保他们了解数据将如何安全且合乎伦理地使用。
欧盟的AI法案通过采用基于风险的方法，为监管AI提供了一个有说服力的模型。在这个框架下，医疗保健数据属于“高风险”类别，需要严格的质量控制和伦理标准。这种方法强调数据的准确性、公平性和稳健性，解决了许多围绕在医疗保健中使用AI的伦理问题。基于风险的方法特别适合管理健康数据的复杂性，确保高标准的数据质量而不阻碍创新。
网络安全是另一个关键问题，因为健康数据特别容易受到攻击，可能导致身份盗用、欺诈和其他风险。伦理问题也非常重要，因为不当使用健康数据可能导致负面的公众反应，削弱对医疗保健提供者和AI技术的信任。
鉴于这些复杂性，专家们在2024年多伦多MEDTECH会议期间举行的小组讨论“解锁健康数据：创新的法律雷区导航”中提出了几项建议。
明确的所有权权利允许负责任的数据共享。制定明确的数据所有权框架至关重要。建立关于临床试验和医疗保健提供者数据所有权的精确指南，将促进透明度并减少数据使用冲突。明确的所有权权利可以为负责任的数据共享实践奠定基础。
与医疗保健提供者的沟通同样重要。AI开发者应进行开放沟通，以医院工作人员和网络安全团队能够理解的方式解释技术和法规术语。
采用类似于欧盟AI法案的基于风险的监管方法，将创造一个灵活而高标准的监管环境。这种方法将把健康数据使用分类为高风险，实施严格的控制，同时仍然促进技术进步。
公众对数据安全和伦理的教育也非常关键。教育公众关于数据安全实践和伦理AI使用可以帮助建立信任，并解决有关数据隐私和AI的常见担忧。公众意识倡议可以澄清为何收集某些数据以及如何保护这些数据，进一步增强对这些技术的信心。
(全文结束)
