尽管人工智能（AI）在医疗领域的潜在益处巨大，但也伴随着众多危险和风险。这正是监管如此重要的原因。
上个月底，关于医疗领域人工智能使用的公民陪审团提出了25项建议，旨在确保AI的安全、伦理和包容性使用。该陪审团还向卫生部长和企业、旅游及就业部长就这一主题发出了一封公开信。
该陪审团由爱尔兰患者组织、科学和工业平台（IPPOSI）组织，成员包括24名代表爱尔兰人口的个人。他们在2024年9月至12月期间召开会议，提供了公众对这一复杂问题的看法。
总体而言，陪审员认为应早期部署低风险、高质量且有人类监督的AI工具，以帮助缓解医疗系统的压力。
他们发现，AI可以推动治疗和护理方面的创新，并帮助个人更积极地管理自己的健康。
然而，陪审员强调了强有力的监管、透明的监督和强大的数据安全的重要性。为了建立公众信任，陪审团的一项关键建议是设立一个法定监管机构来监督AI在医疗领域的应用。该机构将负责制定和执行标准，包括AI许可、数据治理和监控。
此外，该机构还将对违规行为进行处罚，并发布合规报告，以确保医疗领域的AI技术保持安全、透明和可问责。
为了补充这一监管框架，陪审团还呼吁任命一名独立的医疗AI专员。这位专员将作为公共利益监督者，保护患者的权益。这个角色还将专注于提高公众对医疗领域AI使用的认识，提出处理个人健康数据的建议，并独立识别加强遵守监管标准的方法。专员还将管理公众投诉流程。
陪审团强调了透明度、患者自主权和知情同意的重要性。虽然支持自动包含个人健康数据用于AI培训，但他们强调必须明确告知个人并提供选择退出的选项。此外，陪审团建议在使用AI进行医疗时通知患者，并在可能的情况下，为患者提供不使用AI进行诊断或治疗的选择。
其他建议还包括呼吁开展公众教育活动，并制定一项详细说明AI在医疗领域作用的国家战略。建议该战略应在明年年初发布。
鉴于AI发展的速度，尽快制定监管框架和战略至关重要。
(全文结束)
