尽管创新机会众多，但由于缺乏一个关键要素——信任，成功仍然难以实现。
迪拜卫生局AI主管马吉德·苏丹·阿尔·梅海里表示，在医疗这样高风险的领域，没有信任，任何创新都不可能大规模实施。
阿尔·梅海里将在新加坡举行的HIMSS26亚太会议上发表主题演讲，题为"监管者作为AI架构师：为医疗行业构建信任基础设施"。
《医疗IT新闻》采访了阿尔·梅海里，他讨论了在AI推动的快速创新背景下，医疗监管者的角色如何演变，以及什么因素真正推动了创新的大规模应用。
问：您的主题演讲将监管者描述为"AI架构师"。这对医疗实践意味着什么实际转变？
答：在医疗历史的大部分时间里，监管者是在产品已经存在后才介入的机构：负责检查、许可，并在出现问题时进行干预。这种姿态不再适合一种在部署后会学习、适应并改变其行为的技术。因此，迪拜卫生局已主动向前推进。建筑师不会等到建筑完工才来批准；建筑师设计基础、设定承重标准，并在任何建筑开始前决定安全措施的位置。
实际上，这意味着在生态系统本身中设计三样东西，而不是事后附加。治理：明确的政策、风险层级和AI解决方案注册库，使整个行业能够了解已部署的内容及其位置。验证：独立的保证能力，在模型触及患者之前对其进行红队测试和压力测试。主权：本地数据、受监管的沙箱和特定于人群的模型，使AI为实际服务的人群而构建。我们还将AI应用于自身的监管工作，从许可到检查，因此我们实践与期望他人相同的纪律。原则很简单，也是整个主题演讲的核心：信任不是隐含的；它必须被设计到架构中。
问：作为迪拜卫生局AI主管，您认为当前AI雄心与医疗领域现实信任之间最大的差距在哪里？
答：差距不在雄心，也不在技术。在迪拜，我们确定了数十个可信的用例，几乎每个部门和每个提供商都表现出真正的热情。真正的差距在于，一个在演示中令人印象深刻的试点与一个能够在真实人口中、在困难日子里被大规模信任的系统之间。
信任不是通过在受控测试中表现良好的模型获得的。它是通过当模型漂移、遇到从未训练过的患者或悄无声息地失败时发生的事情获得的。缩小这一差距需要三样大多数医疗系统仍在构建的东西：特定于AI的治理和问责制；能够证明系统在部署前和部署期间安全的独立验证和保证层；以及数据主权，使模型反映本地人口而非借用的人口。再加上劳动力差距；全球研究仍显示大多数医疗专业人员的AI基础能力不足。在这些基础到位之前，雄心超越了保证。我们的整个战略都是为了有意缩小这一距离，因为在医疗领域，验证是信任的守门人。
问：医疗领导者对AI监管可能有什么误解？您希望如何在主题演讲中挑战这种观点？
答：最常见的误解是认为监管是刹车，而治理是创新后付出的代价：减缓好想法的东西。我想直接挑战这一点，因为事实恰恰相反。在高风险领域，缺乏信任基础设施会减缓进步。没有严肃的提供商会大规模部署他们不信任的东西，没有临床医生会依赖他们无法解释的工具，也不应该要求患者这样做。
设计良好、基于风险的治理是一种加速器。通过按风险对用例进行分类，您可以允许高价值、低风险的应用通过清晰的路径快速移动，而不是被全面谨慎所阻碍。受监管的沙箱让创新者能够安全且更快地实验，而不是更慢。我们特意将我们的治理框架定位为赋能而非惩罚性，与提供商和供应商共同创建，并通过认证、基准认可和渐进式许可等激励措施加强。建立保证实验室和沙箱的监管机构正在消除摩擦，而不是增加摩擦。这就是我所说的负责任的速度：正是因为护栏是设计好的，所以才能快速移动。
问：亚太地区的医疗系统可以从迪拜的医疗AI方法中学到什么？
答：我想从谦逊开始，因为我们的许多建设都是从亚太地区学到的。特别是新加坡——通过其国家平台方法、专门的AI办公室和模型治理沙箱——塑造了我们的思维，我们将我们的战略与新加坡、美国和英国的领先系统进行了基准比较。
我们愿意提供的是几个来之不易的经验教训。首先，将信任视为要设计的系统，而不是要归档的文档。治理、验证和本地化应作为一个相互连接的架构运行。第二，监管机构应首先在自身工作中使用AI；以身作则比从旁发布规则赢得更多信誉。第三，认真对待主权。在一个拥有200多个国家的人口的城市中，为另一个人口训练的模型可能不适合我们，这就是为什么本地数据和特定于人群的模型很重要。第四，从第一天起就嵌入治理，而不是事后修补，并将其作为混合集中监督与分散执行来运行，这样您在扩展时既能保持控制又能保持敏捷性。
问：您希望与会者从您的主题演讲中带走什么？
答：一个想法高于一切：在医疗领域，信任是真正的基础设施，必须有人设计它。我们无休止地讨论算法、计算和数据，但真正缺乏的是合理的信心：知道系统在接触患者之前是安全的，并且随着系统的演变继续知道这一点。
如果与会者带着单一的心态转变离开，我希望是：监管者的角色不再仅仅是允许或禁止。它是设计创新可以同时快速安全地移动的条件，从一开始就设计好治理、验证和主权。这就是如何将AI雄心转化为公众真正信任的AI。没有单一机构可以单独建立这一点。这就是为什么我将以一个邀请结束：与监管机构、提供商、学术界和行业合作，共同构建这种信任基础设施。
【全文结束】