在2026年HealthTechX亚洲会议的专题讨论中，新加坡医疗保健领导者探讨了代理式AI在医疗领域的负责任且有效整合方式。
人工智能（AI）已不再是遥不可及的梦想，而是正在重塑全球医疗保健的现实。然而，作为医疗保健高管，问题不再仅仅是"我们如何使用AI？"，而是"我们如何负责任、有效地将AI可持续地整合到复杂的医疗生态系统中？"
在2026年HealthTechX亚洲会议上，由新加坡中央医院的Kelvin（郑浩）Li主持的一场小组讨论中，三位当地医疗保健领导者探讨了AI在医疗保健领域应用所面临的多方面挑战和机遇，特别是在代理式AI兴起的背景下。
医疗保健中的AI困境：平衡创新与责任
国立大学卫生系统集团首席数字官Peter Forbes强调了"人在回路中"与"人在回路之上"的概念，突显了AI自主性与人类监督之间微妙的界限。临床决策——如诊断或治疗计划——必须始终有临床医生参与其中。相反，像药房库存管理这样的操作任务可能允许"人在回路之上"的场景，即AI在定期人工监控下自主运行。
他还对自动化偏见的风险提出警告。随着AI系统变得无处不在，医疗专业人员可能会不自觉地接受AI建议而不进行彻底审查。这强调了加强教育的必要性，确保临床医生仍然是AI输出的积极参与者，而非被动批准者。
从试点到规模化：突破采用门槛
新加坡国家卫生创新中心高级总监Pauline Erica Tay博士指出，AI解决方案从实验性试点到可扩展的企业级实施的过渡需要仔细规划。虽然早期创新侧重于技术可行性，但在医疗保健中规模化AI需要在监管批准、工作流程整合、运营和患者安全等多个方面进行严格评估。
Tay博士观察到："如果护士必须下载单独的应用程序或与新团队合作来使用AI解决方案，那么该技术就无法实现其主要目标：减轻医疗负担。"
治理作为推动力，而非障碍
Synapxe首席数据官Andy Ta详细阐述了新加坡针对AI解决方案的分层风险框架，该框架将用例分为临床、操作和研究三个层级。这种结构化方法在确保安全性和有效性的同时简化了审批流程。
Ta概述了Synapxe快速安全地采用创新的风险分层方法，包括安全、伦理、责任、安全性和验证检查。虽然这些关卡看似繁琐，但它们确保在公共医疗保健中部署的AI系统具有可扩展性和有效性。Synapxe的创新能力支持团队作为前端资源，指导创新者通过这些关卡并加速采用。
建立问责机制
随着AI日益融入临床工作流程和患者护理，问责制变得至关重要。Forbes指出，机构必须建立明确的事件管理协议，包括用于根本原因分析的审计追踪和可观察性机制。
Tay博士提出了一个恰当的类比："AI就像一个孩子。无论训练得多好，它偶尔也会产生意想不到的结果。"这需要技术提供商、机构和临床医生共同承担责任。虽然开发人员必须确保训练数据的稳健性和透明度，但机构对负责任的部署负有责任，而临床医生必须继续批判性地评估AI生成的见解。
当前挑战与未来准备
小组讨论确定了几项采用挑战。Ta指出，尽管机器学习在新加坡医疗保健系统中得到广泛应用，但代理式AI仍处于实验阶段。目前的部署包括HealthHub聊天机器人和健康规划工具，但临床应用需要大量验证。
Forbes强调应首先关注"高影响、高用户群、低风险"的用例，将代理式解决方案定位在操作或后台角色作为第一步。
小组列出了医院在推动AI采用时应牢记的几个关键要点：
- 投资教育：Forbes强调了通过实验使医疗专业人员具备基础AI素养的重要性。
- 采用以人为本的方法：Ta提倡将AI用作增强而非取代人类专业知识的工具。他建议："想想钢铁侠的战衣是如何增强人的能力，而不是取代人。"
- 关注以患者为中心的价值：Tay博士提醒领导者通过患者结果和疾病负担减少来衡量AI的影响，而不仅仅是成本效益。纵向研究将是量化这些益处的关键。
- 为普及做准备：尽管AI采用在许多环境中仍处于实验阶段，但它即将成为主流。建立强大的治理框架和解决伦理问题将至关重要。
机构、技术提供商和监管机构之间的合作对于实现这些目标并确保医疗保健能够安全地利用AI的变革潜力至关重要。
2026年HealthTechX亚洲会议于5月6-7日在新加坡金沙会展中心举行。
【全文结束】
