在法规不断演变中协调医疗领域的AI应用Orchestrating AI adoption in healthcare amid evolving regulation - FutureCIO

环球医讯 / AI与医疗健康来源:futurecio.tech泰国 - 英文2026-09-12 09:55:48 - 阅读时长8分钟 - 3535字
在全球医疗领域人工智能应用加速的背景下,本文深入探讨了泰国康民国际医院首席信息官James McLeary关于如何在不断演变的法规环境中协调AI采用的见解。文章分析了AI在医疗领域的成熟应用,从图像分析到减轻医生行政负担,同时强调在临床决策中保持人类责任的重要性。McLeary详细阐述了泰国即将出台的人工智能法案将如何遵循欧盟标准,重点关注透明度、风险评估和伦理考量。他还讨论了医疗机构面临的合规挑战,如如何在AI操作中确保《个人数据保护法》的合规,管理AI供应商合同中的责任条款,以及处理跨境数据流动问题。文章最后提出,应将AI治理视为一个持续的网络安全治理计划,利用NIST框架并采用提升和转移策略来覆盖AI部署,尽管这会增加领导层的工作负担。
医疗AI人工智能诊断临床工作流程行政效率治理信任代理式AI生成式AI影像分析中医药多模态健康护理预防药物伦理合规数据隐私监管
在法规不断演变中协调医疗领域的AI应用

[全球范围内,医疗领域的人工智能应用]正在迅速加速,其驱动力是生成式和代理式AI在临床工作流程、诊断和行政任务中的整合。在亚太地区,趋势强调通过治理建立信任,AI正从炒作转向负责任、与临床医生协调一致的系统。

[代理式AI投资]正在增加,75%的供应商预计其生产力提升将优于非代理式生成式AI。新加坡针对医疗软件豁免的AI沙盒项目,体现了监管支持如何使AI在公共医疗领域实现更广泛的规模化应用。东亚地区也正跟随这一势头,中国在临床任务代理式AI以及整合影像和传统中医药数据的多模态模型方面处于领先地位。

AI在医疗领域日趋成熟的作用

随着医疗领域进入一个新的成熟曲线,AI驱动的转型正将投资集中于行政效率和供应商运营。Frost & Sullivan指出,资金正回流到企业基础设施和混合虚拟护理领域,这可能会转移临床医生的工作负担,从而提升护理质量。

Gartner预测,到2026年,代理式AI将重新定义该行业,改变工作流程和体验,同时敦促首席信息官为其前景和风险做好准备,包括对劳动力的影响。Kellton博客强调,生成式AI在实时摘要和个性化治疗中的作用,以及代理式AI到2030年在预防性护理和药物研发中的自主执行能力,而2026年将标志着在超个性化和主动式模式中的应用加速。世界经济论坛强调了AI在诊断、早期疾病检测和减轻行政负担方面的变革潜力,并预测在劳动力短缺的情况下其将带来益处,尽管信任和监管等挑战将持续到2026年。

泰国AI政策现状

泰国的AI监管环境正在走向成熟,它借鉴全球标准,同时满足本地需求。

[James McLeary]是泰国[康民国际医院]的首席信息官兼首席信息安全官,他解释说:“泰国一直在起草人工智能法案,去年已发布征求意见稿,预计新的人工智能法将在今年年底前出台——这不保证,但这是预期。”

他预计该立法将侧重于“透明度、风险评估,确保AI部署中考虑到伦理方面”。这与欧盟《人工智能法案》等框架的一致性,表明了泰国对伦理治理和负责任的创新的承诺。

新兴法规带来的合规挑战

组织在适应新的AI规则时可能会遇到困难,尽管执法模式可能有助于过渡。回顾《个人数据保护法》,McLeary回忆说,在其最初执后,针对违规行为的行动有限。

他回忆道:“有些人认为它不会被执,导致一些人走了捷径。但后来在去年(2025年),我们看到数据隐私监管机构首次因数据隐私泄露事件处以罚款。”这反映了欧盟的GDPR。

他预见到AI领域可能会出现类似模式:“我可以想象,新的AI法规也会类似。法规是存在的,但它实际上是如何被执的。” 这种观点强调了主动进行合规规划的重要性,而不是假设初期的宽松政策会持续下去。

加速医疗领域的AI应用

McLeary评论说:“有趣的是,医疗保健是AI的早期采用者之一。在医疗保健领域,有很多用例可以追溯到几年前。例如,AI已经用于图像分析多年,比如在X光片中辅助医生检测潜在问题。”

他认为医疗保健保持了其领先地位:“我认为医疗保健在采用方面相当领先,而且这种情况将显著加速。我已经看到非常快的采用速度。”

一个高价值的应用是解决行政负担。McLeary解释说:“如果你今天去看医生,医生往往不会看着你。他或她会看着键盘,因为他们正在输入询问你的问题和他们所说的话的笔记。”

AI工具现在可以自动记录问诊过程,并在电子病历中生成结构化的笔记,医生可以稍后查看、查询或提示。他补充道:“这类用例将带来巨大的价值。”

在临床决策方面,谨慎仍然至关重要。McLeary警告说:“在医疗保健中,需要更加谨慎的是任何与AI工具自动决策相关的事情。我们不想跨越由AI代表医生做出临床决策的界限,因为这涉及整个法律领域。”

他强调:“AI可以用来增强(诊断)过程,但需要由医生按下按钮并做出决定。医生仍然负有责任。这仍然是人类的责任。”

“最终必须由人类做出决定,我认为在其他行业也是如此。无论哪个行业,我认为这在可预见的将来仍将是主流。”

James McLeary

确保AI运营中的PDPA合规

将AI与泰国的PDPA相结合,需要谨慎的同意管理和数据保护实践。

McLeary解释说:“同意部分不能是适用于所有情况的统一同意;它需要有一个法律依据。” 在医疗保健领域,这意味着要将通用数据隐私同意与程序或患者信息收集所需的特定临床同意区分开来。

对于AI训练和使用,他强调:“重要的是,访问数据的AI模型具有适当级别的法律依据同意——我们没有使用未经同意应用的数据来训练模型。” 这一原则延伸至数据最小化和去标识化,以确保AI工具只接收到有限的、必要的数据。

匿名化仍然具有挑战性:“我不会说这很容易,因为医院使用的许多医疗设备技术相当陈旧,并且对特定供应商来说非常专有。”

输出结果通常包含个人身份信息(PII),因此医院必须依赖供应商提供匿名化解决方案。

McLeary指出:“在大多数这些设备首次实施时,这从来都不是需要被考虑的事情。但现在我们看到了将其集成到IT网络中的必要性……作为首席信息官,我需要提前防范可能来自这些类型机器的任何数据泄露。”

为责任问题构建AI供应商合同

鉴于泰国即将出台的人工智能法预计将使数据控制者承担责任,供应商合同必须包含强有力的保障措施。McLeary强调:“对于AI合同,重要的是我们要有数据隐私、数据控制者和数据处理者的原则。在这些情况下,我们(医疗服务提供商)是数据控制者,因此责任由我们承担。我们不能外包风险。”

关键条款应涵盖:“期望实施哪些控制措施。例如,我们应该禁止AI供应商在其自有训练模型中重复使用任何客户数据。默认情况下,我们应在(AI)合同中明确说明AI提供商将如何证明这些控制措施。然后,在退出权方面,如果我们发现AI供应商存在违约或性能问题,我们如何安全地退出,并且确保我们的数据不会因为退出策略而进一步暴露。”

管理跨境数据流

平衡本地化要求与区域计算需求是一个新兴的优先事项。

McLeary解释说:“老实说,对我来说,这是一个新兴的话题——我正在努力现在就把基础打好,因为到目前为止,数据隐私法允许泰国进行跨境数据传输。只要接收国拥有与泰国类似的标准,就没有严格的数据主权要求。但我认为未来几年这会收紧,也许新的人工智能法会包含这方面的内容。”

他的首选方法是在可行的情况下,将个人身份信息(PII)保留在本地。他说:“作为第一步,我们能否确保所有PII数据都留在泰国境内。”

对于计算密集型的AI工作负载,他倾向于採用联邦学习模型:“现在有一些方法可以对其进行联邦处理,这样可识别信息保留在本地,我们将分析数据、遥测数据发送到新加坡进行计算。我们正在将其纳入政策中,以避免将PII数据发送到其他地区的场景。”

从全球监管框架中学习

随着泰国法规的演变,它可以借鉴已有的模式。

McLeary建议:“欧盟《人工智能法案》是第一个也是最全面的法案,也是泰国为自身要求所效仿的法案。我也是网络安全出身,所以对NIST非常熟悉。当NIST推出他们的AI风险管理框架时,我立即转向了它,因为它可以与NIST网络安全框架相关联。来自本地区的另一个框架,考虑到东盟枢纽的组成部分,是新加坡AI模型。”

对泰国领导层采用AI的指导

McLeary主张以与网络安全计划相同的方式来看待AI治理。

他详细阐述了一项持续进行的工作:“我认为应该像对待一个网络安全治理计划一样对待它(AI),我的意思是,如果我们看看网络计划的所有要素,它们确实适用于AI部署。”

他通过讲解关键的网络安全领域及其在AI中的直接相似性来阐述这种方法:

资产盘点和可见性:“以识别为例,我是否掌握组织中所有AI使用的清单?是否存在我不知道的影子AI?我是否对这些AI解决方案进行了适当的资产管理?”

访问控制:“我是否管理着对这些AI平台的身份和认证?我是否有适当的安防控制措施来保护AI工具,并管理它们对不同数据的访问?”

监控和响应:“在安全监控方面,如果其中一个AI解决方案发生破坏,我将如何得知?谁在主动监控它?他们是否有事件响应能力?”

McLeary指出,已广泛应用于网络安全的NIST框架可以直接改编(“提升和转移”)以覆盖AI部署。

“我们已经反复应用于网络安全的那些NIST框架,现在可以提升和转移,并将其应用于AI。”

然而,他警告说,这种调整将显著增加领导团队的工作量。

“然而,这意味着首席信息安全官和首席信息官的工作量增加了两倍,因为他们要为本地网络开发NIST框架,然后必须转向云,现在又必须转向AI。”

James McLeary

【全文结束】

猜你喜欢
  • 医疗保健中的AI:应对下一场大流行病的强大盟友医疗保健中的AI:应对下一场大流行病的强大盟友
  • 南非青少年入选麻省理工学院人工智能与医疗训练营南非青少年入选麻省理工学院人工智能与医疗训练营
  • 在传真和人工智能之间:欧洲的数字健康鸿沟在传真和人工智能之间:欧洲的数字健康鸿沟
  • DOC 2025视频:脑疾病突破DOC 2025视频:脑疾病突破
  • 中国医疗AI在南方国家立足,从筛查起步中国医疗AI在南方国家立足,从筛查起步
  • FDA授予PathAI病理学解决方案突破性设备认定FDA授予PathAI病理学解决方案突破性设备认定
  • 医疗是人工智能最艰难的考验医疗是人工智能最艰难的考验
  • Petra-AI:人工智能支持围绝经期女性Petra-AI:人工智能支持围绝经期女性
  • 全自动AI分诊在GDPR和《人工智能法案》下面临法律障碍全自动AI分诊在GDPR和《人工智能法案》下面临法律障碍
  • 南非青少年入选麻省理工学院人工智能与医疗暑期训练营南非青少年入选麻省理工学院人工智能与医疗暑期训练营
热点资讯
全站热点
全站热文