拉斯维加斯——医疗保健领域的人工智能应用通常基于准确性、数据质量和临床性能进行评估。但另一个因素可能同样重要：这些工具设计过程中嵌入的价值观。
在周三于此处举行的2026年HIMSS全球健康大会暨展览会上，HIMSS总裁兼首席执行官Hal Wolf、哈佛医学院的Isaac Kohane博士以及通过视频连线参加的Clalit健康服务公司首席创新官Ran Balicher，共同探讨了AI系统中内置的“价值主张”如何塑造这些工具在实际医疗环境中的运作方式。
这场由FINN Partners的Gil Bashe主持的讨论强调，医疗系统在评估AI时，必须超越数据集和算法，去理解这些应用自身嵌入的假设和优先级。
所有人都指出，AI正迅速从实验阶段进入医疗运营的核心，塑造着数据流动的方式、临床医生获取信息的方式以及整个医疗系统的决策方式。
然而，医疗AI最大的风险可能不在于数据集或算法本身，而在于这些工具设计过程中嵌入的价值观。
Bashe开场指出，对AI在医疗领域的热情正迅速升温，但领导者面临的核心问题是这些工具最终将如何重塑护理服务。
原本只是探索性技术，如今已嵌入临床系统和运营工作流，影响着信息流动和决策方式。
巨额投资正发生在医疗系统面临人口老龄化、临床复杂性上升和劳动力短缺的时刻。由于医疗约占美国经济的五分之一，风险巨大。
“AI带来了关于治理和结果责任的新问题，”Bashe说，并强调这些是领导决策，而非纯粹的技术问题。
Kohane警告说，医疗组织在AI应用上面临一个悖论：他们可能同时行动过慢和过快。
一方面，医疗系统花费大量时间讨论安全性和治理，许多组织在将AI部署到收入周期管理等领域之外时一直持谨慎态度。这种缓慢的步伐为临床医生独立尝试外部工具创造了机会。
“颠覆性元素在没有评估和监督的情况下潜入，”Kohane说。“最坏的结果将是，AI将医疗中最糟糕的做法凝固下来。”
Wolf表示，这种情况类似于医疗领域以往的技术应用，包括医院内Wi-Fi连接的引入。
当时，临床医生经常将自购路由器带入设施以更轻松地访问数据，造成了后来组织必须解决的安全漏洞。
“基础设施花了很长时间才赶上，”Wolf说。“AI正在发生同样的事情。”
他补充说，挑战在于对AI工具的需求增长速度快于治理结构能够跟上的速度。
“当存在需求缺口，而背后没有结构化治理时，就存在风险，”Wolf说。“由于紧迫性，我们必须加快速度，并且必须教育医疗社区内所有层级如何正确使用。”
Balicher表示，更深层次的担忧是，如果AI系统在未仔细评估其内置假设的情况下被采用，可能会导致规模性的错位护理。
“算法只是嵌入代码中的观点，”他说。
他指出，即使组织开发自己的工具，底层模型也常常包含难以检测的内置价值观。
“不存在所谓的AI中立，”Balicher说。“它有一套内嵌的价值观，而这些价值观对我们来说是隐藏的。”
这些内嵌的优先级可能导致与组织临床或运营目标相冲突的结果。例如，即使医疗系统在领导层优先事项上实现了临床和财务团队的一致，外部AI模型仍可能为不同的目标进行优化。
“当我们使用现成的大语言模型（LLM）时，我们得到了一整套可能完全与我们的意图不符的价值观，”Balicher说。
因此，小组成员强调，评估AI工具必须超越测试准确性或性能指标。
这意味着医疗组织还必须检查系统自身嵌入的假设，并投资于能够早期识别这些风险的治理框架。
他们警告说，如果没有这种监督，AI可能放大医疗系统现有问题，而非解决它们。
【全文结束】