在HIMSS AI in Healthcare论坛上，UC Davis Health的Dennis Chornenky展望了近未来的代理型AI，并预测该技术将迅速发展，这要求我们进行周密的规划和治理策略。
拉斯维加斯——如果关于医疗保健中的人工智能有一点是大家都能同意的，那就是所有人都还在摸索如何管理和应对它的诸多挑战与机遇，以及它最终会走向何方。这是一个庞大而复杂且有时显得神秘的话题，对许多人来说仍然很新。它是变革性的，并且每天都在快速发展和演变。
“如果我们想把这件事做好，有时候我们会觉得自己有点愚蠢。”HIMSS25 AI in Healthcare论坛的共同主持人Brian Spisak在周一上午说道。
医疗系统的领导者们正在寻求洞见和清晰的方向，以制定策略，利用AI优化财务和运营流程，创造价值，减少文档负担并简化工作流程——最终改善患者结果并实现基于价值的护理。
他们也在努力解决一些挑战：如何确保模型及其输出的透明度、可解释性和公平性；如何在临床环境中应用AI时保护患者安全；如何管理非常实际的劳动力影响。
在题为《AI政策考虑和转型技术的实际采用策略》的开场主题演讲中，UC Davis Health的首席AI顾问Dennis Chornenky探讨了这些话题及其他更多内容。
Chornenky指出，在不久的将来，人工智能将比许多人预期的更多地改变日常医疗服务的工作方式，即使是在当前充满希望和炒作的时代也是如此。
作为人类，“我们的思维能够很好地预测渐进式的变化，”他说。“但我们不太擅长预测那种跳跃式的变化：指数级变化，或者说是数量级的变化。”
“我们现在所处的环境是，AI的能力和潜在影响确实正在以指数级的速度发展，”他继续说道。“在未来几年里，我们可以预计，每年AI的认知推理能力都会提升，不是十倍，而是百倍。”
过去两年，我们大部分时间都在讨论、实施和探索大型语言模型和生成式AI的可能性。现在，2025年，代理型AI将成为医疗保健领域的下一个前沿。
“这是向前迈出的一步，它不仅利用了大型语言模型，还增加了许多其他方法来解决工作流程问题，”Chornenky说。
最简洁的描述两者之间的区别是什么？生成式AI可以创建内容，但代理型AI可以采取行动——甚至学习和设定目标。
“你可以把它想象成我们过去所说的机器人过程自动化（RPA），结合了AI——以及各种机会，”Chornenky说。
他说，提高效率的机会是巨大的，但对那些近年来已经习惯了自己完成某些任务的医疗工作者来说，潜在的风险也是巨大的。
随着“智能自动化”改变工作流程，AI变得“多模态，不仅在数据输入方面，而且在输出方面”，许多曾经需要多个步骤或多人协作才能完成的用例，现在只需一个提示就能完成。
“这就引出了一个问题，对于初级职位和他们的智力工作会发生什么？”Chornenky问道。“PPT演示文稿、研究报告等。如果所有这些都可以自动化，那么下一代人、我们的孩子如何获得初级职位的经验，以便最终升到高级职位？”
他的预测是：“我认为我们的孩子必须非常擅长管理AI。他们必须能够说，‘嘿，我可以有效地管理10个AI代理。’我认为这对雇主来说是一个更强的价值主张，而不是只是说，‘嘿，我只是一个聪明的人类。’”
“这就是我们将要面对的现实，”他补充道。“这有点可怕，但我们必须考虑这个问题。所以现在就开始教你的孩子如何有效地使用ChatGPT吧。”
而代理型AI只是下一步。接下来，正如许多人预测的那样，将是AGI，即人工通用智能。
“如果代理型AI可以开始完全取代工作岗位，我们可以认为AGI是一种更高层次的智能，也许甚至可以开始取代整个企业的管理，”Chornenky说。
“想象一下，一种更高层次的智能可以管理100个AI代理，几乎不需要太多的人类监督。可能有一个由人类组成的董事会，也可能有一些技术人员帮助运行所有系统，但该企业的大部分生产力都是由AI完成的。我们是否会继续像过去一样监管这些企业？”
而这还没有涉及到网络安全的影响。
“我们将使用AI来测试我们自己系统的漏洞。但你可以想象一场AI之间的军备竞赛吗？”
医疗保健组织需要为自主AI创建新的治理和采用基础设施，“因为这些功能正变得越来越强大，”Chornenky说。“如果没有正确的采用基础设施，受监管的行业，无论是医疗保健还是政府，都将很难采用这些更强大的技术。”
这种“AI治理差距”，即创新速度超过了法规和监管机构的速度，可能会阻止医疗保健组织更快地采用AI。
这对CIO来说也是一个困境，“因为他们面临着来自董事会、合作伙伴以及越来越多的患者的压力，要求他们采用新技术。但他们必须确保安全。如果他们没有适当的治理机制，他们又该如何做到这一点呢？”
这些都是未来必须回答的问题。而这个未来可能比许多人预期的来得更快。
与此同时，医疗工作者必须更加熟悉和适应AI。因为随着某些任务和角色自动化的益处越来越明显，就业市场将受到影响。
呼应AI时代的常见说法，Chornenky表示，在短期内，AI“不会取代管理者。但它会取代不使用AI的管理者。”
(全文结束)
