Domelabs AI的首席执行官Dennis Chornenky在HIMSS25年度会议上分享了他对代理型AI未来发展的看法。HIMSS25是医疗卫生信息与管理系统协会的年度会议。
在会议之后，《医疗创新》主编Mark Hagland与Chornenky进行了深入交流，进一步探讨了代理型AI的话题。以下是他们对话的摘录。
许多人不清楚什么是代理型AI；您如何定义代理型AI？
“代理”这个词很重要，也有很多混淆的地方。有些人试图将代理型AI与AI代理区分开来。它只是指使用AI代理的方法；这是一个广泛的术语，这些术语完全可以互换。
代理型AI的概念似乎最近才出现，是这样吗？
实际上，这些术语已经存在多年了，只是最近变得更流行了，因为我们进入了一个可以利用大型语言模型（LLM）作为AI代理核心组件的时代。一个利用大型语言模型的AI代理可以完成许多以前设想但未能成功实现的任务。这实际上是给机器设定一个目标，并赋予它尝试不同方法和利用不同资源来实现这个目标的能力。如果一个过程非常静态，那就不是真正的AI代理，而更像是AI工作流。对于AI代理来说，在实现目标的过程中有更多的自主性和变异性，这也是为什么它会带来新的风险。
与生成式AI相比，代理型AI的不同之处在于，它不仅仅创造内容或想法，还可以采取行动来实现特定目标。它还可以处理多种类型的数据和协议，无论是视觉、音频、财务数据集还是医疗数据集，因此，它可以处理多模态的数据输入。此外，它在输出方面也具有多模态性，可以创建比ChatGPT更多样化的输出。例如，大多数LLM不能自己创建PowerPoint演示文稿。所以，一个AI代理会有更多的能力来创建一个PPT文档，或者创建一封电子邮件并发送给某人。因此，我们需要决定代理应该拥有多大的自由度来实现目标。
引入代理型AI将如何改变临床开发？
重要的是要记住，真正有效的AI代理的开发将会比较缓慢；这涉及到复杂的设计挑战和风险管理。可能还需要一段时间才能看到实际的应用增长。目前，还没有主要的医疗机构全面使用AI代理，尽管已经有一些试点项目。但我认为我们会开始看到一些有效且有用的组合功能和模式，从而推动价值。某些领域将非常适合代理型AI；我们需要看到正确的设计选择，以确定哪些任务和工作流程最适合某种技术组合。当我们考虑代理时，我们应该想到技术的组合。可能需要多种技术的组合来创建精确的任务并高效地集成流程。
另一个维度涉及将人类互动与机器配对。人类能够处理的变异性非常多，这些都需要编程到代理中。因此，最初面临的挑战将是有效地将代理与人类配对。代理需要良好的记忆来捕捉和标准化人类希望它们执行的某些行为。在适当的时候写某些电子邮件，或者不这样做。我不希望每天都要重新训练代理；如果我必须不断告诉它同样的细节，那就像是有一个永远学不会工作的实习生。因此，记忆组件非常重要；另一个重要组件是精度。
大型语言模型的基本缺陷是它们不够精确。基本上是一个启发式模型：一个人接下来可能会说什么？你可以问同一个问题五次，有时会得到五个非常不同的答案。因此，当你问“草莓”这个词中有多少个“r”时，许多LLM经常会答错。这不是一个精确的数学模型，而是涉及预测的能力。因此，在关键任务领域如护理交付中，精度至关重要，所以我们需要进一步开发，对于AI代理来说，这一组件将非常重要。你需要可靠性和一致性。
贵组织正在帮助领导VALID AI，这是医疗领域生成式AI的执行加速器。
是的，我们描述VALID AI为一个由50多个领先的医疗系统和支付方组成的协作组织，致力于推进医疗领域负责任的AI采用。VALID提供高级领导者的同行合作，并为AI治理、网络安全和高效的AI采用开发资源、项目和最佳实践。
(全文结束)
