人工智能(AI)系统正在迅速演变为积极的合作者——这一转变被称为"代理化"(agentification)。就在一年前，这一领域还被描述为"正处于从将AI用作工具到部署AI作为代理的根本性转变的黎明"。在过去的一年中，随着多代理AI框架从理论承诺转向临床护理和生物医学研究的现实世界研究，这一转变已加速。从移植选择委员会到术后患者管理和数据驱动的药物发现，这些代理式AI同事正被视为医疗创新的下一个重大飞跃。然而，随着兴奋情绪的增长，重要问题也随之浮现：在医疗保健的复杂现实中，代理式AI能否改善患者预后，还是风险会削弱其承诺？
在临床决策方面，Bhat及其同事在本期中指出，多代理AI委员会现在能够模拟曾经专属于人类专家的细致、多学科讨论，不仅展示了在识别适合肝移植患者方面的高准确性，还改善了医疗公平性和一致性。在专科护理领域，Zou及其同事介绍了一种眼科代理式AI系统的理论工作流程，其中一系列专业代理自主管理诊断和护理过程，减轻临床医生的工作负担并简化患者护理。面向患者的AI代理也开始在骨科手术后支持个体方面发挥积极作用，早期证据表明这对恢复和患者满意度有益。同时，在生物医学研究中，代理式AI"副驾驶"正作为协作伙伴出现，帮助研究人员规划、完善和执行复杂的数据分析，最终指向一个发现本身由智能交互系统加速的未来。这一愿景令人信服；这些"虚拟同事"能够推理、辩论并与人类及彼此协调，可能会提高护理标准并加速发现。
然而，正如这些开创性研究所揭示的，从愿景到现实的旅程充满挑战。将代理式AI整合到真实医疗环境中的过程受到数据异质性和碎片化的阻碍。缺乏标准化数据和"信息孤岛"的持续存在，使得多代理系统难以在不同机构和专科之间无缝运行。随着AI代理在决策中承担更大角色，伦理和责任问题也变得更加复杂。当AI代理参与多学科团队时，明确谁对它们的建议负责以及如何保持人类监督至关重要。此外，尽管代理式AI承诺带来更大的公平性和透明度，但这些理想尚未完全实现。多代理系统仍可能延续算法偏见，其决策过程对临床医生、患者甚至系统内的其他代理可能仍然不透明。人与代理式AI之间的界面仍在发展，引发了关于临床医生和患者应如何与这些系统互动以及如何防范自动化偏见的问题。
为确保代理式AI提供真正的价值，几个实际步骤至关重要。首先，医疗和研究界应努力采用开放、可互操作的数据标准，并设置适当的保障措施，使代理式AI系统能够跨机构和专科访问和整合信息。其次，正如Welch及其同事在本期中强调的，参与代理式AI开发和部署的利益相关者应实施持续的偏见评估，并确保模型局限性的透明报告。第三，包括临床医生、工程师、伦理学家和患者在内的多学科团队应在系统开发中作为共同设计者参与，确保代理式AI解决真正的临床需求并与伦理标准保持一致。
尽管医学中的代理化为改善医疗保健带来了真正的潜力，但其成功取决于如何管理它引入的风险和复杂性。只有开发人员、监管机构、临床医生和患者共同努力，代理式AI才能从承诺转变为对医学产生有意义的影响。
【全文结束】
