杀毒开关、护栏:关于医疗AI代理的激烈争论
本文探讨了医疗AI代理(Agentic AI)在医疗系统中的应用现状与争议。多位医疗IT领导者表示,在缺乏统一监管框架的情况下,各机构正谨慎尝试部署AI代理,但普遍采取“人在回路中”(human-in-the-loop)的监督模式,确保AI仅辅助而非替代临床决策。文章指出,AI代理目前在行政、文档、排程等非临床领域已逐步落地,但涉及患者诊疗决策时,仍面临责任界定、网络安全和监管空白等挑战。各医疗机构通过设置审计日志、实时仪表盘、杀毒开关和阶段性自主授权等护栏,试图在创新与安全之间取得平衡。

