近年来，围绕医疗领域人工智能(AI)的讨论主要集中在全面自动化的呼声上。像ChatGPT Health这样日益复杂的纯AI模型的推出，使人们普遍相信我们正迅速进入一个AI系统能够独立诊断疾病、自动化临床工作流程，甚至可能取代大部分医疗工作者的时代。
然而，我认为这种说法并不准确，追求完全自动化只会损害医疗服务和研究的质量与伦理。在观察健康科技发展二十余年之后，我确信医疗服务一线的未来属于允许人类监督、负责和共情的混合系统。此类系统在日常护理和创新方面目前最具影响力，也仍然是最具可扩展性的。
医疗中的信任至关重要
在医疗领域之外，AI产品主要根据速度、规模和便利性进行评判。然而，在医学和临床研究中，信任是一个无法自动化的关键指标。一个系统可能技术上非常出色，能够节省大量时间和金钱，但如果临床医生、患者、监管机构和公共卫生部门不信任其结果，它仍然会失败。目前，许多医疗AI正面临这一采用障碍。
医生不会依赖他们无法理解的诊断建议，监管机构不会批准不透明或不可问责的系统，医疗机构也无法在错误可能导致改变人生的后果的临床环境中部署模型。尽管纯AI模型备受炒作，但医疗仍然是一个技术精湛本身不足以成功的最明显例子之一。将获得投资并取得成功的系统将是那些最值得信赖的，而非最自主的。
目前，AI竞赛优先考虑自动化而非实际应用。我们已经构建了能够产生大量输出的系统，但往往没有嵌入真实临床环境中所需的必要保障和治理结构。这导致了医疗AI的信任赤字。
在技术栈中以人性为中心
人们不仅是AI系统的用户，也是其架构的组成部分。人性是医疗技术栈的核心部分，必须牢固嵌入以实现最佳结果。实际上，这意味着设计AI处理大规模数据处理、模式识别、行政自动化和工作流程优化的系统。这使人类能够专注于监督、升级、共情和情境决策。这种"人在环路"方法不是新旧系统之间的折衷，而是负责任医疗创新的基础。
AI擅长减少认知负担；例如，它可以比人类更快地审查医学影像，即时总结咨询内容，并持续监测患者数据。然而，医疗不仅仅是计算。患者不仅需要准确的模式识别；他们还需要安心感、道德判断、保障和问责。这些因素不是系统中的低效部分；它们本身就是护理的核心。认识到这一区别的公司和技术正在开发更有效的医疗基础设施。
通过监督保护患者
一个完全自动化的AI医疗系统可以检测异常迹象，但如果这些信号不能导致真正富有同理心的回应，它就毫无用处，而这只能通过仔细的人类监督提供。这对于儿科服务尤其重要，因为那里的保障要求更高。没有这层问责，这些工具只是为寻找问题的解决方案，无法帮助任何人。
最近的立法强调了"人在环路"方法对心理健康服务的必要性。例如，考虑2025年在加利福尼亚通过的参议院第243号法案。这项开创性法案要求聊天机器人运营商在AI与用户交互中实施保障措施，有效地将人类监督强化为这些服务的核心需求。
AI工具如果追求完全自动化，是为一个假设信任存在的世界设计的，但几乎没有证据表明患者、临床医生或监管机构已准备好将这种假设扩展到自主系统。
相同的配置可用于初级医疗。欧洲面临全科医生(GPs)短缺的问题，特别是在农村地区，而混合模型可以提供解决方案。它们可以使护士执行传统上仅限于医生的程序，超越管理疫苗接种、管理轻微感染和评估感冒及轻微疼痛的范围。该技术还使医生能够专注于远程监控和需要更多临床专业知识的咨询。在这种情况下，AI不是取代全科医生，而是扩展他们的服务范围，确保服务不足社区的患者获得高质量的医疗服务。
诊断中的混合模型同样清晰。AI可以分析大量数据以识别潜在的关键病症指标，如心力衰竭，速度远快于人类审查员。然而，没有准确性的速度毫无价值，因此人类监督对于识别假阳性和确保临床重要的症状不被忽视至关重要。
机器效率与人类验证的结合使这些工具极具影响力。如果没有完全问责，技术精湛会使投资者不愿扩大技术规模，从而阻止其进入临床环境。
保障制药行业
在制药行业，将人工智能(AI)与人类监督平衡对创新同样至关重要。在这一领域，信任体现为具体的监管问责制、可重现的证据和临床有效性。
在药物开发过程中，管理临床编码通常是一个耗时的过程，涉及多周的周期，会延迟研究时间表并带来重大财务风险。开发AI辅助解决方案以解决此问题的公司，试图解决与面向护理的模型相同的基本问题：在不损害结果质量的情况下提高效率。
这些公司使用AI加速技术工作流程，同时保持专家验证的人类层面。这确保了输出不仅快速，而且可审计，并能够突破采用障碍。在此背景下，信任与床边礼仪无关。它关乎可重复性和大规模问责，以确保证据保持在必要的监管护栏内。最终，服务即软件将通过证明护城河不仅是算法，而是一个可靠、可审计的数据供应链，从而取代制药行业传统的合同研究组织(CRO)模型。
"人在环路"是医疗的未来
这些例子表明，医疗AI的真正价值不在于算法本身，而在于它所提供的实用性：实施此前因成本过高或过于复杂而无法大规模实施的更快决策和干预。人类的共情能力、问责能力和情境推理能力是这项技术中最宝贵且被忽视的方面。
AI工具如果追求完全自动化，是为一个假设信任存在的世界设计的，但几乎没有证据表明患者、临床医生或监管机构已准备好将这种假设扩展到自主系统。
创建混合系统的那些人明白，虽然AI可以预测危机，但在大多数情况下，只有人类才能解决危机。这种区别不是当前技术的局限，而是信任在高风险、受监管环境中运作的方式特征。这一领域最大的影响将由那些通过平衡机器效率与人类监督来改造医疗的初创公司创造。
Dr Marta G. Zanchi 是全球健康科技风投公司Nina Capital的创始人兼管理合伙人。她此前是斯坦福医学院的教员，也是斯坦福Biodesign数字健康项目的创始主任，目前仍担任该项目的大使。Marta还是纳斯达克上市医疗技术公司RenovoRX的创始CEO，并利用其创立和运营专长支持Nina Capital旗下的公司。
【全文结束】
