一位心脏病专家正在查看一份超声心动图,这份报告被一个她未曾选择、基于她从未见过的数据训练、由未征询她意见的医疗系统部署的算法标记。该算法建议了一个诊断。她不同意,于是推翻了这一建议。患者恢复良好。
没有人会记住这一刻。但如果她顺从了算法建议而患者受到伤害,那么将坐在证人席上、执照面临风险的将是她,而非构建算法的工程师、销售该算法的供应商,也不是部署该系统的医疗系统。
病历上是她的名字。她的判断。她的执照。是她本人。
这就是现行制度,它反映了医疗职业的根本特性。关于人工智能执照的新兴讨论忽略了一些本质性、深刻且不可分割的人性要素。执照从来不仅仅关乎通过考试,而是关乎对结果承担责任。人工智能将重塑临床决策的形成方式。关键问题是谁为基于AI输出的决策负责——当出现问题时,谁该为这一决策承担责任。
职业之所以存在,是因为患者永远无法弥合的专业不对称性。患者无法判断支架放置是否正确或药物剂量是否恰当。美国最高法院在1889年的Dent v. West Virginia案中理解了这一点:临床后果需要一个能够被检查、测试并对自己的决策负责的人。九年后的Hawker v. New York案中,最高法院进一步指出:品格与知识同等重要,因为职业不仅由其成员的知识定义,还由他们对所服务对象的责任定义。
这就是专业精神的含义和要求。它不仅仅是一个凭证,而是一种持续的个人义务。医生可以被传唤并要求在宣誓下解释其推理,受到专业同行委员会的制裁,并承担法院称之为"最高程度"的信托责任——因为患者的脆弱性对专业人员、对医生提出了这样的要求。在Canterbury v. Spence案中,美国哥伦比亚特区巡回上诉法院裁定,医生披露重大风险的责任完全属于医生本人。这是个人的、积极的责任,不能由他人代理。在Shinal v. Toms案中,宾夕法尼亚州最高法院裁定这一责任不可委托:它不能转交给同事、护士或系统。它属于医生,因为只有医生才能被追究责任。
定义专业的是知识、经验和责任的总和。通过考试授予凭证。专业是在考试之后的岁月中获得的,在不确定性下的决策中,在个人承担的结果中。法院将专业自治委托给专业人士,因为他们知道称职的实践是什么样子,因为他们理解在照顾另一个人时所做决策的分量。他们知道公众信任以及患者和家庭信任所带来的责任。
如今,人工智能正在进入医学领域,它在《美国医师执照考试》中表现达到了或接近通过门槛。它能够计算和提供信息,但它能做出决策并为其输出承担责任吗?算法执行分析。供应商获取账单。付款方部署决定哪些护理获得授权的工具。医疗系统将产品授权到工作流程中。每个参与者都从原本统一于一个人身上的临床决策中获取一部分。每个人都从中获取价值:账单、归因、结果数据、市场地位。
但责任仍然完整无缺地落在医生身上。
这一切并非新事。每当新技术重塑临床实践时,法律都曾回答过这些问题。当影像学从床边移动到读片室时,医生仍在报告上签名。当电子健康记录自动化医嘱录入时,开处方的医生仍承担着责任。当远程医疗将护理扩展到州界之外时,医患关系及其义务也随之延伸。行动需要医生签名是有原因的:责任。技术在演变,但责任仍由临床医生承担。
执照一直要求有一个具体的人,因为人可以被追责。一个可以被检查、被制裁、被认定不合格的人。一个可以被传唤并在宣誓下解释其推理的人。一个能够承担信托责任的人,因为责任需要关系,而关系需要有人——一个可以被追责的人。法律始终将人类置于临床责任的中心。现在依然如此。
我们许多引领扩大心血管护理获取渠道的人希望在心脏病学中应用人工智能。我们希望它能够以当前系统无法做到的方式进行检测、分诊、个性化和规模化护理。但我们同时也拥抱算法、供应商、付款方或系统从未完全接受的东西:对患者发生事情的个人责任。
人工智能将重塑医学。为结果负责的医生必须引领它进入患者护理的方式。
这一直是成为专业人士的代价。这也一直是重点所在。
阿夫南·R·塔里克(Afnan R. Tariq)医学博士、法学博士,是SCAI人工智能工作组的联合主席,也是CPT和RUC顾问。阿米·B·巴特(Ami B. Bhatt)医学博士担任美国心脏病学会首席创新官和FDA数字健康咨询委员会主席。观点仅代表作者个人。
【全文结束】

