人工智能正在医疗保健领域迅速发展，医院在临床和行政运营中广泛部署人工智能。但教皇利奥十四世敦促医疗机构不要将技术能力误认为是人类进步。
在其首部通谕《宏伟人性》(Magnifica Humanitas，意为"宏伟人性")中，教皇认为创新必须植根于人类尊严、问责制和公共利益。
与大多数世俗医疗机构一样，天主教医疗系统——如普罗维登斯(Providence)、阿森松(Ascension)和仁慈医疗(Mercy)——越来越多地将人工智能用于临床决策支持、患者沟通、文档记录和运营工作流程。
教皇这份长达4.5万字的通谕可能为负责任地采用AI提供了一个实用框架。
我们最近采访了全国性律师事务所EBG的医疗保健律师吉姆·弗林(Jim Flynn)和格雷格·克拉巴彻(Greg Krabacher)。他们为天主教医疗机构提供技术和监管问题咨询，认为该通谕的发布恰逢医疗机构面临关于偏见、透明度、知情同意和问责制的日益增多的问题。
人类尊严与AI治理
根据医疗保健研究与质量局的数据，天主教医院和医疗系统在美国占据重要地位。按床位数量计算，美国十大医疗系统中有四个是天主教的。
克拉巴彻表示，天主教医疗领导者在设定机构优先事项和评估技术投资时，可能特别倾向于使用该通谕。
"虽然教皇的通谕并没有特别要求天主教医疗组织以特定方式处理AI——最终，这是一份关注AI对人类意味着什么的文件，而不是特别关注作为天主教徒的意义——但天主教医疗机构的领导者可能比其他人更倾向于在设定机构优先事项、统一核心价值观和寻求指导时考虑《宏伟人性》，"他说。
通谕中关于"中立和客观表象背后隐藏的歧视"的警告，对使用AI辅助临床工具的医疗机构具有直接影响。
"这直接转化为对AI辅助临床工具进行偏见审计的义务，"克拉巴彻说。
弗林表示，该文件鼓励组织超越绩效指标，审视AI系统是否反映了患者的尊严。
"对天主教医疗机构而言，这意味着不仅有义务审查临床AI工具是否用于良好目的，还要审查其设计和训练数据中嵌入的价值观是否与患者不可剥夺的尊严一致，"他说。
提高对供应商的期望
尽管通谕没有法律效力，但两位律师都认为它可能影响天主教医疗系统评估技术供应商的方式。
"通谕没有监管效力。它不是法规、参与条件或认证标准。但它也不是无足轻重的，"克拉巴彻说。
他预计天主教组织将更加重视算法透明度、偏见审计和数据管理。"毕竟，要求AI供应商提供算法透明度、偏见审计和数据管理承诺的天主教医疗系统并不是在提出不合理的要求。"
弗林表示，以治理为先的方法最终可能会产生更强有力的合同和更可靠的技术。
"无论动机是真正的教义信念，还是在艰难的供应商谈判中引用教皇通谕所带来的机构舒适感，结果都是相同的：更好的合同、更清晰的数据治理，以及更有可能长期按预期表现的AI工具，"他说。
衡效率与富有同情心的护理
两位律师认为，最大的挑战出现在效率目标与医疗保健的人道使命相交之处。
"第一个主要紧张点在于临床决策支持和知情同意，"弗林说。
随着AI生成的建议越来越普遍，医疗系统必须确定如何告知患者以及如何维持人类问责制。
弗林还指出了面向患者的AI工具，如聊天机器人和自动通信。
"第二个紧张点在于面向患者的AI与天主教医疗使命视为不可协商的富有同情心的护理义务之间，"他说。
虽然自动化可能提高效率，但两位律师警告说，如果技术削弱了信任或减少了有意义的人际互动，组织可能面临长期的法律、运营和声誉成本。
超越合规的框架
通谕没有提供检查清单，而是提供了一个更广泛的AI治理哲学，以问责制和人类监督为中心。
弗林指出，教皇利奥反复强调在整个AI生命周期中明确定义的责任。他还强调了警告，即技术设计者可能将他们自己的道德假设嵌入AI系统。
"因此，采用或使用这些系统的人员有义务不沦为被动接受其他地方做出的决策，"弗林说。
对医疗机构而言，这意味着治理必须超越供应商尽职调查，扩展到持续评估AI如何与机构价值观保持一致。
通过护理质量衡量AI
弗林指出了他认为是通谕中定义性的段落。
"在第114段中，教皇利奥十四世明确表示，'一个文明的质量不是由其手段的力量来衡量的，而是由它能够提供的关怀，由它识别他人为一张面孔而不仅仅是一个功能的能力来衡量的'，"他说。
他说，对于天主教医疗系统而言，AI不仅应根据准确性和效率进行评估，还应根据其对护理的关系和道德特征的影响进行评估。
克拉巴彻表示，该文件的持久贡献可能是坚持技术应该服务于人际关系，而不是取代它们。
随着AI在医疗保健中的采用加速，《宏伟人性》为天主教医疗系统提供了一个框架，确保创新加强问责制、患者尊严和护理核心的人际关系。
【全文结束】