在我们为医疗机构提供支持的工作中，我们每天都能看到人工智能工具正在如何改变这一行业。利奥十四世教皇的首份通谕《人类的伟大》承认了一个常识性观点：这些变革既可能带来积极面，也可能带来消极面。
尽管这种强大技术"通常在速度和计算能力上超过人类智能，在许多领域提供切实的益处"，但这些益处可能不会被平等或公平地分享："认为新技术会自动惠及所有人，就是忽视证据。"因此，利奥十四世教皇向所有采用、使用、开发和部署人工智能技术的人发出挑战，要求我们在思考这些工具想要"实现什么"的同时，也要考虑"如何实现"。正如这份长达42,000字的通谕中众多例子所阐明的，第二个问题对于保护我们的人性并为后代塑造世界至关重要。
诚然，《人类的伟大》并不具有监管效力，也不会对医疗机构施加任何严格义务。但这并不意味着它对整个行业没有影响或没有借鉴意义，特别是在人工智能应用持续激增的情况下。
总体而言，这份教皇通谕鼓励采取一种审慎的、以治理为先的人工智能应用和使用方法，将人的尊严和富有同情心的护理置于对话中心。可以合理假设，天主教医疗系统可能是最倾向于考虑这一指导来制定机构政策的群体。然而，我们建议，世俗或其他宗派的同行也应当考虑这一指导。
《人类的伟大》，或"在人工智能时代保护人类"，为医疗保健领导者带来了几个关键的人工智能考量。以下是三个关键要点：
采取审慎的、以治理为先的态度可能在长期内获得成功
对于决定是否部署新人工智能工具的组织，通谕为采取深思熟虑、以治理为先的态度提供了直接的教义依据。
通谕第105-106段指出，在每个人工智能系统中"责任必须在每个阶段都明确定义"，指出"审慎、严格评估，甚至有时在采用AI时放慢步伐"是"对人类家庭负责关怀"的一部分，并且需要"强有力的法律框架、独立监督、知情用户"。
通谕的前述段落直接警告称，设计人工智能系统和流程的人本质上会强加他们自己的道德准则。因此，采用或使用此类系统的组织有义务积极确认拟议的人工智能部署是否与组织价值观一致。人工智能采用者必须进行积极的辨别和持续的监测与治理。
通谕还警告称，以人为中心的人工智能治理是我们应当追求的标准，而不是将决策简化为纯粹的机器效用或效率的方法。随着人工智能工具变得更强大，人们越来越容易接受其输出而不加质疑、追问或验证。
在医疗保健领域，生死攸关的情况是日常操作的一部分，此类意外结果可能带来严重后果。因此，更持久的路径——纳入标准的人工智能治理标准——可能包括有记录的政策和程序，以确保有意义的"人在环中"，并阐明为何以及如何使用人工智能来辅助和告知人类决策。
对AI工具进行偏见、歧视、隐私和伦理审计至关重要
在整个通谕中，利奥十四世教皇提及了医疗机构对人工智能工具进行偏见、歧视、隐私保护和积极价值观审计的义务。
例如，第103段和第171段提到了人工智能中介决策影响"获得信贷、就业或基本服务"的风险，这些决策可能在"中立和客观的表象"下歧视弱势群体。
在医疗系统的背景下，这可能包括部署管理患者数据、风险评分、资源分配和操作分诊的管理人工智能工具。与此类部署相关，医疗法律和天主教社会教义都基于人的尊严概念强加了反歧视义务。《人类的伟大》指出医疗数据是特别敏感的权力集中点，因为控制这些数据的人可能实际上决定药物、投资和保护措施的分配方式。这一关切与HIPAA、《平价医疗法案》第1557条、州反歧视法律以及日益增多的关于可审计性、可解释性和偏见测试的特定人工智能监管指导中已经反映的法律义务相一致。
初步审计和系统设计也应考虑积极价值观和伦理。第102-104段坚持认为，当人工智能进入人们的生活时，它"触及权利、机会、地位和自由"，而自动化系统无法行使同情、怜悯或认识到人具有改变能力。因此，将决策委托给此类系统可能造成"新的排斥形式"。对医疗机构而言，这表明不仅有必要审查临床人工智能工具是否用于良好目的，还应审查其设计和训练数据中嵌入的价值观是否与患者不可剥夺的尊严相一致。
这也延伸到与供应商的关系。那些要求第三方提供商提供算法透明度、偏见审计和数据管理承诺的机构，既符合通谕的要求，也符合许多州人工智能监管框架的发展方向。
人类、联系和责任必须始终处于护理的中心
《人类的伟大》警告说，在真实关系已经薄弱的地方，对护理的人工模拟变得尤为危险，因为逐渐削弱对真实人类联系的渴望可能带来更深层次的伤害。在医疗法律中，这一关切直接映射到涉及沟通、语言获取、残疾便利和治疗关系的患者权利学说上，监管机构越来越多地询问自动化是否取代了脆弱患者所需的以人为本的参与。
例如，人工智能沟通工具可能减轻某些人员配备负担并提高一致性和规模。但如果它们后来削弱信任、增加投诉、导致沟通不畅或引发监管审查，那么重新设计系统、重新培训员工和重建信心的成本将超过仓促采用带来的节省。
人的尊严和关系的重要性贯穿通谕的每一实质章节：它一再指出，技术必须服务于并增强人类流程和关系，而不是取代或使其处于次要地位，人类责任应在"每个阶段"保持首要地位。那些能够为部署的每个人工智能工具明确说明人类判断如何保持首要地位、责任如何追溯，以及如何保护个体患者的尊严免受优化逻辑影响的组织，将理解通谕最深刻的挑战。那些不能做到这一点的组织已经允许效率成为教皇所说的"价值的最终衡量标准"。
从长远角度看待医疗保健中的人工智能
《人类的伟大》概述的方法可能需要决策者对短期财务影响之外的长远视角抱有一些信心（双关语）。
借鉴《人类的伟大》（以及例如《欧盟人工智能法案—2024/1689号条例》、NIST人工智能风险管理框架（NIST AI 100-1，2023，以及2026年补充版）和OECD人工智能原则（OECD/LEGAL/0449；2019年通过，2024年修订））中颂扬的审慎、长期人工智能治理原则的医疗机构，对于不断变化的世界更加了解和准备充分。他们对供应商提出更难的问题，要求临床工具具有可解释性。他们避免了仓促采用可能引发错误的诱惑。采取这条路径可以减少法律责任，以及声誉和财务损害。我们不认为教皇或其他人建议回避或过度延迟人工智能使用；相反，他们呼吁有计划地实施。
尽管可能需要一些短期推迟，但对人工智能采取深思熟虑、有目的的方法的长期影响可能非常值得。正是这种态度将确保每个医疗机构"的质量不是由其手段的力量来衡量，而是由它能够提供的关怀，由它识别他人为一张面孔而不仅仅是一个功能的能力来衡量。"
[格雷格·克拉巴彻](
[吉姆·弗林](
【全文结束】