在快速发展的医疗人工智能领域，仅靠伦理指南已不足以捕捉其复杂的社会影响。一种新的框架——伦理-认知矩阵（EEM）——旨在通过系统地评估人工智能在医学中的道德和知识维度来填补这一空白。这种双管齐下的评估模型在题为《人工智能在医学中的伦理和认知影响：基于利益相关者的评估》的研究中提出，该研究于2025年5月发表在《人工智能与社会》杂志上。
由奥斯陆大学的乔纳森·亚当斯开发的EEM首次应用于高风险领域：AI驱动的睡眠呼吸暂停检测。该研究将EEM定位为不仅用于伦理合规性，还用于认知问责性的工具，鼓励对不同利益相关者群体（包括患者、临床医生、开发者、公众和卫生政策制定者）中AI的实际价值进行重新评估。
EEM如何重塑医疗AI的评估？
EEM整合了两组原则：一组是伦理原则，包括福祉、自主权、正义和可解释性；另一组是认知原则，包括准确性、一致性、相关性和工具效能。与通常强调抽象伦理理想的传统框架不同，EEM将其评估重点放在特定利益相关者的目标和感知上，提供对AI影响更细致的理解。
例如，在评估福祉时，矩阵对比了AI通过更快诊断延长寿命的潜力与侵蚀有意义的医患关系的风险。虽然患者可能从早期干预中受益，但临床医生可能会因AI系统取代他们的判断而遭受更大的道德困扰。开发者在标记敏感训练数据时面临心理压力，而公众则面临可持续性和社会福祉等更广泛的问题。同时，政策制定者可能会发现，如果AI工具优先考虑效率而不是整体健康结果，他们的专业目标会错位。
自主权作为医学伦理的基石也得到了重新评估。患者可能在以AI为主的诊断过程中失去代理权，而医生则面临决策权被稀释的风险。开发者的自主权与监管框架相交，这些框架可能会抑制创新或促进伦理创造力。公众的自主权受到不透明的数据再利用的挑战，而政策制定者必须在独立决策和私人科技公司的压力之间导航。
正义通过分配和认知公平的视角重新诠释。从面向患者的算法偏见到全球南方开发者面临的结构性不平等，正义不仅仅是关于访问，还涉及谁的知识和需求得到优先考虑。可解释性，通常被视为技术障碍，成为确保透明度的伦理必要性，不仅为了法规遵从性，还为了对所有利益相关者的有意义的问责。
医学中的AI提出了哪些认知挑战？
除了伦理之外，亚当斯的框架独特地捕捉到了利益相关者对知识的不同重视程度。对于患者来说，准确性提供了情感上的安慰，而临床医生需要诊断可靠性以获得职业信心。开发者寻求针对最终用户需求的验证，而公众的关注范围涵盖了事实正确性和公共资助系统中AI错误的经济影响。对于政策制定者来说，准确性是基础但并不总是足够的；标准还必须解决错误信息和健康结果的有效性问题。
一致性，另一个认知支柱，与信任相关联。患者需要跨人群行为一致的算法以避免偏见，而临床医生要求可靠性以将AI纳入实践。开发者受益于一致的输出，使迭代改进变得可行。公众依赖于通用性，而政策制定者无法管理不可预测的技术。
相关性，即满足特定信息需求的认知信息，高度依赖于利益相关者。忽略患者人口统计学或临床工作流程的AI可能会变得认知上无关紧要。开发者面临“超相关”带来的信息过载危险，这会使用户不堪重负。公众仅接触个性化、AI过滤的健康数据引发了信息孤岛的担忧。政策制定者需要与宏观层面健康目标一致的数据，而不仅仅是统计显著性。
工具效能，即AI在多大程度上实现其预期的认知目的，也差异很大。AI可能提供早期诊断，但如果与人类专业知识的整合不佳，则可能无法改善结果。对于临床医生来说，认知工具必须加强而不是替代他们的推理。开发者需要能够适应新数据的系统，而公众的信任取决于AI的可见、可操作的好处。政策制定者需要确保AI不仅在理论上有效，而且在实践中提高治疗效果、成本效率和人口健康。
AI驱动的睡眠呼吸暂停检测案例揭示了什么？
为了实际应用EEM，亚当斯将其应用于一个现实世界的用例：AI支持的阻塞性睡眠呼吸暂停（OSA）检测。OSA是一种常见且未被充分诊断的疾病，与严重的健康风险相关。传统的检测方法既昂贵又难以普及。AI通过可穿戴设备和移动应用程序分析睡眠期间的生理数据，有望扩大访问范围。然而，当通过EEM框架运行时，结果突显了这种技术解决方案的复杂性。
对于患者而言，AI提高了筛查的可访问性，但也引入了新的风险：假阳性会导致焦虑，假阴性会延迟护理。临床医生可能欣赏自动分诊，但担心其自主权减少和不必要的工作量增加。开发者必须平衡模型性能和伦理设计，特别是在数据偏差方面。公众参与取决于理解AI如何做出决策以及这些工具是否民主化或加剧健康不平等。政策制定者面临有关监管的艰难问题，尤其是在确定可接受的不确定性阈值和确保公平推广方面。
从认知角度来看，OSA检测工具通常仅根据其准确性进行评判。然而，EEM揭示了额外的担忧：结果在不同的用户和条件下是否一致？见解是否符合实际患者需求，还是仅仅是技术上令人印象深刻？AI输出能否有意义地与人类临床判断相结合？最关键的是，该工具是否有助于更好的健康结果，还是仅仅转移了诊断负担？
这些问题将EEM从理论练习提升为实际必要，鼓励在部署AI系统之前进行更深入的反思。
EEM不仅是一个伦理内省的工具，还是一个利益相关者敏感的工具，用于预测AI部署中的现实世界权衡。
(全文结束)
