人工智能（AI）的发展有可能通过提高诊断准确性、治疗效果、整体患者护理以及生物医学研究和药物开发来改变医疗实践。随着这项技术带来的前所未有的机遇和进步，伦理考虑现在成为研究和政策的前沿。最近结束的世界创新健康峰会（WISH）是由卡塔尔基金会发起的一项活动，该峰会探讨了AI在医疗保健中的伦理影响，并从伊斯兰生物伦理的角度进行了审视。
在与《半岛报》的问答环节中，WISH关于“医疗保健中AI伦理管理”小组讨论的成员Mohammed Ghaly博士讨论了“AI赋能医疗保健伦理：穆斯林世界的视角”。Ghaly博士是卡塔尔基金会哈马德·本·哈利法大学伊斯兰研究学院伊斯兰立法与伦理研究中心（CILE）的伊斯兰与生物医学伦理学教授。
能否描述一下人工智能（AI）与医疗保健的交集？
像许多人类生活的领域一样，AI正在逐渐进入医学和医疗保健，解锁了一系列变革性的可能性。在医院管理方面，AI可以通过简化预约、计费、理赔处理和医疗记录来提高效率，同时通过聊天机器人和欺诈检测系统增强客户服务。临床上，AI可以在诊断中发挥关键作用，特别是在基于图像的疾病检测（如癌症和血液疾病）以及预测医学（预测个人健康风险）方面。它通过可穿戴传感器、追踪器和医疗物联网（IoMT）促进患者监测，并分析来自公共来源的数据（包括社交媒体和新闻报道），以识别和监控疾病爆发或大流行。
在治疗方面，AI可以推进个性化医疗，优化治疗方案，减少剂量错误，并通过分析和重新设计现有药物加速突破性疫苗和药物的开发。此外，它还可以显著提高机器人辅助手术的精度和效果。这些应用共同强调了AI在医疗保健领域的深远和系统性影响，使其更加高效、准确和创新。然而，除了这些积极贡献外，这些应用也引发了伦理关注和挑战，通常需要重新评估医疗伦理核心问题的现有治理框架，例如医患关系和医疗责任。
如何从伦理角度评估医疗保健中的AI，同时考虑其潜在的利益和风险？
要从伦理角度评估医疗保健中的AI，重要的是权衡其潜在的利益和风险。这种平衡方法与众所周知的利益-风险评估原则一致。在伊斯兰传统中，这种方法体现在fiqh al-muawazanat（利益与危害平衡的法学）中。针对前一个问题，突出了AI应用的好处和积极影响，这些影响特别重要，尤其是在它们实际存在或其影响具有强可能性（在伊斯兰伦理中称为zann rajih，即主导概率）的情况下。
围绕医疗保健中AI的担忧和挑战既多又多样，涉及数据相关问题（如隐私、保密性和偏见）以及更广泛的自动化在医学中的角色、患者自主权、不透明性问题以及AI参与时临床决策动态的变化。这些挑战不仅引入了新的伦理困境，还要求对知情同意、医生能力以及医疗责任的再分配等既定概念进行批判性参与。
您是否认为“黑箱”效应是一个主要关切？应如何解决医疗责任问题？
是的，一个关键的伦理关切是“黑箱”效应，即AI系统的决策过程对专家来说也是不透明的。这使得很难追溯AI生成输出背后的推理。为了解决这个问题，需要仔细考虑以下几个因素：
- 使用AI工具的医生是否可以被视为“无知的医生”（tabib jahil）：在伊斯兰法学中，如果医生缺乏必要的理论知识或实践经验，通常会被追究责任。然而，在不透明的AI系统中，这种不透明性是由于技术本身，而不是医生的疏忽，因此只要医生了解技术的局限性，就不能将其归类为“无知”。
- 精度与可解释性之间的权衡：数据科学模型往往牺牲可解释性以换取精度。医生面临两难选择：使用高精度但不透明的AI系统，还是选择更透明但可能精度较低的系统。当两个系统的准确性、功效和安全性相当时，透明度应优先考虑。在没有明显平等的情况下，医生可能需要在个案基础上，可能在伦理委员会的建议下，决定如何平衡这些权衡。
- 许可机构的批准：如果AI工具获得认可机构（例如美国的FDA）的批准，任何由此产生的伤害责任可能会转移到该机构。如果没有，医生可能需要承担责任。
- 知情同意：患者必须充分了解医生对AI工具的知识和经验。如果缺乏这一点，医生通常需要承担责任。然而，如果患者已经被告知医生的有限专业知识并且仍然同意使用AI工具，医生可能不会被追究责任。
- AI开发者的疏忽：如果伤害是由AI工具的设计缺陷或其他问题引起的，责任可能不仅限于医生，还可能包括参与设计、开发和部署AI系统的人员。这与国际伊斯兰法学研究院（IIFA）在2004年支持的企业责任模式以及2022年AI责任指令相一致，后者规定AI提供商可以像提供其他产品和服务的提供商一样负责，进一步制度化这一共同责任框架。
如何在利用AI技术的同时保护患者数据隐私？
AI数据的伦理治理是一项重大挑战，尤其是在平衡需要大量数据集以提高AI功能与保护患者隐私的需求之间。遗传伦理中的技术，如匿名化（删除可识别信息）和假名化（用人工标签替换标识符），有助于保护数据同时实现有价值的分析。然而，大型数据集中重新识别的风险依然存在。为了解决这一问题，这些技术必须与严格的访问控制和安全数据管理相结合，以确保AI驱动的医疗保健中强大的隐私保护。
此外，宗教观点提供了世俗讨论中经常缺失的维度。在伊斯兰伦理中，例如，人类对自己身体或个人财产的权威原则是基础性的。在这个框架内，慈善（sadaqa）的概念特别相关。这一原则允许个人自愿捐赠有价值的物品以帮助他人，目的是寻求上帝的回报。在AI赋能的医疗保健中，数据被视为一种宝贵的资源，数据集可以被视为个人资产的一种形式，可以为了慈善目的捐赠并供公众使用，而无需过多担心隐私侵犯。然而，这样的“数据捐赠”必须遵守捐赠者设定的条件，以确保其使用符合捐赠者的价值观和他们对上帝的承诺，上帝是他们身体的创造者。这些保障措施对于防止任何可能侵犯上帝对人类身体及其相关权利的最高权威的滥用至关重要。
穆斯林多数国家如卡塔尔目前在医疗保健领域的AI状态如何？
穆斯林多数国家，包括卡塔尔和其他海湾国家，正大力投资AI技术以提升其全球地位。然而，根据2024年斯坦福AI指数报告等排名，这些国家仍在努力确立自己作为AI领导者的地位，目前美国、中国和一些欧洲国家处于领先地位。卡塔尔、沙特阿拉伯和阿联酋是该地区在AI发展中最雄心勃勃的国家。
特别是卡塔尔，国家AI战略强调在关键领域利用AI，包括医疗保健。该国在这方面取得了显著进展，包括在2024年5月经济论坛上宣布的90亿里亚尔激励计划。卡塔尔的数字投资预计到2026年将达到57亿美元，高于2022年的16.5亿美元。这些努力是卡塔尔更广泛计划的一部分，旨在成为创新中心，特别是在医疗保健领域，AI有望改善诊断和患者护理。
此外，卡塔尔基金会的合作大学和研究机构已经在这一方向上取得了进展。例如，卡塔尔的卡内基梅隆大学开发了Avey，一款具有AI自诊断算法的医疗保健应用程序。卡塔尔计算研究所（隶属于卡塔尔基金会哈马德·本·哈利法大学）与华为消费者业务集团合作，开发了智能个性化健康分析（SIHA）平台，整合可穿戴设备用于健康研究和慢性病管理。
我们对AI赋能医疗保健的未来应该持乐观态度还是担忧？
鉴于当前的进步和预期的未来发展，我个人支持“谨慎乐观”的立场。AI在医疗保健领域的潜力的一个典型例子是AlphaFold2的突破。这一突破彻底改变了蛋白质结构预测；一项曾经需要数月或数年才能完成的任务现在只需几分钟即可完成。AlphaFold2可以从氨基酸序列准确预测蛋白质的3D结构，帮助解决复杂的生物学问题并理解如疟疾等疾病。
尽管其准确性令人印象深刻，实验验证和补充技术如低温电子显微镜仍然是必要的。然而，这种乐观态度因利润驱动的技术巨头的主导地位而受到限制，这些巨头受新自由主义资本主义意识形态的驱动。这些意识形态优先考虑利润最大化而非公共利益，往往引导技术进步的方式与医疗保健的核心道德原则相冲突。将AI工具整合到医学中必须首先与历史悠久的医疗保健目标保持一致，最重要的是追求提供良好的医疗服务（tatbib）。违反隐私的行为，如以改进AI技术为名大规模收集个人数据，不能被视为AI时代医疗保健的合法或可接受的进步。
同样令人担忧的是，企业和偶尔的政府经常通过削减伦理监督预算来削弱伦理治理，优先考虑竞争力而非社会福祉。为了缓解这些风险，个人和机构必须合作提高公众意识，培养伦理消费行为的文化。这一统一的努力必须向企业发出明确的信息：AI竞赛不能在没有遵循伦理原则和全面评估其社会影响的情况下实现负责任的创新。
值得注意的是，该领域的知名人物，如2024年诺贝尔奖得主Geoffrey Hinton，倡导将AI与伦理相结合的愿景，强调在技术创新与负责任的管理之间取得平衡的必要性。
(全文结束)