针对移动健康应用中可解释人工智能的参与式框架提案：整合用户与利益相关者需求的混合方法研究 - AI与医疗健康

摘要

背景： 人工智能（AI）在移动健康（mHealth）应用中的整合为低资源环境提供了医疗保健机会，但不透明的AI建议损害了信任和采用。现有的可解释AI（XAI）框架是在西方背景下设计的，未能解决南亚人群的语言、文化和基础设施现实问题，造成了用户无法理解AI建议、临床医生无法验证输出、开发人员缺乏实施指导的障碍。因此，了解受过教育、数字素养高的人群对可解释性的需求，为未来开发包容性mHealth技术提供了基础性见解。

目标： 本研究旨在（1）调查孟加拉国AI驱动mHealth中利益相关者对信任和可解释性的看法；（2）确定信任的人口统计学预测因素；（3）开发并提出一个适应情境的框架，使资源受限环境中的开发者、政策制定者、临床医生和最终用户受益。

方法： 本研究使用了顺序混合方法设计，结合了定量调查（n=137）和涉及20名利益相关者的定性阶段。这一定性队列包括开发者（n=4）、XAI专家（n=6）和临床医生（n=10），他们通过焦点小组或个别访谈参与。我们使用统计分析来检查人口统计学预测因素，并应用主题分析来识别每个利益相关者群体特有的可解释性需求。

结果： 教育水平对信任有显著影响（F_{3, 133}=2.81, P=.042）。完成本科学习的学生报告的信任度较低（平均值3.14，标准差1.10），与当前本科生（平均值3.66，标准差0.93）相比，表明本科学习培养了批判性评估技能，可能会减少对AI系统的无条件接受。尽管认识到AI对初步指导的实用性，用户强调需要人工验证，并对理解AI决策逻辑表示担忧。与不同利益相关者群体的访谈揭示了关键差距。开发人员承认当前mHealth应用中最小化可解释性实施，而医疗专业人员一致优先考虑临床判断而非自动化输出，并主张医生介导的AI系统。综合所有利益相关者群体的发现，揭示了五个核心需求：（1）人机协作和临床验证，（2）透明逻辑路径，（3）情境化个性化，（4）文化和语言相关性，以及（5）信任校准和伦理保障。

结论： 该框架弥合了利益相关者之间的错位，并为资源受限环境中的设计、部署和政策一致性提供了可行指导。通过将可解释性置于南亚的社会文化现实中，本研究将XAI从算法透明性推进到数字健康中的公平性、包容性和用户赋权。

J Med Internet Res 2026;28:e87158

关键词： 人工智能；可解释AI；移动健康；数字健康；以人为本的设计；AI信任；全球南半球；负责任AI；临床决策支持；AI透明度；参与式设计

引言

背景

人工智能（AI）是计算机系统基于给定数据集学习并做出决策的能力，正在变革医疗保健的几乎所有方面。它现在被常规应用于疾病预测、临床决策支持和人群规模分析，通常优于传统统计方法。与此同时，移动健康相关应用（mHealth应用）数量激增，提供症状检查器、用药提醒和个性化生活方式建议。世界卫生组织（WHO）报告显示，数字健康采用率在新冠疫情期间增长了70%以上，其中AI支持的移动服务增长最快。全球mHealth市场现已超过3.87亿活跃用户，预计到2026年将超过4.5亿，Google Play商店中可用的健康应用超过36,000个。然而，随着AI驱动系统激增，其可信度、可解释性和公平性受到越来越多的质疑。

AI系统通常被描述为生成建议但不揭示其底层逻辑的"黑箱"。可解释AI（XAI）旨在通过提供透明推理、特征重要性和置信度指标来缓解这种不透明性。研究表明，设计良好的解释可以增强临床医生的认知和情感信任，而设计不良或过于复杂的解释可能会削弱信心。在mHealth环境中，由于持续的个人数据收集、实时决策以及需要通过小屏幕向不同识字水平的用户传达复杂健康信息，可解释性挑战被放大。与为专业人员构建的临床AI系统不同，mHealth应用必须在技术准确性与外行理解之间取得平衡，同时提供关键健康建议。此类应用中缺乏有意义的解释已与参与度降低、依从性差和过早放弃联系起来。因此，可解释性不仅仅是理想的功能，而是mHealth护理中安全、有效和值得信赖的AI采用的先决条件。

全球XAI研究格局显示出显著的地理不平衡。虽然该领域在高收入国家已迅速成熟，但仅有少数已发表的研究考察了全球南半球背景下的XAI。这种偏见产生了不适合低资源环境的框架，这些环境的特点是基础设施有限、数据集小和AI素养低。由此产生的"AI鸿沟"反映了投资、机构准备程度和AI技术文化相关性方面的差异。恐惧和不确定性进一步阻碍了AI素养；全球调查显示，表达对AI感到紧张（52%）和兴奋（54%）的成年人比例几乎相等。如果不刻意纳入，AI革命可能会扩大而非弥合现有的数字和社会不平等。

在这一全球背景下，孟加拉国既体现了进展也体现了持续的挑战。凭借超过1.88亿移动连接和108%的渗透率，该国已实现显著的数字连接。然而，数字素养、负担能力和 sociocultural障碍继续阻碍有意义地参与AI驱动的健康技术。医疗保健系统面临严重的工作队伍短缺，约每10,000人口有5名医生和2名护士，75%的临床医生服务于仅38%人口居住的城市地区。因此，mHealth应用通常成为获取医疗保健建议的第一个接触点，尤其是在农村地区。然而，如果用户无法理解或信任AI建议，此类系统扩大医疗保健获取的潜力就无法实现。

AI mHealth中不同利益相关者群体的可解释性要求有所不同。最终用户优先考虑简洁和可操作的解释，以增强信心而不涉及技术复杂性。开发人员和数据科学家寻求对模型行为和性能的诊断见解，以确保可靠性。临床医生需要与医疗标准一致的临床有效证据路径，而政策制定者则需要审计能力和伦理责任。解决这些不同的需求需要一种参与式的多利益相关者方法，将技术和人类视角结合起来。以人为本的XAI强调设计与用户心理模型、认知能力和文化背景一致的解释，而不是暴露原始模型机制。个性化、情境感知的解释已被证明更有效，特别是在数字素养有限的人群中。在低资源环境中，mHealth可能会取代临床护理，设计不良或文化不匹配的解释可能导致危险的误解。因此，有效的解释不仅必须提供信息，还必须使用户能够做出安全、情境适当的健康决策，同时保持信任并承认不确定性。

孟加拉国为探索这些问题提供了一个引人注目的研究背景。它展示了南亚以及全球南半球的代表性特征，包括新兴的数字健康产业、社会经济多样性和不同的识字水平。该国的人口和基础设施模式与印度、尼日利亚和印度尼西亚等国家相似，使见解可以转移到类似环境。这些相似之处使孟加拉国成为研究如何设计AI可解释性以适应资源受限、文化多样性和不断发展的数字生态系统的一个缩影。

尽管mHealth应用承诺使医疗保健民主化，但不透明的AI组件可能会损害其有效性，特别是在识字率、基础设施和信任障碍持续存在的地方。大多数XAI研究都是在西方背景下进行的，留下了对低资源用户的可解释性理解的关键空白。解决这一空白需要关于不同利益相关者如何看待和需要mHealth应用中可解释性的实证证据。

因此，本研究旨在调查孟加拉国AI驱动mHealth应用中利益相关者对信任和可解释性的看法，并将发现综合成一个针对南亚社区的人本设计框架。虽然我们的更广泛目标是为包括服务不足社区在内的多样化人群提供XAI设计依据，但当前缺乏具有XAI功能的孟加拉语AI健康应用，有必要首先研究英语熟练、受过教育的用户。这些发现代表了孟加拉国数字原住民和早期采用者的观点，提供了可以为未来开发面向更广泛人口群体的本地语言mHealth应用的基础性见解，包括低识字率单语用户。

意义和动机

本研究解决了AI、全球健康公平和以人为本设计交叉点上的一个关键空白。虽然XAI研究在高收入国家已成熟，但南亚人群在XAI系统的设计和评估中仍然代表性不足。这种地理不平衡对健康公平具有深远影响：在西方数据上训练并为西方用户设计的AI系统系统性地无法满足最能从可访问数字健康技术中受益的人群的需求。

孟加拉国体现了低资源环境中AI驱动医疗保健面临的挑战。该国拥有广泛的移动连接（108%的渗透率），但面临严重的医疗保健工作队伍短缺（每10,000人口5名医生，而高收入国家为36名），同时存在显著的语言和文化多样性。

三个相互关联的关切促使这项工作。首先，透明悖论：虽然LIME（局部可解释模型无关解释）、SHAP（夏普利加性解释）和注意力机制等技术XAI方法在研究文献中激增，但这些工具对最终用户来说仍然难以访问，并且未能解决医疗保健环境中信任、文化适当性和可操作性的基本问题。其次，利益相关者差距：现有框架很少纳入面临资源限制的开发人员、遵循当地治疗协议的临床医生或数字素养有限的用户的观点。这导致解决方案在技术上健全但在实践中不可用。第三，公平必要性：随着AI系统越来越多地调解获取健康信息和服务，缺乏适应多样化人群的可解释性威胁会扩大而非缩小全球健康差距。

本研究在四个相互关联的方面具有重要意义。方法论上，它提供了关于南亚背景下XAI需求的罕见实证证据，解决了学者所称的"算法殖民主义"，即西方AI范式强加于非西方人群。理论上，它证明可解释性不仅是一个技术或认知挑战，而从根本上是一个社会文化挑战，由语言、机构信任、医疗保健规范和权力动态塑造。实践上，它为开发者、政策制定者和健康机构在资源受限环境中导航负责任的AI部署的复杂地形提供了可行指导。伦理上，它将通常被排除在AI设计对话之外的用户、临床医生和开发人员的声音置于前台，体现了参与式和包容性技术发展的原则。

通过调查包括具有不同教育背景的用户、资源有限的开发人员、优先考虑患者安全的临床医生以及平衡技术可行性和人类需求的XAI专家在内的多个利益相关者群体的可解释性需求，本研究生成了弥合研究、实践和政策的见解。由此产生的框架将可解释性操作化，不是作为算法属性，而是作为透明度、信任、文化共鸣和责任的生态系统。

先前工作

可解释人工智能

AI越来越多地融入医疗保健，支持数据驱动的诊断、预测和个性化护理。然而，随着系统变得越来越复杂，其决策的不透明性限制了用户理解和信任。XAI通过使算法推理对人类可理解来解决这一挑战。XAI指的是一系列程序和技术，使人们能够理解和信任AI的机器学习（ML）算法产生的输出和结果。Doshi-Velez和Kim将XAI概念化为将算法逻辑与人类认知对齐以促进信任和问责。同样，Gunning等人强调"玻璃盒"系统，以普通用户可以理解的方式揭示目标、理由和推理。

常见的XAI技术包括LIME和SHAP等事后解释模型，这些模型近似模型行为以进行解释，突出显示和注意力机制，这些机制可视化模型焦点，以及简化复杂系统的基于规则的代理模型。然而，这些方法主要针对开发者和数据科学家等技术受众设计。最近的研究主张以人为本的XAI，优先考虑可用性、可访问性和情境适当性，而非技术透明度。尽管有这一转变，研究继续缺乏对XAI对非技术用户或非西方、资源受限环境中人群有效性的系统评估。

AI和mHealth：潜力与陷阱

AI驱动的mHealth应用使用ML支持实时健康监测、自我诊断和预防性护理。这些工具扩大了医疗保健获取，特别是在正式医疗服务有限的地区。Deniz-Garcia等人和Singh等人的研究表明，越来越多地依赖Ada、WebMD和Symptomate等AI支持的症状检查器，这些工具使用自然语言处理和概率推理来建议可能的状况。

现有评论强调了确保AI支持的mHealth应用的可用性、透明度和有效性的持续挑战，研究人员警告说，对AI系统的过早或盲目信任可能带来伦理和安全风险。Gerdes和Rudin警告说，高风险医疗保健中不透明的AI可能产生不适当的建议并危害患者安全。Beede等人进一步证明，技术上健全的AI系统在实际部署中仍可能因工作流程错位、低可解释性和用户不信任而失败。医疗保健中的AI监管框架仍处于初期阶段，留下了关于问责和验证的不确定性。因此，mHealth应用必须在创新与透明度和文化相关性之间取得平衡，以确保用户安全和公平获取。

信任、透明度和以人为本的XAI

信任是AI在医疗保健中采用的核心。Shin发现可解释性通过揭示输出的原因和推理来增强用户信任。信任不仅取决于准确性，还取决于结果的传达方式。Kizilcec表明，当用户缺乏领域专业知识时，用户更自信地与披露其推理的系统互动。

Ehsan等人提倡"社会透明度"，强调叙事和情境解释而非技术细节，以使AI互动人性化。这在医疗保健中特别相关，因为患者需要富有同理心和易于理解的推理，而非统计数据证据。Visser等人证明解释偏好在不同利益相关者之间存在差异：临床医生寻求基于证据的验证，而患者重视直观、情感上令人安心的反馈。因此，一刀切的解释是无效的；需要适应性和可定制的方法。

参与式设计已成为弥合这些差距的一种有前途的方法。Liao等人和Larasati等人认为，有效的XAI必须与患者、临床医生和开发者共同设计。让利益相关者参与设计过程确保AI解释满足现实世界的认知、专业和伦理期望，从而加强用户信任和问责。

全球南半球和南亚的XAI：挑战和情境需求

尽管XAI研究取得进展，但大多数研究都基于全球北半球背景。Okolo和Sambasivan等学者将这种不平衡描述为"算法殖民主义"的一种形式，即将高收入国家的模型和设计假设出口到具有不同文化和基础设施现实的环境中。在西方数据集上训练的AI可能无法泛化，例如皮肤科模型可能误诊较深肤色或提供语言或文化上不适当的解释。

Islam等人表明，包括孟加拉国在内的南亚用户经常与AI技术互动而不完全理解它们，这是由于数字素养有限。这可能导致过度依赖和不信任，具体取决于先前经验。Ismail和Kumar同样观察到，印度社区卫生工作者的社会文化背景、语言可访问性和人类中介对AI接受至关重要。

Okolo等人强调缺乏考虑语言多样性、文化规范和对医疗权威期望的本地化可解释性策略。为了提高可信度和采用率，南亚的XAI系统应纳入：

当地卫生机构的认可，将AI建议与可信权威联系起来
国家临床指南的整合，确保情境医疗有效性
本地语言和视觉支持，适应低识字率
考虑药物可用性和可负担性，提高可操作性

如果没有这种适应，AI系统可能会被视为外国、不可信或无关紧要。缺乏文化基础的XAI方法威胁会扩大而非缩小全球健康差距。

研究空白

文献展示了XAI方面的实质性技术进展，但对以用户为中心的设计关注有限。在医疗保健中，AI建议影响真实决策，解释必须具有文化敏感性、透明度和建立信任。然而，大多数现有工作反映了全球北半球的优先事项，并假设高数字素养，忽略了全球南半球以及南亚用户的异质现实。医生、开发者和患者等利益相关者的声音很少被整合到XAI设计中，造成了关键的研究空白。本研究通过以下方式解决这些限制：

调查南亚国家孟加拉国的用户、开发者和医疗保健专业人员如何看待和需要mHealth AI系统中的可解释性
确定平衡技术可行性与文化和认知可访问性的设计原则
提出一个参与式、情境感知的框架，为公平医疗保健交付操作化XAI

通过将社会、文化和制度维度嵌入XAI设计，本工作推进了全球健康中包容性、以人为本的AI方法，确保mHealth技术赋能而非排斥它们旨在服务的人群。

研究问题和目标

研究目标如下：（1）描述用户、开发者和医疗保健专业人员对信任和可解释性的看法；（2）评估适合不同识字水平的解释格式；（3）构建一个用于可解释mHealth AI的参与式设计框架。

研究问题如下：（1）不同利益相关者如何看待AI生成健康建议的可信度和可解释性？（2）哪些解释格式和方法对具有不同识字水平的用户最有意义？（3）开发者、临床医生和专家对mHealth AI中的可解释性有哪些期望和担忧？（4）如何将这些需求综合成低资源环境中可解释mHealth AI的框架？

通过将XAI置于孟加拉国的mHealth生态系统中，本研究为一个代表性不足的地区贡献了实证证据，并为开发透明、公平和可靠的AI系统提供了实用指导。

研究贡献

本研究做出了三个主要贡献，如以下部分所示。

实证贡献

首次从南亚背景（n=157，涵盖用户、开发者、临床医生和专家）提供XAI需求的全面多利益相关者证据
量化证据表明教育水平（P=.042）预测对AI可解释性的信任，挑战"数字原住民"假设
系统记录利益相关者错位，揭示用户需求、开发者约束和临床要求之间的差距

理论贡献

将可解释性重新概念化为需要文化共鸣、语言可访问性和机构验证的社会文化结构，而不仅仅是算法透明度
支持"社会可解释性"理论的证据：用户优先考虑人工验证和机构认可，而非技术可解释性指标

实践贡献

为资源受限环境操作化的五支柱参与式框架（人机协作、透明逻辑、情境化个性化、文化语言相关性和伦理保障）
为解决真实约束（资源有限和缺乏本地化NLP工具）的开发者提供可行的实施指导
为政策制定者建立医疗保健环境中AI治理标准和临床验证协议的实证依据

通过将来自30多亿人共享类似基础设施现实的背景的声音置于中心，本工作将负责任的AI推向全球数字健康中的公平、包容和用户赋权。

方法

概述

本研究使用以人为中心的混合方法方法来探索如何在AI驱动的mHealth应用中有效设计可解释性。目的是识别在孟加拉国的社会文化环境中，什么使解释清晰、值得信赖和情境相关。通过整合定量和定性数据，研究捕捉了最终用户、医疗保健专业人员、应用开发者和XAI研究人员的观点。使用了顺序设计：调查结果为后续访谈提供信息，确保对可解释性需求的理解既广泛又深入。

研究设计

研究分两个阶段进行，每个阶段关注不同的利益相关者群体。

用户调查：探索mHealth用户对信任、透明度和解释偏好的看法
专家和开发者访谈：调查与XAI实施相关的技术和设计考虑
关键知情者访谈（KIIs）：让医疗专业人员评估临床有效性、可用性和信任问题

图1展示了详细的招募过程。

附录1呈现了与开发者、临床医生和XAI专家进行的利益相关者访谈指南。附录2呈现了向最终用户管理的调查问卷。

表1总结了参与者和方法，图2展示了本研究中使用的顺序混合方法设计。定量调查结果为访谈和焦点小组讨论指南的开发提供了信息。定性回应经过主题分析并整合到调查见解中，以开发建议的可解释mHealth AI框架。

用户调查和试点测试

概述

用户调查考察了应用使用趋势、人口统计因素和AI驱动的mHealth应用中的可解释性感知。我们使用Google表单进行匿名在线数据收集。参与是自愿的，访问前获得知情同意。调查工具在15名匹配目标人口统计的参与者中进行试点测试，然后进行全面部署。试点参与者在使用mHealth应用后完成调查，并对问题清晰度、长度和可理解性提供反馈。根据试点结果，调查进行了修订，以简化技术术语、减少冗余项目并澄清说明。此试点测试确保工具适合目标人群，并能够捕获有意义的可解释性和信任感知。

调查结构

问卷包括三个部分：

人口统计和背景：收集年龄、性别、地区、教育和AI熟悉度，以检查可解释性感知如何在不同群体中变化
AI健康应用使用背景：探索频率、熟悉度和对AI症状检查器的信任
可解释性感知：结合5点李克特量表项目与开放式问题，如"为什么你信任或不信任该应用的建议？"和"什么会使该应用的建议更可解释或更值得信赖？"

为确保参与者理解可解释性概念，无论其对技术术语的熟悉程度如何，我们都实施了结构化方法。在询问参与者是否熟悉"可解释AI"后，所有参与者都收到了清晰、无行话的解释。该解释将可解释性描述为"应用显示为什么给出特定建议以及如何得出该结论的能力"，使用日常语言和相关的健康示例。例如，我们解释说："如果应用建议您可能患有流感，可解释性意味着它告诉您哪些症状导致此建议，而不仅仅是给出结果。"这确保参与者评估实际的可解释性特征（AI推理的透明度），而非一般的UI满意度。

应用选择

选择了三个广泛使用的AI健康应用，即Symptomate、Ada Health和WebMD症状检查器，基于（1）在iOS和Android平台上均可免费获取，确保广泛的可访问性；（2）解释设计的多样性：Ada提供贝叶斯"白盒"推理，Symptomate提供动态提问，WebMD使用传统的基于列表的诊断；（3）拥有超过300万用户的既定用户群。表2提供了这三个应用的比较分析。

参与者招募和样本特征

调查参与者

调查参与者（n=137）通过便利抽样招募。所有参与者都有互联网接入和智能手机。大多数（93/137，67.9%）年龄在18-24岁之间，64.2%（n=88）为男性。教育水平主要是本科生（121/137，88.3%）。约94%（n=129）熟悉AI概念，而39.4%（n=54）认识"可解释AI"一词。大约一半是mHealth应用的首次使用者。表3和表4总结了关键人口统计特征。

访谈和焦点小组参与者

访谈和焦点小组参与者（总计20人：4名开发者、10名临床医生和6名XAI专家）通过便利和滚雪球抽样招募。初始联系是通过首席研究人员在孟加拉国健康技术和医疗部门的专业和学术网络进行的。随后的参与者通过初始参与者的推荐招募。参与是自愿的。虽然没有提供财务补偿，但作为感谢的表示，在访谈和焦点小组期间提供了轻食（茶和零食）。

语言和抽样考虑

参与者的选择基于这样一个事实：本研究中评估的所有mHealth应用（Ada、WebMD和Symptomate）由于缺乏具有AI和XAI功能的孟加拉语mHealth应用，仅以英语提供。因此，参与者与这些应用的所有互动都以英语进行。这种语言限制需要招募英语熟练的参与者，这本身使样本偏向受过教育、数字素养高的个体。招募英语熟练参与者的决定使我们能够将信任和可解释性问题与AI不透明性和设计不足分开，而不是将这些因素与基本的语言理解障碍混淆。通过确保参与者能够理解英语界面，我们旨在评估应用的解释是否本质上不清晰、不足或文化上不适当。这种方法代表了评估当前国际mHealth应用在孟加拉国背景下的"最佳情况"，因为在英语熟练用户中发现的任何信任或可解释性不足都可能在非英语使用者中被显著放大。

数据收集

参与者安装并使用一个应用，根据其健康需求执行结构化的症状检查任务，然后完成调查。具体来说，参与者输入他们自己的实时健康数据、当前症状、健康问题或他们真正经历的健康查询，而不是假设场景。这种方法确保反馈反映了真实的个人体验。该方案包括（1）下载一个分配的应用（Ada、WebMD或Symptomate），（2）使用应用检查至少一个真实的健康症状或问题，（3）通过回答其问题与AI驱动的症状检查器互动，（4）查看应用的建议和解释，（5）立即完成关于他们体验的调查。这种实时方法捕捉了真实用户对信任、可解释性和可用性的感知，假设场景无法提供。数据包括定量李克特量表评分和开放式定性反思。

专家和开发者访谈

为补充用户见解与技术视角，对6名XAI专家和4名应用开发者进行了半结构化访谈。专家因其在可解释ML、负责任AI或人机交互方面的工作而被选中。开发者是从在低资源环境中部署AI工具的mHealth公司中具有实践经验的从业者。

访谈（30-60分钟）通过半结构化协议在线或亲自进行。参与者提供了知情同意并被匿名化。主题包括现有XAI工具的局限性（如LIME、SHAP）、准确性与可解释性之间的权衡，以及为非技术受众调整解释。开发者访谈侧重于实施挑战、界面设计和识字率和语言障碍等情境约束。

访谈数据使用归纳主题方法手动编码。诸如技术可行性、解释可用性和信任校准等主题出现，揭示了研究驱动的XAI工具与现实世界部署现实之间的差距。

关键知情者访谈

关键知情者访谈（KIIs）用于捕捉临床对AI可解释性的视角。十名医生参与：一名深入的个人访谈和一个来自孟加拉国医院的9名从业者的焦点小组。KIIs探索了对AI可靠性的感知、信任、患者误用和首选解释格式。

会议以孟加拉语（亲自或在线）进行，持续40-60分钟。医生对AI工具表示谨慎乐观，但强调解释应与临床逻辑和国家治疗协议保持一致。通过归纳编码确定了诸如临床信任边界、与诊断推理的对齐和解释期望等主题。

数据分析

使用混合方法分析方法，整合对调查数据的定量统计分析与对访谈和焦点小组转录本的定性主题分析。

定量数据分析

调查数据（n=137）使用描述性和推理性统计进行分析。计算了所有李克特量表项目和人口统计变量的描述性统计，包括均值、标准差、中位数和频率，以提供样本中信任感知、可解释性评级和信念模式的概述。

推理性统计分析

为检查不同人口统计组之间的信任和可解释性感知差异，进行了单向ANOVA测试，以比较信任评级（在5点李克特量表上测量）在年龄类别（18-24岁、25-30岁、31-40岁和40岁以上）和教育水平（高中、本科在读、本科毕业、研究生）之间的差异。鉴于样本分布可能违反参数测试假设，对所有组比较也进行了作为ANOVA非参数替代的Kruskal-Wallis H测试。报告了参数（ANOVA）和非参数（Kruskal-Wallis）结果，以确保研究结果的稳健性。为显著的ANOVA结果计算了效应大小，使用eta-squared (η²)，并按照Cohen的惯例解释：小效应（0.01-0.06）、中等效应（0.06-0.14）和大效应（≥0.14）。卡方独立性检验检查了分类变量之间的关联，具体为：（1）教育水平和对应用决策的信念（是/否/不确定），（2）XAI熟悉度和对应用决策的信念，（3）年龄组和对应用决策的信念，以及（4）年龄组和愿意信任应用结果超过医生。所有测试的统计显著性设定为α=0.05。所有定量分析均使用Python（版本3.10）与SciPy统计库（版本1.9）和Pandas进行数据操作进行。

定性数据分析

分析框架

开放式调查回应和访谈数据使用Braun和Clarke的反思性主题分析进行分析，遵循他们的6阶段过程。选择这种方法是因为它在捕捉多样化利益相关者视角的同时保持系统严谨性的灵活性。

六阶段分析过程

阶段1：熟悉化

反复阅读所有数据以建立深入熟悉。反复审查调查开放式回应（n=137，英文）和访谈笔记（英文）。孟加拉语焦点小组转录本在原始语言中反复阅读。

阶段2：生成初始代码

由首席研究人员系统地进行编码。英文调查回应和访谈笔记直接编码。孟加拉语焦点小组转录本用孟加拉语编码，以保留文化-语言细微差别。通过与主管的同行反馈迭代开发和完善代码本。代码既捕捉显性含义（语义）又捕捉潜在假设（潜在）。

阶段3：生成初始主题

通过识别数据集中的模式和关系，将代码组织成候选主题。使用视觉映射（表格和聚类）探索代码和潜在的总体主题之间的联系。初步主题与主管讨论，他们对主题连贯性和边界提供关键反馈。

阶段4：审查主题

通过与主管定期同行反馈会议，审查候选主题的内部连贯性和独特性。重新检查编码数据提取，以确保每个主题有足够的支持。主管挑战解释并建议替代组织。根据此协作审查，修订、合并或丢弃缺乏足够数据或连贯性的主题。

阶段5：定义和命名主题

明确定义每个主题，指定其范围、边界和与研究问题的关系。主题名称和定义通过主管反馈完善。主题名称被精心设计为简洁而富有表现力。

阶段6：产生报告

使用代表性引语呈现最终主题。焦点小组的主题和引语从孟加拉语翻译成英文用于手稿展示。

翻译和编码流程

调查完全用英语进行，因为本研究中评估的所有mHealth应用（Ada、WebMD、Symptomate）都以英语运行。开放式调查回应为英文，无需翻译。

个人访谈（n=11：4名开发者、1名临床医生、6名专家）以孟加拉语进行，研究人员在访谈期间用英语做笔记以便分析。一个临床医生焦点小组（n=9）以孟加拉语进行，录音并由专业转录员以孟加拉语逐字转录。

编码由首席研究人员（母语为孟加拉语）对孟加拉语焦点小组转录本执行，以保留文化-语言真实性。虽然初始代码分配给孟加拉语文本段，但主题直接在英语中开发，以便与其它数据源（英语调查回应和访谈笔记）整合。焦点小组的代表性引语从孟加拉语翻译成英语用于手稿展示，通过回译验证（孟加拉语→英语→孟加拉语比较）确保语义等效。我们承认此翻译过程中可能失去文化-语言细微差别。

数据充分性和饱和度

未进行正式的数据饱和度评估（Hennink等人）。

样本充分性特征为：

用户调查回应（n=137）：实现了主要信任和可解释性问题的信息冗余
开发者访谈（n=4）：小样本产生初步见解，而非饱和主题
临床医生视角（n=10总计：1次访谈+9次焦点小组）：实现了核心专业问题的主题充分性
专家访谈（n=6）：实现了技术-伦理考虑的主题充分性

开发者样本量和主题特征化

虽然开发者样本量小（n=4），但基于几个方法学考虑，我们将发现描述为"主题"而非"观察"。首先，基于研究团队通过专业网络和行业观察对孟加拉国mHealth生态系统的参与，我们估计该国大约有10到15个活跃的mHealth开发团队。因此，我们的4名开发者的样本代表了该社区的大约30%到40%。然而，没有全面的行业普查或注册表来明确确定孟加拉国活跃mHealth开发者的总数。此估计应解释为对抽样充分性的定性评估，而非统计验证的市场份额。

其次，尽管组织多样性，我们观察到强烈的主题收敛：所有4名开发者，在不同公司独立工作，跨越不同的应用程序和技术基础设施，自发识别出类似的约束（资源限制、缺乏孟加拉语兼容的NLP工具和市场压力）、实施挑战（可解释性优先级降低和技术债务）以及设计权衡。

第三，开发者见解与其他利益相关者发现交叉验证。用户对缺乏解释的投诉（n=137）、专家对实施差距的观察（n=6）和临床医生对系统不透明性的担忧（n=10）都证实了开发者报告的约束，增强了对主题反映实际行业实践的信心。第四，我们应用了Malterud等人的"信息力"概念，而非传统的饱和标准，该概念强调研究目标特定性、样本特定性、理论应用、对话质量和分析策略，而不仅仅是样本量。

第五，4名开发者代表了有意义的多样性：不同的组织规模、应用类型（症状检查器与健康应用）、技术方法（基于规则与ML）和目标人群。然而，我们承认此样本无法捕捉所有变化，特别是来自大型组织、国际开发者或具有专业AI/ML专业知识的开发者。我们使用"主导主题"来表示在此特定背景下我们的参与者中一致出现的模式，而非声称普遍普遍性。这些发现阐明了孟加拉国mHealth背景下的当前行业约束，但在将这些发现推广到此设置之外之前，需要通过更大、更多样化的样本进行验证。

方法学严谨性和可信度

我们使用多种策略来增强可信度。通过调查、访谈和焦点小组之间的三角测量；主管对解释的批判性审查；提供上下文细节的厚实描述；以及基于广泛的说明性引语的分析，建立了可信度。通过记录分析决策的审计跟踪（通过标记的代码本版本、定期进度报告和捕获主管反馈的会议笔记）确保了依赖性。通过将发现扎根于参与者引语、积极寻求负面案例（例如，一些用户更喜欢简洁而非详细解释）以及主管对编码和主题的审查，加强了可确认性。可转移性通过详细描述孟加拉国医疗保健背景、参与者特征、应用特征和社会文化因素得到支持，使读者能够评估适用性到类似环境。在整个分析过程中，与主管的定期同行反馈会议提供了关键反馈，质疑假设，并挑战分析决策，增强了严谨性并减少了个人研究者偏见。

反思性

首席研究人员是熟悉当地医疗保健和技术背景的孟加拉国计算机科学家。这种内部人士地位促进了文化解释和参与者亲和力，但可能导致忽视对内部人士明显但对外部人士重要的方面。技术背景有助于理解开发者约束，但需要有意识地努力将用户和临床医生视角置于前台。作为倡导可解释性的研究人员，我持有先前假设，认为透明度提高信任；通过反思实践和主管反馈，我积极寻求反驳证据，记录参与者重视简洁性超过透明度或表达对过度信息可能使用户不知所措的担忧的实例。

单编码者方法的局限性

虽然编码由单个研究人员执行，但主管的同行反馈过程为解释提供了外部检查。然而，缺乏独立的编码者间可靠性测试仍然是一个局限性。未来研究将受益于具有系统可靠性评估的双重独立编码。

整合和三角测量

三角测量将发现整合到定量和定性数据集之间，以加强有效性和开发对可解释性需求的全面理解。定量分析揭示教育水平显著预测信任评级（P=.042），而定性数据提供了为什么完成本科学习的学生表达较低信任的上下文解释（例如，提高的批判性评估技能、对AI局限性的担忧）。用户对不清晰应用逻辑的困惑与临床医生对患者过度依赖的担忧相平行，而开发者则强调多语言解释的实施限制。调查数据中识别的统计模式为定性主题的解释提供了信息，而定性叙事为统计发现提供了上下文深度。这种跨利益相关者的综合为提出的XAI框架的开发提供了信息，确保它解决了可衡量的信任赤字和细微的利益相关者担忧。

伦理考虑

本研究获得了孟加拉国独立大学机构审查委员会的完全伦理批准（批准编号：2025-SETS-NSR:03）。所有研究程序均按照赫尔辛基宣言和人类受试者研究的机构指南进行。特别注意确保心理舒适；敏感或技术问题为可选。

除了程序伦理外，还解决了更广泛的关切：

数字鸿沟和公平：为避免边缘化低识字率用户，研究强调了包容性参与
知情同意和信任：使用清晰的语言解释研究目标和AI相关概念
算法偏见：提高了对由于西方训练数据集可能导致误诊的认识
问责：讨论强调了澄清对AI生成医疗建议责任的治理机制的需要

通过整合这些原则，研究在数据收集和分析的所有阶段都维护了伦理透明度和参与者自主权。

在参与之前，所有参与者都收到了详细的信息表，解释研究的目的、程序、潜在风险和益处、参与的自愿性质以及随时无惩罚退出的权利。

对于调查组件（第1阶段），参与者通过在调查开始时勾选一个框提供电子知情同意，表明他们已阅读并理解信息表并同意自愿参与。

对于访谈和焦点小组（第2阶段），参与者在数据收集前提供书面知情同意。同意表明确告知参与者会议将被录音，参与者可以选择拒绝录音（尽管没有人这样做）。参与者被提醒他们有权跳过任何问题或随时退出研究。

为保护参与者机密性，所有数据在收集后立即匿名化。调查回应使用Google表单匿名收集，除了年龄、性别等之外，未请求任何个人身份信息。访谈和焦点小组参与者被分配唯一的伪匿名标识符（例如，AD [应用开发者] 1表示开发者1，D1表示临床医生1，P1表示专家1），在数据分析和报告中使用。访谈和焦点小组的音频录音存储在仅研究团队可访问的密码保护、加密设备上。转录本在分析前去标识化。所有数据文件根据孟加拉国独立大学的数据保护政策安全存储，并将根据机构和监管要求保留（X年，例如5年），之后将安全销毁。请求上传屏幕截图以验证参与者已安装并使用了mHealth应用。虽然调查问卷要求用户上传显示症状检查结果的屏幕截图，但这些图像仅用于验证目的，未在任何研究发现中分析、编码或包含。所有上传的屏幕截图都存储在仅研究团队可访问的密码保护云存储中，仅用于验证应用使用，并在验证后永久删除。屏幕截图中的任何个人健康信息均未提取、记录或保留用于研究目的。

参与是自愿且无补偿的。然而，所有参与者在完成时都可获得研究结果。该研究对参与者造成最小/无风险。潜在风险包括讨论专业挑战或对AI技术的担忧造成的轻微不适。参与者被告知他们可以跳过他们感到不舒服的任何问题，并可以随时退出。没有参与者报告不良事件或在数据收集期间行使退出权。研究团队和机构审查委员会的联系信息提供给所有参与者，以便对研究有任何问题、担忧或投诉。

结果

利益相关者对mHealth中XAI的看法

用户对mHealth应用中XAI的看法

概述

用户研究检查了孟加拉国的人们如何感知和与AI驱动的mHealth应用互动，重点关注可解释性、信任和期望。总共137名参与者使用了3个AI支持的健康应用之一，Ada、WebMD或Symptomate，然后完成包括开放式和李克特量表问题的调查。目的是了解他们对应用建议的体验以及对清晰度、可靠性和有用性的感知。

定量发现：跨人口统计的信任感知 调查回应概述

分析了137份有效调查回应。参与者主要是18-24岁的年轻成年人（93/137，67.9%），男性（88/137，64.2%），目前在本科课程中注册（107/137，78.1%）。约94%（n=129）报告熟悉AI概念，而只有39.4%（n=54）认识"可解释AI"一词。总体而言，参与者在5点李克特量表上对应用可解释性的评分平均为3.65（SD 0.94，中位数4.0），表明对应用可解释性有中等信任。信任评级范围从1到5，表明用户感知存在相当大的变异性。

教育水平作为信任的主要预测因素

单向ANOVA揭示了教育水平之间信任评级的统计显著差异（F_{3, 133}=2.81, P=.042, η²=0.060），通过Kruskal-Wallis检验（H(3)=7.88, P=.049）确认。高中教育用户报告的最高信任（均值4.67，SD 0.58，n=3），其次是研究生持有者（均值3.85，SD 0.69，n=13）和当前本科生（均值3.66，SD 0.93，n=107）。完成本科学习的学生表现出最低的信任（均值3.14，SD 1.10，n=14）。小效应大小（η²=0.060）表明教育占信任评级变化的大约6%，表明其他因素也影响感知。图3在视觉上说明了这些差异。

年龄：无显著差异

与初步观察相反，ANOVA显示年龄组之间信任评级无统计显著差异（F_{3, 133}=0.62, P=.60），通过Kruskal-Wallis检验（H(3)=2.72, P=.44）确认。信任在各年龄段保持一致：18-24岁（均值3.63，SD 0.96），25-30岁（均值3.74，SD 0.89），31-40岁（均值3.33，SD 0.71）和40岁以上（均值4.00，SD 1.41）（n=4）。虽然描述性均值有所不同，但差异无统计显著性。

其他人口统计因素

在性别、XAI熟悉度、应用类型或使用频率方面没有出现显著差异。这种模式表明，与其他人口统计相比，教育水平是信任差异的主要预测因素。

分类关联：信念模式

卡方检验揭示了两个显著关联。教育水平与对应用决策的信念显著相关（χ²₆=17.08, P=.009），69%的研究生持有者相信建议，而43%的完成本科学习的学生相信。XAI熟悉度也与信念显著相关（χ²₄=11.50, P=.02），63%的XAI熟悉用户表达信念，而33%的部分熟悉用户表达信念。在年龄和信念模式之间没有出现显著关联。

语言和文化背景

需要注意的是，这些信任评级反映了用户对英语应用的感知。尽管参与者懂英语并能理解应用内容，但语言障碍（与AI不透明度不同）可能以多种方式导致较低的信任评级：（1）英语医疗术语和解释的文化共鸣降低，（2）处理非母语健康信息时的认知负荷增加，（3）在敏感健康环境中母语互动提供的缺乏情感联系，以及（4）由西方中心医疗知识库生成的建议的上下文不适当性。因此，观察到的信任赤字可能反映了AI可解释性差距和语言-文化障碍的组合。

定性发现：用户视角

信任和建议的清晰度

用户重视mHealth应用为提供初步诊断带来的便利，但经常质疑底层逻辑的清晰度和可信度。正如一位参与者解释的那样：

"应用在我提供症状后诊断我患有一种疾病，但它没有解释如何或为什么得出这一结论。"

许多参与者表达了对准确性的怀疑和对人工验证的渴望：

"我不确定，因为我希望医生确认任何治疗。"

"我不能相信机器人告诉我要做的事情。"

参与者通常将AI输出视为不确定或不完整，"有时可能不真实"，但认为透明度可以减轻不信任。用户要求解释披露如何生成建议、使用了哪些数据源以及是否应用了临床指南或专家输入：

"如果应用能提供对其建议的简要解释或推理，包括相关研究或来源，将很有帮助。"

"应用应提供有关其数据来源及其AI模型工作方式的明确信息。"

这些发现揭示了加强用户对基于AI的健康评估的信心所需的明确、情境相关的解释。

AI用于早期指导，人类用于最终判断

尽管存在怀疑，大多数用户承认AI工具作为指导的第一点的效用，而不是医疗专业知识的替代品：

"应用正确识别了我的问题。"

"至少它给我提供了关于我的健康状况的见解或想法。"

参与者将AI描述为对早期见解有用，但强调需要人工监督：

"这个应用可能有助于决策，但你最终必须去看医生。"

"为了使应用更值得信赖，它可以使用对其决策的清晰解释并包括用户反馈以不断改进。"

这些反思强调，可解释性增强了感知效用，但不能完全取代专业判断。

对人类判断的偏好

绝大多数更喜欢人类专业知识进行最终决策，强调同理心、情境推理和身体检查：

"医生可以考虑更广泛的因素并提供更个性化的见解，而不是应用。"

"医生可以亲自检查情况并提供适当的治疗，而不像只收集症状数据的应用。"

参与者认为AI在处理罕见或复杂情况方面有限，正如他们所说，"AI不能做人类能做的事情"，反映了计算推理和人类护理之间的界限。

AI指导的感知益处和界限

参与者认识到AI的分析优势，但仍意识到其局限性：

"应用基于数据做出决策，这可能有助于决策。"

然而，他们坚持认为透明度和验证是必要的保障：

"建议的透明解释：应用可以提供详细的解释，说明它如何得出其建议，包括突出显示它考虑的关键症状、病史或模式。"

"诸如提供每个建议的理由等可解释性功能可以使信任更容易。"

这些回应表明，用户接受AI作为助手而非权威，清晰的推理增强了信任，但不能保证信任。

应用和熟悉度效应之间的差异

尽管用户被随机分配一个应用，但Ada、Symptomate和WebMD之间的差异塑造了感知。基于聊天机器人的系统（Ada、Symptomate）通常被视为比静态基于列表的工具（WebMD）更具吸引力和透明度。先前的接触也影响了反应。首次用户往往对新奇性更宽容和印象深刻，而有经验的用户则更挑剔，期望更深入的解释和医疗验证。这些变化表明界面设计和熟悉度有意义地塑造了可解释性的体验方式。

通过以用户为中心的设计改进可解释性

参与者提供了建设性的建议，以增强AI可解释性，强调透明度必须是清晰、情境化和人类连接的，而非纯粹技术性的。

清晰和情境化的解释

"包括对每项建议潜在风险和益处的清晰、简洁解释可以使应用的建议感觉更有理由和谨慎。"

用户期望披露限制和不确定性的简单语言推理，使知情决策成为可能。

人工监督和临床认可

"可靠的方法是提供一个付费聊天功能，将用户与现场医生连接，允许他们验证应用的结果是否与医疗专业人员的诊断一致。"

参与者强烈支持将AI效率与临床验证相结合的混合模型，与人机循环可解释性的更广泛原则一致。

个性化和纵向跟踪

"应用应包括一个部分来记录症状并跟踪健康记录，以获得更个性化的指导。"

定制化和数据连续性被视为相关性和用户信心的关键。

用户反馈循环和自适应系统

"允许用户提供反馈，说明建议是否有帮助或准确，可以帮助AI学习并随时间改进。"

参与者设想了双向学习，用户输入完善未来建议并确保系统与当地临床标准保持一致。

总体而言，用户重视AI驱动的mHealth应用的可访问性和信息益处，但对在没有人工确认的情况下依赖它们持谨慎态度。信任取决于透明推理、情境清晰度和人工监督。可解释性不仅仅是暴露算法；它需要反映社会可信度、文化适应性和沟通同理心。

这些见解强调，在南亚（以及全球南半球），可解释性必须超越技术可解释性，转向社会有意义的透明度，其中AI建议是可理解的、可验证的，并置于可信的人类框架内。

专家对mHealth应用中可解释AI的看法

概述

与6名XAI专家（P1-P6）的访谈产生了关于AI驱动的mHealth系统中可解释性的角色、局限性和设计优先事项的丰富见解。参与者代表了跨越AI研究、临床整合和为孟加拉国等低资源环境的产品设计的多样化学科和地理背景。主题分析揭示了几个相互关联的主题：信任、解释模式、可解释性和透明度、个性化和情境化、医疗专业人员的角色、技术局限性和伦理，以及设计优先事项。

信任作为可解释性的基石

所有专家一致认为，用户信任从根本上决定了AI建议是被接受还是被拒绝。然而，信任被描述为社会情境化的，而非纯粹技术性的。P1观察到"当人们能将他们的思维与应用决策联系起来时，用户的信任会增加"。P5补充说，当建议"简短、基于参考并明确归因于专业人士，如'医生说的，所以人们信任它'"时，信任会增长。

几位专家将信任与重复准确性和社会验证联系起来。P4指出，即使临床医生"在看到多次正确结果后开始信任GPT等工具"。然而，P3的账户显示了信任的情境脆弱性："在孟加拉国，特别是低识字率人群不信任医生...所以这个群体如何信任AI应用？"因此，信任被描述为受专业声誉、算法可信度、先前经验和更广泛的医疗保健社会态度影响的脆弱结构。

首选的解释形式

专家强调，有效的可解释性取决于信息的传达方式。参与者偏爱简洁、参考支持和情境敏感的解释。P1建议突出相关数据："它应该显示相关数据部分，如针对COVID。"P2补充说，解释应引用证据："仅显示问题是不够的；还应提供参考。"

强烈建议采用多模态呈现。P1、P2和P5推荐使用CAM-based叠加或彩色编码图表等视觉解释来简化复杂的模型输出。P6为低识字率用户提出"视频或图像"，而P4推荐"基于案例研究的解释"和模仿医生对话的对话式、叙事格式。将GPT互动与简短的医生咨询进行比较，P4指出，"医生给五分钟，但我可以与GPT交谈一小时。"

这些观点表明，偏好对话驱动的、故事般的解释，这些解释在情感和认知上吸引用户，而非抽象的技术理由。

可解释性和透明度

参与者区分了理解模型如何工作的可解释性以及理解为什么它产生特定输出的可解释性。P1强调，大多数mHealth应用"失败是因为其内部决策不透明"。他们认为可解释性需要对模型结构和数据源的洞察："可解释性基于使用了哪些数据。"

专家还警告说，现有工具如LIME和SHAP仍以开发者为中心。P1直率地表示，"它们是为开发者设计的，而不是为用户。"P3强调"特征变化问题和偏见"是持续解释的障碍。

普遍认为透明度有益，但取决于情境。P1指出，"人们相信他们能理解的东西"，而P5补充说，"如果应用显示它如何得出结论，这会增加信任。"然而，P1警告说，在容易传播错误信息的环境中，过度或措辞不当的透明度可能会适得其反："这与禁忌直接相关。对于错误信息，社交媒体发挥作用。"

总体而言，专家主张分层透明度，为一般用户提供高级摘要，为临床医生或开发者提供更深入的解释选项。

个性化和情境化

所有专家都强调根据用户识字率、语言和情境定制解释的重要性。GPS、人口统计和先前历史等情境数据被视为诊断准确性和相关性的关键。P4说明了这一需求："在查询中，我必须提供上下文，如GPS、个人资料，全部放在一个地方，以获得正确的结果。"

P5提出了一个2步通信模型：首先，交付分析结果，然后补充一个考虑个人情况的情境感知解释。P1同样建议提供"应用中的多个选项"以适应不同的用户背景。

包容性成为一个反复出现的关切。P1指出"与文盲人士合作的重大机会"，而P3警告说，大多数当前系统"为高富人群设计"，排除了低收入和低识字率群体。因此，专家将个性化不仅视为可用性增强，而且视为公平AI的伦理要求。

整合医疗专业人员

专家强烈支持将临床医生作为验证者和沟通者纳入AI系统。P1建议"应用开发者可以聘请医生进行验证"，而P4设想"在几次对话后与医生的实时服务器连接。"

几位参与者（P2、P5、P6）主张嵌入与医疗保健专业人员的实时聊天功能以增强信任。正如P5所说，"如果医生说的，人们更信任它；如果开发者说的，没人会。"P6将此功能描述为有前途的，尽管在后勤上具有挑战性。

有趣的是，P4观察到XAI也可以填补临床沟通中的空白："在孟加拉国，医生解释不多。如果应用能正确解释，它将弥合这一差距并增加信任。"这些见解支持人机协作的概念，其中可解释系统补充而非取代专业判断。

技术局限性和偏见

参与者公开讨论了当前mHealth AI系统的技术脆弱性。训练数据中的偏见、特征漂移和有限的泛化被引用为诊断错误的主要原因。P3提到了持续的"特征变化问题"和"使解释困难的偏见结果。"

几位专家描述了失败案例，如骨折检测中的误诊：

"AI在骨折病例中做出了错误的检测。医生使用累积知识，但应用仅使用训练数据。"

P6批评了诸如"这些都是可能的原因；寻求医疗帮助"之类的通用输出，认为这种模糊的回应破坏了知情决策。

因此，专家强调了稳健数据集、领域适应和承认不确定性的可解释性技术的必要性，而不是过分自信。

伦理、隐私和治理

对隐私和伦理的关切是普遍的。专家强调，用户满意度不应以保密为代价。正如P4断言的那样，"机密信息不能共享。"P1承认监管进展，"规则正在定期更新"，而P3补充说，"如果公司维护隐私，那就没问题。"

然而，对公司级政策的依赖被视为不足；参与者强调需要明确的治理、数据使用、问责和监管执行。讨论表明，伦理可解释性——不仅使决策而且使数据实践透明——对于维持公众信任至关重要。

用于包容性和可操作可解释性的设计优先事项

专家呼吁采用参与式、反馈驱动的设计，以适应不同的识字水平并促进持续参与。P5敦促开发者"将系统部署到少数群体并观察他们的思维"，强调参与式评估。P6指出缺失的反馈循环："应用每小时说我喝水，但从不问我之后是否喝了水。"

建议在几个原则上达成一致：

交互式反馈机制，使用户能够确认、质疑或评价建议
多选项、包容性界面，适应文本、音频和视觉模式
通过语言支持、文化线索和相关区域医疗参考进行本地化
针对特定目的的设计，确保可解释性功能与应用的临床或咨询范围相匹配

虽然一些专家优先考虑数据驱动的透明度（P1、P2），但其他人则倾向于叙事和对话形式的解释（P4、P6）。这种分歧强调了自适应可解释性的必要性，提供多种模式，适合外行用户和专业人士。

开发者对mHealth应用中可解释AI的看法

概述

与4名AI应用开发者（AD1-AD4）的访谈提供了关于在孟加拉国的mHealth应用中实施XAI的可行性、价值和挑战的实际见解。开发者反思了技术限制、情境障碍以及由本地基础设施和用户约束塑造的设计优先事项。出现了八个主导主题：开发者怀疑和验证需求、解释功能差距、可设计的解释机制、可追溯性和透明度、以用户为中心的适应、本地化障碍、安全和数据控制，以及人机混合系统的可行性。

开发者怀疑和人工验证

在所有访谈中，开发者表达了对AI生成健康建议的有条件信任。他们认为AI是有用的辅助工具，但坚持认为输出必须由医疗专业人员验证。AD1强调指导"如果医生验证，是可靠和可接受的"，而AD3承认，"作为开发者，我们不完全信任AI；我们验证。"

AD2指出，"AI尚未达到专家医生水平"，应因此仅限于"正常情况"。即使AD4的中性评论称AI"擅长执行工作"也缺乏对其医疗可靠性的认可。集体而言，开发者将信任框架化为需要专家验证，强化了AI驱动健康系统中人工监督的必要性。

解释功能的差距

开发者普遍承认，解释性在当前的mHealth应用中基本缺失。AD1坦率地表示，"没有进行以可解释性为重点的工作"，而AD2补充说，"我没有制作任何基于解释的应用"。AD3观察到大多数应用仅提供"最小解释"，而AD4确认了不一致性："一些应用提供提示或描述；有些没有。"

这些言论揭示了解释性在开发过程中经常被优先考虑，被核心功能和时间限制所掩盖。因此，孟加拉国部署的大多数mHealth系统缺乏一致或有意义的解释功能，使用户对AI生成建议的产生方式理解有限。

可设计的解释机制

尽管存在当前差距，开发者提出了改进XAI集成的可行策略。他们的建议强调了多模态、交互式和情境敏感的解释系统。AD1建议纳入"基于LLM的推理"，以生成感觉人性化和对话式的自然语言解释。AD2提议分层设计，带有"扩展功能的按钮"和"短答案或长答案"选项，由外部资源支持。

AD3描述了一个理想的界面，"显示决策是如何做出的，包括视觉、文本、视频或音频"，而AD4提倡情境模式："在晨练时，我更喜欢音频；其他时间可能是视觉。"他们还指出，"图像很好，但文本也应该包括。"

这些想法共同指向交互式和多模态可解释性，用户可以选择如何以及何时呈现解释，平衡认知负荷与可访问性。

可追溯性和透明度

透明度被认为是用户信任和开发者信心的关键。AD1简单地将"透明度"视为信任因素，而AD4确认，"是的，我想知道"，当被问及模型推理的可见性是否重要时。开发者将透明度视为用户和技术领域共享的要求；它使调试、验证和问责成为可能。

这种对可追溯性的强调表明，可解释性不仅必须作为用户界面功能，而且必须作为工程原则，帮助开发者在健康建议等敏感情境中监控模型行为并确保质量。

可定制和以用户为中心的设计

开发者偏爱适应系统，根据用户情境和识字率个性化解释。AD3总结了这一愿景："用户可以选择他们想要的可解释性类型。"同样，AD2强调根据"用户级别"调整输出，并指出解释机制应"随时间改进"通过用户互动。

AD4补充说，解释可以根据情境背景进行过滤，以避免使用户不知所措。这些观点在自适应可解释性模型上达成一致，其中AI动态调整其解释的复杂性和模式，以适应用户的背景、语言和情境需求。

本地化和可用性障碍

所有开发者都强调了本地化对mHealth采用的重要性。语言多样性、数字素养和经济因素被确定为关键约束。AD1推荐"需要多种语言和教程"进行入职，而AD2认为系统必须反映"人们如何理解当地医疗保健。"

经济可访问性也成为一个问题。AD4提出了捐赠模式："应解决可负担性问题。那些负担得起的人的捐赠将支持那些负担不起的人。"

这些反思强调，有效的可解释性不能脱离文化和经济现实；它必须嵌入一个与当地能力和规范一致的包容性设计中。

安全、设备级控制和数据完整性

开发者表示意识到隐私和数据安全挑战，特别是关于远程处理。AD1主张"设备上的模型"和"加密数据"，同时警告说"在可解释性之前，我们需要确保用户意识。"

AD3警告"API可能被拦截"，突显了依赖云架构的风险。相比之下，AD4声称"没有隐私问题"，反映了对数据治理问题的信心不足或有限暴露。

集体而言，这些见解突显了mHealth XAI中安全的双重性质：它既是技术性的（加密、设备上处理），也是社会性的，需要用户意识和同意。

人机混合系统的可行性

开发者在将医疗专业人员整合到AI工作流中是否增强或削弱系统价值方面存在分歧。AD1主张"医生在循环中，受监管，并给予收入"的混合模型。AD3同样设想"医生的初步诊断，后续通过应用"，条件是可持续资金。

其他人则表示怀疑。AD2问道，"如果我需要邀请专业人士，为什么还要使用AI？"质疑混合系统的效率。AD4提出了关于真实性和责任的担忧："我们需要验证系统背后的实际医生。如果它是假的，开发者不会承担责任。"

这些相互矛盾的观点说明了自动化和专业监督之间持续的紧张关系，可行性取决于治理、认证和明确的角色边界。

关键知情者对mHealth应用中XAI的看法

概述

与一名深入访谈和9名在孟加拉国执业的医生（D1-D10）的焦点小组的见解揭示了对AI在医疗保健中使用的谨慎乐观。虽然医生认识到AI用于临床辅助的潜力，但他们强调其使用必须保持在人类监督之下。九个相互关联的主题总结了他们对信任、安全、本地化和解释设计的看法。

有条件的信任和临床权威

医生表达了对AI的有条件信任，始终优先考虑临床判断而非自动化输出。正如一位参与者指出的那样：

"即使AI给出正确的预测，我也会依赖自己的判断。"

参与者讲述了误诊的ECG或不准确的症状评估等错误，这削弱了信心。几位警告说，AI和医生之间的冲突输出可能会使患者困惑并损害专业可信度：

"如果应用给出与我说的不同的内容，患者可能会认为我错了。"

因此，信任取决于AI补充而非与人类专业知识竞争。

AI作为辅助，而非自主

所有参与者都将AI视为支持工具，而非临床推理的替代品。它被认为对剂量验证和慢性病监测等任务有用，但对患者自主使用不安全。正如D4所说，"它可以辅助医生，但对用户来说不可行。他们可能会感到不知所措。"这反映了对医生介导AI的偏好，其中应用作为效率和提醒的背景辅助，而非独立的诊断系统。

解释和推理的缺陷

医生批评当前的mHealth应用缺乏清晰或可操作的解释。D3评论说，"如果我还不知道该主题，我如何判断AI的答案是否正确？"虽然像ChatGPT这样的语言模型在提示时可以参考指南，但大多数移动应用提供不透明的输出，没有解释性推理。因此，解释质量与用户专业知识相关，限制了其对非专科临床医生和外行用户的可访问性。

依赖输入质量和用户识字率

参与者强调AI可靠性取决于用户输入的精确性，大多数患者无法提供。正如D3解释的那样，"胸痛可能意味着十件事；只有医生才能通过提问确定是哪一种。"几位医生主张访问限制或基于识字率的用户细分，认为开放的公众使用可能会增加误解风险。

文化和行为障碍

低公众对AI的认识和根深蒂固的文化信仰被引用为主要的采用障碍。"大多数人不知道什么是AI；这就是为什么他们不使用它，"D1说。其他人指出，不信任西医的人不太可能信任AI驱动的建议，开始服用药物，反映了社会信仰如何影响技术接受。

本地化和情境相关性

就西方训练的AI模型无法反映孟加拉国的医疗现实达成了强烈共识。D1观察到，"BD患者的病变不同；在西方数据上训练的AI不起作用。"参与者强调，系统必须纳入本地疾病概况、药物可用性、治疗成本和国家临床指南，以建立信任和可用性。

治理和伦理监督

机构认可被视为必不可少，但仅此还不够。"如果政府发布了它，我会将其输出与自己的判断进行比较，"D1说，而D9补充说，"即使获得认可，应用也必须面向医生，而不是患者。"医生呼吁严格的监管、数据问责和明确界定谁可以使用和解释AI输出的边界。

人机协作和实时咨询

医生普遍支持将AI与人工输入相结合的实时聊天或混合系统，用于轻微或随访病例。然而，他们警告说，远程建议无法替代身体检查：

"仅通过谈话，不进行检查，我们可以诊断。"

参与医生的补偿和验证机制被视为维持此类系统的必要条件。

首选的解释设计

参与者偏爱简洁、优先排序的输出，呈现与指南和来源相关的分级鉴别诊断。正如D3敦促的那样，"不要给出10-20个诊断；显示最可能的并解释原因。"临床结构化、证据链接的解释被认为是支持医生决策和患者理解的必要条件。

总体而言，医疗专业人员将可解释性描述为临床需求，而不仅仅是技术需求。他们将AI设想为一种受监督的决策支持工具，基于本地数据、专业验证和不确定性明确沟通。从他们的角度来看，可解释性对于确保数字健康系统的安全性、情境准确性和维护公众信任至关重要。

利益相关者差距分析：mHealth应用中XAI期望的错位

概述

本分析整合了来自用户、开发者、XAI专家和医疗专业人员的见解，以识别关于mHealth应用中XAI的期望差异。尽管所有利益相关者都认识到可解释性对信任和采用的重要性，但他们在验证标准、解释偏好和感知责任方面的观点大相径庭。了解这些错位对于设计包容性、情境适当的XAI系统至关重要。

信任和验证

信任是跨利益相关者最一致但定义各异的因素。用户通常表示愿意在接受简单推理或可信来源（例如，"如果应用能提供推理，包括相关研究，将很有帮助"）时接受AI建议。相比之下，医疗专业人员采取更严格的标准："即使AI给出正确的预测，我也会依赖自己的判断"，强调最终用户和医生之间的临床责任差距。开发者和专家更接近，将信任视为取决于透明度和迭代验证（AD3；P1）。然而，开发者强调实际验证（"我们不完全信任AI，我们会验证"），而不是专家重视的认知或认知对齐。

解释深度和用户细分

利益相关者在解释应该有多复杂方面存在差异。用户偏好简短、简单语言的推理，描述潜在风险和益处（P77），而专家提倡多模态或叙事解释（例如，基于案例或视觉）（P2，P4）。开发者建议用户可选择的格式，"简短或长解释"（AD2）和根据"用户级别"调整的自适应交付。然而，医疗专业人员认为解释应该取决于用户能力：

"应用应根据教育限制谁可以使用它们。"

这些观点揭示了技术灵活性本身无法解决受众认知多样性这一更深层次的问题。

技术实施和可用性

专家批评现有可解释性工具如LIME和SHAP是"为开发者，不是为用户"（P1），而开发者承认"没有进行以可解释性为重点的工作"（AD1）。这表明技术能力与以用户为中心的设计之间存在持续的翻译差距。虽然用户重视可理解性，但开发者面临资源限制，使高级可解释性难以实施。因此，当前的mHealth AI系统通常在透明度方面交付不足，尽管存在可用技术。

人机协作和问责

所有利益相关者群体都支持人类参与，但在形式和可行性方面存在分歧。用户偏好AI指导系统，带有"连接现场医生的付费聊天功能"（P12）。专家也推荐医生在循环中的方法（P1），而医生则谨慎，如"仅通过谈话，不进行检查，我们无法诊断"（D8），强调身体评估不可或缺。然而，开发者质疑混合模型的可行性："如果需要专业人士，为什么还要使用AI？"（AD2）。责任和法律责任进一步使协作复杂化：医生拒绝为未经验证的AI建议负责，而开发者否认法律责任（"如果它是假的，开发者不会承担责任" [AD4]）。这种共同的不愿意见责任模糊不清，这对监管整合构成了挑战。

本地化和文化背景

本地化成为共同优先事项，但重点不同。用户隐含地期望文化一致的建议，而专家倡导整合GPS和配置文件数据的情境感知功能（P4）。开发者关注多语言界面和可负担性（AD1和AD2），医疗专业人员强调临床相关性：

"BD患者的病变不同；在西方数据上训练的AI不起作用。"

这里的错位反映了对"本地化"的不同解释：对专家和开发者来说，它是技术适应；对临床医生来说，它是诊断和治疗有效性。

隐私、治理和可持续性

隐私获得的关注不均：专家强调"机密信息"的伦理处理（P4）；开发者在倡导加密、设备上模型（AD1）和漠不关心（AD4）之间存在分歧；医生强调机构监督而非数据保护。经济可持续性也揭示了摩擦：用户期望免费服务，医生要求混合系统的补偿（D10），而开发者提出捐赠或补贴模式（AD4）。这突显了伦理和财务可持续性与算法透明度一样重要。

表5提供了关键可解释性维度上利益相关者观点的综合视图。它突出了重叠关切，例如对情境化解释的需求，以及关键错位，特别是在信任、责任和经济可行性方面。

总体而言，虽然所有利益相关者在可解释性的价值上达成一致，但他们在"良好解释"在实践中意味着什么方面存在分歧。这些紧张关系表明，医疗保健中的有效XAI设计必须与所有参与者共同创造，平衡技术透明度与人类判断、文化细微差别和系统问责。以下部分提出的框架旨在通过参与式、情境敏感的设计原则来调和这些差距。

mHealth应用中可解释AI的建议框架

概述

基于来自各种利益相关者的见解，我们开发了一个用于AI驱动的mHealth应用的5支柱概念框架（图4）。该框架将可解释性定位为从人类理解、算法透明度和机构问责之间的互动中产生的动态过程。

支柱1：人机协作和临床验证

所有利益相关者群体都优先考虑人类监督，而非自主AI决策。医疗专业人员强调临床推理必须是健康建议的最终仲裁者。用户更喜欢提供专业咨询以进行验证的应用。开发者和专家支持"医生在循环中"的模型，整合实时聊天、机构认可或验证机制以锚定信任并减轻过度依赖风险。

支柱2：透明逻辑路径

参与者寻求关于AI系统如何得出结论的清晰度，重视逐步因果推理，而非抽象的置信度分数或概率分布。用户希望模仿临床思维过程的叙述（例如，"您报告了这些症状；因此，这些情况可能"），而非技术解释。此原则需要直观的推理痕迹、视觉摘要或简化的决策路径，使模型内部逻辑可见。

支柱3：情境化个性化

用户期望AI系统反映个人健康档案、当地治疗获取和日常习惯。开发者强调，个性化在保护隐私的同时增强了感知相关性和信任。该框架设想了适应性解释系统，根据用户识字率、熟悉度和先前互动调整深度、语调和模式（文本、视觉和音频），正如利益相关者咨询所确定的那样。利益相关者强调，不同用户的可解释性需求差异很大，个性化扩展到临床适应，考虑区域特定疾病流行率、当地药物可用性和可负担性。

支柱4：文化和语言相关性

用户和临床医生强调，以西方为中心的术语、仅限英语的界面和不熟悉的医疗概念如何使用户疏远。信任取决于语言和文化共鸣。此原则需要使用本地语言的解释，并辅以语音叙述、文化熟悉的隐喻、当地健康实践的例子，以及国家临床指南和批准药物列表的整合。

支柱5：信任校准和伦理保障

用户表达了隐私担忧，而专家强调明确传达AI局限性的重要性。此支柱主张明确的置信度指标（"高确定性"和"低数据置信度"）、清晰的数据使用披露、专业或政府机构可见的伦理认可、用于标记不正确输出的反馈机制、定期审计，以及建立超出界面设计的问责制的准确性指标的公开报告。

支柱关系和实施依赖

虽然图4以圆形排列呈现支柱，强调它们在操作过程中的相互关联性，但成功的实施需要理解它们的依赖性。支柱1（人机协作）作为基础层，没有先决条件：利益相关者普遍将人工监督视为不可协商的。支柱2（透明逻辑）和支柱3（情境化个性化）在此基础上构建，可以并行开发，解决互补需求：AI如何推理以及如何根据个体用户调整解释。支柱4（文化-语言相关性）改变了如何在本地上下文中表达现有功能，首先需要下层支柱正常工作。支柱5（信任校准和伦理保障）作为监控完整系统的治理层，验证人机协作是否遵循伦理指南、透明逻辑揭示真实推理、个性化尊重隐私，以及文化适应是否真实。这种层次结构为实施优先级提供信息：首先建立人工监督（支柱1），构建技术和自适应能力（支柱2-3），整合文化背景（支柱4），并实施持续治理（支柱5）。我们需要提供特定于AI的知情同意，解释算法如何使用GPS、健康历史和人口统计来生成解释；在可行的情况下进行数据最小化和设备上处理；用户对个性化设置的控制；并遵守框架，包括欧盟人工智能法案对高风险健康AI系统的要求以及世卫组织关于AI伦理的指导。持续监控必须通过定期隐私影响评估审计潜在危害，包括隐私泄露、歧视性个性化和信任校准不当。

框架综合

该框架通过调和用户对可访问解释的需求与临床医生对基于证据验证的要求、开发者的可行性约束以及专家的可解释性需求，解决了已识别的利益相关者错位。这五个原则形成了一个相互关联的系统，其中用户体验完善解释，临床验证提高可靠性，情境适应增强参与度。

讨论

主要发现

本研究做出了五个主要贡献。首先，教育水平显著预测对AI可解释性的信任（F_{3, 133}=2.81, P=.042），批判性思维技能比人口统计因素更重要。其次，系统性利益相关者错位出现：用户优先考虑人工验证，开发者面临限制XAI实施的资源约束，临床医生要求临床验证路径，专家确认技术方法（LIME，SHAP）不足以满足外行用户。第三，所有利益相关者普遍优先考虑人工监督而非自主AI，验证了医疗保健环境中的"社会可解释性"。第四，当前技术XAI方法无法转化为具有不同教育水平用户的可理解解释。第五，我们开发了一个五支柱参与式框架来解决这些差距：（1）人机协作，（2）透明逻辑路径，（3）情境化个性化，（4）文化-语言相关性，以及（5）信任校准与伦理保障。

统计发现的解释

教育水平显著预测对AI可解释性的信任（F_{3, 133}=2.81, P=.042, η²=0.060 vs F_{3, 133}=0.62, P=.60），挑战了关于代际技术采用差异的"数字原住民"假设。教育-信任关系揭示了一种意想不到的非线性模式。完成本科学习的学生报告的信任度较低（平均3.14），而当前本科生（平均3.66）和高中学生（平均4.67）。这种"批判性评估下降"可能反映了提高的批判性思维技能，而没有获得将AI适当医疗保健角色情境化的专业知识。研究生持有者表现出更高的信任（平均3.85），可能反映了更多的AI接触，以及将AI理解为辅助工具而非替代工具。小效应大小（η²=0.060）表明教育仅占6%的方差，表明多种因素影响信任。缺乏年龄相关差异（P=.60）与预期相反。尽管67.9%的参与者年龄在18-24岁之间，但信任在各年龄组中保持一致，表明可解释性要求是普遍重要的，而非代际特定。卡方分析强化了这些模式：教育水平（χ²₆=17.08, P=.009）和XAI熟悉度（χ²₄=11.50, P=.02）显著预测对应用决策的信念。研究生持有者的信念率为69%，而完成本科学习的学生为43%。值得注意的是，"对XAI有些熟悉"的用户表现出最低的信念（33%），表明表面知识会增加怀疑，但没有提供足够的背景，表明可解释性教育必须全面而非表面。

这些发现对设计具有重要影响。mHealth系统应根据教育背景和批判性思维方向调整解释，而非基于年龄的个性化。应用应包括解释可解释性含义及其重要性的教育组件。这些定量模式与定性发现一致，最近毕业的学生表达了高度怀疑，而研究生持有者表现出更细致的AI理解，增强了对我们结论的信心。

情境化和关系可解释性

用户欣赏mHealth的可访问性，但对建议表示怀疑，引用模糊、文化脱节的输出。信任取决于可理解、本地化的解释，由专业人士认可，扩展了先前的工作，同时强调可解释性如何在南亚重塑，那里的健康素养和基础设施差异很大。专家和临床医生建议，对于具有不同识字水平的用户，视觉解释和文化基础隐喻可能比统计置信度水平更有效。这些发现与Ismail和Kumar在印度社区卫生工作者的工作相平行，他们需要社会文化背景和人类中介，以及面临类似基础设施限制和语言差距的尼日利亚/肯尼亚数字健康。我们框架中的人工监督和文化适应原则似乎可以转移到南亚背景，同时需要本地实施适应。

用户关注输出可解释性而非技术实施

将用户对3个应用的回应进行比较时，出现了一个关键发现。尽管Ada使用贝叶斯推理，Symptomate使用适度的算法透明度，WebMD依赖于传统的基于规则的逻辑，但用户在这些应用之间的信任评级没有显著差异。这不是我们研究设计的限制，而是有意的研究决策，揭示了关于用户在健康技术中关心什么的基本见解。

我们特意选择了这三个具有不同技术架构的应用，以测试用户是否基于底层AI实施进行区分。结果明确表明他们没有。用户不关心应用是使用ML、贝叶斯网络还是传统算法。相反，他们根据输出是否解释清楚以及是否可以由可信的人类权威验证来评估系统。

这一发现直接支持我们框架的设计优先级。用户一致要求所有3个应用的相同内容，无论技术实施如何：建议的清晰解释、了解得出特定结论的原因，以及获取医生验证的途径。无论系统使用复杂的AI还是简单的基于规则的逻辑，对用户来说都无关紧要。重要的是他们是否理解输出并能获得人类确认。

这验证了我们框架的结构。我们将人机协作定位为基础第一支柱，正是因为用户优先考虑人工验证而非算法复杂性。技术架构对用户来说是看不见且无关紧要的。他们想知道系统的结论是什么，为什么这对他们的健康很重要，以及医生是否同意。同样，我们的第四支柱强调文化-语言相关性，因为用户需要熟悉的术语和本地背景中的解释，而不是有关模型架构的技术细节。

应用之间缺乏区分表明，医疗保健中的AI可解释性问题从根本上说是关于人类沟通，而非技术透明度。用户不想看到LIME可视化或SHAP值。他们想要简单的语言解释和专业认可。我们的框架通过优先考虑社会可解释性机制（人工验证、清晰沟通和文化适应）而非纯粹的技术可解释性方法来解决这个问题。

这一发现挑战了XAI研究中强调使算法更透明的主导叙事。我们的结果表明，对于医疗保健用户，算法透明度既非必要也非充分的信任。用户需要的是输出透明度和人工监督，这正是我们的框架通过其分层支柱结构提供的。

人机协作的经济可行性

开发者利益相关者质疑人机循环系统的财务可行性，指出支付临床医生与mHealth的成本节省目的相矛盾。另一方面，用户愿意为专家建议付费。然而，可以采用多种商业模式来实现经济可行性。

分层服务模式可以为用户提供选择，在即时医生咨询的付费高级服务和政府或非政府组织（NGO）资助的验证之间进行选择，通过分层审查（社区卫生工作者升级到医生）或24-48小时内的异步咨询。这种免费增值模式，付费用户补贴基础设施，而弱势用户访问免费服务，在全球数字健康平台中很常见，可以适应AI验证的mHealth。

孟加拉国政府基础设施已支持补贴服务。卫生部在2025-26财年获得41,908亿塔卡（35亿美元），其中4,166亿塔卡（3.5亿美元）用于免费服务。数字健康战略运营96个远程医疗中心，Shasthyo Batayon在新冠疫情期间处理了1,000万次呼叫，每次咨询3.6塔卡（0.0289美元）。世卫组织、联合国儿童基金会、联合国人口基金、世界银行（2亿美元）和BRAC等非政府组织提供额外的资金流，可以支持免费验证。

其他模式包括基于订阅的访问、保险整合，以及为高风险病例保留医生验证，而AI处理低风险评估的风险分层。

社会文化维度和利益相关者差距

利益相关者期望出现分歧：用户偏好简洁、令人安心的消息；临床医生寻求与指南一致的可追溯逻辑；开发者优先考虑可扩展性；专家强调伦理清晰度。这些不同的优先事项证实，可解释性必须同时作为认知、伦理和文化界面发挥作用。

设计权衡和启示

开发可解释的mHealth AI涉及不可避免的权衡：简化提高理解但可能遗漏细微差别；个性化增加相关性但增加资源需求；透明度可能使低识字率用户不知所措；文化适应增强信任但挑战标准化。这些紧张关系需要分层、适应性解释，根据用户能力和任务敏感性改变深度，这是我们5支柱框架中嵌入的设计原则，整合了人机协作、透明逻辑、情境化个性化、文化对齐和伦理保障。

实践和伦理相关性

该框架的贡献在于将可解释性转化为负责任的设计原则。它在识字率和基础设施限制持续存在的mHealth生态系统中实施人工监督、透明度和伦理问责。研究中的开发者确认了增量部署的可行性，从基础保障开始，然后逐步添加个性化和文化适应。这种方法促进长期可持续性，同时通过启用包容性、可解释性和本地有意义的数字健康工具解决AI公平性差距。

局限性和未来方向

样本代表性

一个关键限制是我们的动机背景（低资源、服务不足人群）与实际参与者（主要是年轻、受过高等教育、英语熟练）之间的差距。这种差距存在是因为评估的应用（Ada、WebMD、Symptomate）仅提供英语；目前不存在具有XAI功能的孟加拉语mHealth应用。这种技术限制需要招募代表受过教育的早期采用者的英语熟练参与者，而非一般人口、农村社区或将从可访问的mHealth解决方案中受益最多的低识字率群体。另一个限制是教育类别的样本量不平衡。高中组仅包含3名参与者，而在读本科生组有107名学生。虽然ANOVA显示统计显著性（F_{3, 133}=2.81, P=.042），但高中样本极小意味着这一发现应被视为轶事而非确定性。更可靠的观察是，完成本科学习的学生表现出较低的信任度（平均3.14，SD 1.10），而在读本科生（平均3.66，SD 0.93），因为这两个组都有足够的样本量进行比较。未来研究需要在所有教育水平上有更大、更平衡的样本，以确认教育是否真正预测对AI可解释性的信任。

选择偏差

访谈和焦点小组参与者（n=20）通过专业网络和滚雪球抽样招募，可能选择了对技术感兴趣的人，并过度代表了乐观观点。"谨慎乐观"的特征应据此解释；现实世界中的怀疑可能比发现表明的更大。根据专家和临床医生的见解，该框架对低识字率人群的适用性可能需要调整：视觉/音频解释、口头健康传统、本地语言依赖和社区卫生工作者中介。需要直接验证低识字率用户。这项研究是在孟加拉国进行的，参与者是城市、受过教育的。发现可能不适用于所有南亚背景，因为基础设施、识字率和文化实践存在区域差异。

语言障碍

即使在英语熟练的参与者中，英语界面可能充当信任障碍，与AI不透明度不同，降低了文化共鸣并增加了认知负荷。信任赤字可能反映了AI设计缺陷和语言-文化障碍。发现不能推广到文盲、半文盲或非英语使用者，他们的观点仍然严重未被代表。

方法学限制

小样本量（40岁以上[n=4]；高中教育[n=3]）限制了统计能力。教育的小效应大小（η²=0.060）表明它仅占信任方差的6%，突显了未测量因素的影响。开发者样本（n=4）很小；发现代表初步见解，需要验证。定性分析使用单编码器编码，没有独立的编码者间可靠性测试，尽管使用了同行反馈。

此外，近一半的受访者（48.2%）是首次用户，他们在调查完成前立即安装了应用。他们的信任评级可能反映初始可用性印象，而非通过多次使用和与实际健康结果验证AI准确性而发展的持续信任。未来研究应检查信任如何在多次使用会话中演变，以区分第一印象反应和基于经验的信心。

此外，WebMD使用基于规则的逻辑而非ML，意味着约三分之一的参与者（n≈46）评估了传统算法系统而非AI。他们的信任和可解释性评级反映了mHealth界面可用性，而非对AI不透明性的反应。虽然我们有意包括WebMD来测试用户是否基于技术架构进行区分，但这意味着并非所有用户回应都针对AI特定的可解释性。缺乏对AI和非AI系统的区分在理论上很重要，但读者应注意，用户样本包括对这两种系统类型的评估。

框架验证

此框架代表一个从利益相关者需求和现有XAI文献中综合的概念模型。虽然基于实证多利益相关者数据，并由参与式设计原则理论指导，但该框架尚未通过专家评估（例如，认知走查、启发式评估）、原型实现或最终用户的可用性测试进行实证验证。在将框架操作化到实际mHealth应用之前，需要通过专家评审、试点实施和用户测试进行验证，以评估框架是否成功解决已识别的差距，以及用户是否理解并信任根据这些原则设计的解释。

未来研究优先事项

紧急需求包括（1）开发用于低识字率人群的文化适应XAI的孟加拉语mHealth应用；（2）与文盲、半文盲和非英语使用者进行参与式设计，以了解他们独特的可解释性需求；（3）框架的原型实现和专家评估；（4）纵向研究评估文化定制XAI如何随着时间影响健康结果、参与度和信任；（5）在多样化的全球南半球以及南亚背景中进行跨文化验证。

与现有mHealth应用的比较

为了评估当前实践，回顾了广泛使用的应用，如Ada、WebMD和Symptomate。这些工具提供基本症状指导，但缺乏结构化的可解释性、本地化通信和临床验证。没有任何一个整合人工监督或清晰的推理路径，通常提供不透明或仅限英语的反馈。相比之下，所提出的框架通过临床医生整合、可追溯逻辑、情境化个性化和伦理透明度直接解决了这些缺陷。表6总结了这些特征。

这些对比突显了该框架作为改进mHealth中可解释性标准的蓝图的实际价值。通过将AI解释置于社会、文化和临床现实中，它提供了一个增强信任、可解释性和用户安全的模型。

与现有mHealth评估框架的比较

表7将我们的框架置于现有的mHealth XAI文献中，将本研究的方法和贡献与16项先前工作在方法论、理论和实践维度上进行比较。

结论

这项多利益相关者研究确定了五个主要发现：（1）教育显著预测对AI可解释性的信任（P=.042）；（2）用户需求、开发者约束和临床医生要求之间存在系统性错位；（3）人工监督普遍优先于自主AI；（4）技术XAI方法不足以满足外行用户；（5）一个5支柱参与式框架解决了这些差距。这些发现使mHealth开发者受益（为资源受限环境提供实施指导）、医疗保健提供者（为人工-AI协作模型提供证据）、政策制定者（为AI治理和数字素养计划提供原则）、XAI研究人员（识别技术-外行用户差距）、最终用户（倡导可理解的健康AI）和全球健康公平（框架防止西方中心范式并解决影响全球数十亿人的挑战）。

AI驱动的mHealth应用中的可解释性不仅仅是技术透明度的问题，而是一种社会、文化和伦理必要性。本研究基于南亚背景，揭示了用户、开发者和医疗专业人员以不同但相互关联的方式概念化可解释性：用户寻求保证和清晰度，开发者强调可行性和性能，临床医生要求基于证据的问责。所提出的5支柱框架通过整合人机协作、透明逻辑、情境化个性化、文化相关性和伦理保障，响应了这些多样化期望，形成了一个用于值得信赖的mHealth设计的统一模型。

除了推进技术讨论外，这项工作还强调，医疗保健AI中的可解释性从根本上关乎公平和包容。在资源有限的环境中，理解并质疑AI生成建议的能力决定了数字工具是赋能还是边缘化用户。通过将可解释性置于本地语言和文化现实中，本研究为设计不仅是智能的，而且是可理解的、可信的和人性化的AI系统提供了情境敏感的基础。

最终，本研究呼吁将可解释性从计算问题转变为参与式设计责任。构建值得信赖的mHealth AI需要的不仅仅是透明模型；它需要跨学科和文化的合作。这里提出的发现和框架旨在指导这一转变，引导开发加强而非取代人类与技术之间关系的AI系统，以追求更好的健康。

致谢

感谢编辑和审稿人提供建设性反馈，这显著提高了本手稿的质量。我们也感谢本研究的所有参与者，感谢他们的时间和宝贵见解，他们支持数据收集。我们声明使用生成式人工智能来协助语言编辑和校对。在全人类监督下，Claude AI（Anthropic）用于提高英语语言清晰度和可读性。所有研究设计、数据收集、统计分析、解释和智力贡献均由作者完成。最终手稿的责任完全由作者承担，AI工具未列为作者。

所有作者声明，他们没有足够的资金支持本手稿的开放获取出版，包括来自附属组织或机构、资助机构或其他组织的资金。JMIR Publications为本文的出版提供了文章处理费（APF）支持。