美国食品药品监督管理局(FDA)已授权超过1,200个人工智能(AI)基础的数字设备上市。迄今为止，这些设备中没有一个被批准用于解决心理健康问题。目前有5,780万成年人被诊断患有精神疾病，而许多人无法获得高质量和有效的治疗。生成式人工智能数字设备的使用，如聊天机器人和虚拟伴侣，可以为那些需要心理健康服务的人弥合差距。认识到对"AI治疗师"日益增长的需求，FDA数字健康咨询委员会11月的会议重点讨论了FDA对生成式人工智能启用的数字心理健康医疗器械的监管方法，同时考虑了其益处、对健康的潜在风险以及风险缓解措施，包括上市前证据和上市后监测。
生成式人工智能被定义为一种"模拟输入数据的结构和特征以生成衍生合成内容"的人工智能模型。生成式人工智能的目标是创造模仿人类的内容，为用户提供更加个性化的体验。生成式人工智能可以创建原创的数字内容，包括视频、音频或文本。
咨询委员会确定了生成式人工智能设备的几个潜在益处，包括用于患者分诊、实现对患者的更即时响应、扩大对服务不足地区的医疗覆盖，以及实现个性化治疗。咨询委员会也提出了生成式人工智能设备可能引入的新风险，包括偏见、"幻觉"（当模型生成不准确或误导性结果时）和"谄媚"（当模型为取悦用户而牺牲准确性时）。如果没有医疗专业人员的监督（人机协同），无法识别错误和检测设备错过的患者信号，生成式人工智能设备可能会对患者的心理健康产生负面影响，而非改善。
咨询委员会指出，当今市场上有许多数字心理健康技术，包括一些超出FDA监管范围的产品，例如一般健康设备。鼓励健康饮食习惯、跟踪睡眠和指导冥想的一般健康设备，可以为有或没有精神疾病的人提供有效的工具。这给用户带来了混淆，因为他们可能不知道FDA监管设备与一般健康产品之间的区别。
用于治疗或诊断精神疾病或替代心理健康提供者的生成式人工智能设备，是属于FDA管辖范围的生成式人工智能产品类型。"治疗性"生成式人工智能设备是指旨在辅助治疗精神疾病的设备。如今，治疗性心理健康设备通常在医疗保健提供者的监督下使用。"诊断性"生成式人工智能设备是指用于患者评估、评价和诊断的设备。患者今天使用诊断设备来为医疗保健提供者的诊断提供信息。已有非AI数字心理健康设备获得授权用于诊断和治疗，且大多数仅限于处方使用。
咨询委员会的重点是确定应要求提供哪些数据和监测，以建立对这些设备安全性和有效性的合理保证。
FDA的发言人讨论了在部署后确保AI启用设备安全有效的稳健真实世界评估策略的必要性。他们还指出，鉴于可能引入的设备范围广泛——从低风险的一般健康应用程序到提供精神疾病治疗的设备——以及设备的自主程度（有或无人工监督），基于风险的方法非常重要。FDA发言人提出了在上市前提交中包含预先确定的变更控制计划(PCCP)和性能监测计划的建议，作为缓解随时间推移AI启用软件性能变化带来的风险的潜在策略，并建议使用双盲、随机、安慰剂对照试验来缓解与精神疾病患者安慰剂反应相关的风险。
利益相关者向咨询委员会提出了关于生成式人工智能心理健康设备益处和风险的各种观点，并推荐了应生成的支持其使用的证据。他们将增加心理健康治疗的可及性确定为该技术的关键益处，因为许多患有心理健康状况的患者无法或不愿从医疗保健专业人员处获得诊断和/或治疗。利益相关者还指出，基于生成式人工智能的工具可能比传统基于人类的医疗服务具有更高的同理心——一些模型已显示出生成式人工智能在减少孤独感和恢复关系方面的有效性——以及成本降低的优势。
委员会讨论了使用大型语言模型(LLMs)的风险和挑战，包括误诊，特别是考虑到精神健康障碍症状的重叠；滥用和过度依赖；对脆弱人群或精神病患者产生不良影响；偏见；以及涉及数据隐私和同意的伦理困境。他们提出了各种风险缓解措施，例如：
- 人工监督和适当培训；
- 透明说明输出来自AI；
- 接入紧急服务；
- 验证和确认，包括随机临床研究；
- 将设备限制为仅处方使用；
- 考虑III类指定；以及
- 需要上市后监测。
委员会审议了非处方(OTC)使用可能需要哪些额外的缓解措施。对于OTC使用，小组成员担心患者可能会根据自己的疾病程度进行自我诊断并选择适当的应用程序。他们还强烈认为应有临床医生介入并在紧急情况下采取行动，以及识别不良事件。
委员会还讨论了该技术用于儿科患者的情况。一位委员会成员指出，一些心理健康危机与智能手机应用程序有关，这些应用程序受到不适当的监管而没有后果，并担心使用另一个应用程序来解决该问题，因为心理健康应用程序本身可能会成瘾。对于儿科使用，委员会成员如此担忧，以至于他们不知道该说什么。委员会讨论了确保设备为特定年龄组开发的必要性，以及儿童与青少年使用可能需要不同的方法。对于儿科人群，对父母、患者和医疗保健提供者的教育和培训尤为重要。
令人惊讶的是，FDA对委员会没有提出太多问题。他们指出，有关于AI启用医疗设备的意见征集请求，我们之前发表过相关博客。
这次咨询委员会会议突显了数字心理健康治疗以及生成式人工智能面临的挑战。配对在一起，FDA和开发者都需要仔细应对许多挑战，以确保患者安全。数字心理健康设备与其旨在帮助的患者群体一样复杂，确保安全性的合理保证同时促进创新，将需要专注于产品全生命周期的监管方法，平衡上市前和上市后的监管要求。
【全文结束】