关键要点：
- 开发者已经创建了基于AI的应用程序来治疗成人和儿童的精神疾病。
- 仍需要大量关于使用、结果和隐私的研究。
人工智能在医学中的应用正在扩展，以帮助提供者和患者完成各种任务，其中一个快速增长的领域是用于治疗精神疾病的程序。
“我觉得我每周都会了解到新的平台或新的应用程序，”布赖安娜·摩尔博士（Bryanna Moore, PhD）在接受Healio采访时说。她是纽约罗切斯特大学卫生人文与生物伦理学系的临床伦理学家和助理教授。大多数这些应用程序使用大型语言模型以类似人类的方式回应用户，许多应用程序被设计成利用认知行为疗法工具，摩尔表示。尽管一些研究评估了使用聊天机器人进行心理健康治疗的好处和风险，但很少有研究专注于儿科人群。
“它们是在成人环境中开发的，现在开始被引入并扩展到儿科领域，”但关于它们还有很多需要了解的地方，摩尔说。
我们与摩尔讨论了治疗聊天机器人的工作原理，以及儿科医生在向患者推荐之前应该知道什么。
Healio: 治疗聊天机器人是如何工作的？它们的设计目的是什么？
摩尔: 它们从非常简单的聊天机器人——每次对话都是新的，不会记住你——到更复杂的应用程序，这些应用程序对你有一个记忆，并根据他们从你那里学到的东西调整他们的方法。
大多数聊天机器人都依赖于大型语言模型——一种算法，它收集自然语言并用它来预测文本串并以模仿人类治疗师的方式回应。你打开应用程序，分享你的感受，它会以一种方式回应，要么验证这些感受，要么帮助你重新框定问题，或者使用其他认知行为疗法工具来帮助你应对你所经历的问题。
Healio: 在为儿童设计治疗聊天机器人时有哪些特别考虑？
摩尔: 我在儿科和成人环境中担任临床伦理学家，与儿童合作是不同的。他们是脆弱的人群，通常依赖成年人和社会来提供他们生存和繁荣所需的基本物品。儿童通常不像完全有能力的成年人那样做出关于自己健康和医疗保健的决定。
在思考、开发和使用这些应用程序与儿童时，一个非常重要的考虑因素是他们的大脑仍在发育。他们仍在学习自我、身份和应对策略。童年是一个广泛的范畴，孩子们处于不同的认知和社会发展阶段。拥有能够敏感地应对这些不同社会和发展需求和速度的应用程序非常重要。
Healio: 在哪些情况下这些应用程序可能有用？
摩尔: 当孩子们需要练习具体的技能时，这些技术可能最有帮助，包括社交技能、应对技能或正念。大多数轶事证据表明，当一个人感到焦虑增加时，这些应用程序最有帮助。他们可以跳上应用程序，跟随引导的练习，帮助他们感到被认可或练习呼吸。这种匿名感对于那些在某些事情上挣扎但还没有准备好与人交谈的青少年甚至更小的孩子来说也是有帮助的。
Healio: 使用这些应用程序有什么缺点？
摩尔: 它们不应该替代其他形式的心理健康支持。这是我担心的情况。已经有了一些报告，主要是针对成人人群，讲述了当这些机器人出错时会发生什么——比如AI出现幻觉，或者有人过度依赖这项技术，从而对其生活的其他方面产生负面影响。
如果一个孩子正处于急性心理健康危机中，绝对不是依靠应用程序的时候，因为许多应用程序并没有内置任何安全功能。大多数应用程序开发者和平台都非常明确地表示，这些应用程序不适用于此类情况。
Healio: 儿科医生应该如何与患者和家庭讨论治疗聊天机器人？
摩尔: 对这个问题我的诚实回答是，我认为我们还不足以了解证据基础——好处和危害——来进行良好的对话和知情同意过程。虽然有一些新兴的证据基础，但数据仍然非常混杂。我们可以做的一件大事是，诚实地告诉患者和家庭我们所知道的和我们不知道的。
重要的是，儿科医生在与患者和家长讨论这些应用程序时，应该将其视为补充——而不是替代——儿童从生活中的其他人那里寻求帮助和支持。
Healio: 有关隐私或保密性方面的担忧吗？
摩尔: 目前，AI是一片未开垦的荒野。我们还没有法规来确保隐私，明确谁负责数据以及如何存储数据。一些平台和开发者在这方面做得更好，清楚地说明他们如何试图减轻这种风险。但对于其他平台，没有太多信息可用。所以，这绝对是一个值得关注的问题。
现有文献中有一些关于数字表型的讨论，以及人们在使用这些应用程序时可能会分享的敏感信息将如何被使用。如果这些信息会被出售或用于监视或其他目的，超出治疗机器人的既定目标，那将是一个巨大的伦理问题——这是我们有可能缓解的问题。但我们只是需要更多的信息、更多的透明度和更明确的法规。
Healio: 儿科医生应该推荐治疗聊天机器人吗？
摩尔: 对这个问题我的诚实回答也是我不知道。像Alongside和Troodi这样的应用程序是很好的例子。它们内置了安全功能，并且以非常敏感的方式开发，以满足儿童和青少年的独特需求和兴趣。我认为有些应用程序儿科医生可以考虑使用并向儿童和家庭推荐，但这需要具体情况具体分析。不应该是“这是你的应用程序，去吧”，而应该是“让我们试试这个，看看它是否有助于症状管理和其他治疗目标，然后再一起讨论”。
绝对有地方可以推荐它们，但我们仍然需要更多的研究。我们需要与儿童、青少年和家长讨论他们感受到的压力、他们如何看待使用这些应用程序以及什么对他们最有益。
Healio: 还有其他需要注意的事项吗？
摩尔: 在这个领域讨论健康差异非常重要。我认为我们需要在开发、推荐和使用这些应用程序时，对现有的心理健康差异及其对这些差异的潜在影响保持高度敏感。也许这些应用程序可以缩小差距，但也可能加剧差距。
我们最糟糕的做法之一是推动人们使用这些应用程序，因为它们是相对等待时间短、成本低的选择，而没有更强的证据基础来证明这对个人的影响，以及对最有可能被推向或远离使用这些应用程序的社区的影响。
(全文结束)
