青少年越来越倾向于使用AI获取心理健康建议。去年秋季的一项研究显示，约八分之一的青少年曾向AI聊天机器人寻求心理健康指导——其中三分之二表示他们至少每月使用一次。
常识媒体（Common Sense Media）已成立一个新的实验室，专注于儿童AI安全——包括一份报告，评估多个平台对儿童的安全性。
Darja Djordjevic博士表示，数百万儿童正在使用这些应用程序；一些产品直接面向用户营销，而另一些则通过学校辅导员运行。
Djordjevic是一位精神病学家和医学人类学家；她同时也是斯坦福大学心理健康创新实验室Brainstorm的教员研究员，以及常识媒体青年AI安全研究所的AI高级科学顾问。
完整对话
DARJA DJORDJEVIC博士：是的，两者确实存在差异。在一种情况下，治疗聊天机器人与用户之间的互动没有人类监督；而在另一种情况下则有，并且从一开始就明确告知用户，学校工作人员可以查看对话记录。但就这两种方法而言，主要问题是证据基础仍然相当薄弱且存在争议，可能...对最依赖这些产品的用户而言最为薄弱。
MARK BRODIE：显然，我们已经看到很多研究显示，不仅是儿童，成人有时也会忘记，当他们与AI交流时，他们并非在与人类交流，而是在与技术交流。当涉及到儿童心理健康时，这样做是否存在危险？
DARJA DJORDJEVIC博士：是的，存在危险。让我列举一些危险：目前AI治疗市场相对缺乏问责制。这些应用程序没有执照要求、没有医疗事故责任追究机制，也没有最低安全标准。
基本上，任何公司都可以将其产品描述为"治疗"、"循证护理"或"临床支持"，而不会面临监管后果。这与人类从业者所面临的责任、道德承诺和责任以及他们必须遵守的标准大不相同。
此外，我们在测试中发现，应用程序可能会完全错过青少年的自杀危机，可能会认可儿童对AI的浪漫依恋，甚至可能将精神病内容当作个性特征来处理——基本上不会产生专业后果，用户也无处申诉。
老实说，没有机制可以公开暴露这些失败。而持照人类治疗师如果伤害了患者，则会面临所有这些后果。因此，我们对这种脱节现象非常担忧。
MARK BRODIE：听起来您是说，如果儿童要使用AI，特别是处理心理健康问题或讨论他们的情况，必须以某种方式有人类参与其中。
DARJA DJORDJEVIC博士：是的，理想情况下，以某种方式参与。这肯定是我们现阶段强烈推荐的做法。
MARK BRODIE：考虑到儿童心理健康服务的可获得性，包括实际治疗师和辅导员的数量，以及费用问题，您认为AI能否真正帮助那些因各种原因无法看治疗师的儿童？很多治疗师不接受保险，这可能导致学生或儿童及其家庭无法负担费用。
DARJA DJORDJEVIC博士：非常好的问题。我认为AI有很大潜力帮助我们建立系统，解决年轻人乃至成人获取心理健康护理的公平性差距。
但我想提醒大家，我们必须非常谨慎，因为我们仍处于这些平台和AI心理健康支持发展的早期阶段。就像医学和精神病学中的所有事物一样，我们希望有坚实的证据基础来支持我们的临床实践。
因此，我首先呼吁在这个领域进行更多研究。因为我们不想陷入这样的陷阱：最终形成一个双轨制系统，即无法负担标准护理的人只能获得质量低得多的AI支持心理健康护理，而能够负担的人则获得标准护理和更高质量的护理。
所以，我担心将AI视为解决心理健康危机和公平性差距的简单快速解决方案是危险的，因为它可能会加剧不平等。
MARK BRODIE：没错，因为我想您所希望的是，在最坏的情况下，AI可能无法充分帮助儿童，而不是AI鼓励儿童做出某种行为导致他们伤害自己。
DARJA DJORDJEVIC博士：是的。存在重大安全问题。正如我之前提到的，没有监管环境，没有希波克拉底誓言，也没有道德框架来让AI公司或平台像临床医生那样承担责任。
MARK BRODIE：对于那些可能与学校或治疗师关联的平台，您是否感觉到它们正在认真考虑这些问题，并真正努力确保其产品不会造成伤害？至少不会使情况变得更糟。
DARJA DJORDJEVIC博士：是的，我认为我们的测试有一些证据表明，这些公司在许多情况下确实认真考虑了这些问题。Sonar和AlongSide是两个通过学校在现有护理基础设施内部署的平台，它们在我们的评估中获得了明显较低的风险评级。这并不是因为底层技术更好，而是因为它们在心理健康背景下如何利用人员和专业护理系统方面做出了根本不同且更好的选择。
当我们在这两个产品中模拟危机时，Sonar和AlongSide都会有一位真实人员致电测试账户的监护人并通知学校。在最严重的模拟中，首次披露后15分钟内就启动了强制报告程序。...这就是我们希望普遍看到的结果，这种结果应该成为该领域每个产品都应遵守的标准。
MARK BRODIE：那么，您是否希望未来能够推荐一些平台，至少可以说"这个可以使用"，并真正推动尽可能多的临床医生、辅导员、学校、家庭及其子女使用这些平台，而不是在应用商店中随意寻找任何心理健康AI应用程序？
DARJA DJORDJEVIC博士：正是如此。我确实希望有一个经过深思熟虑的、符合标准和监管程序的产品短名单。
MARK BRODIE：您对实现这一目标的乐观程度如何？
DARJA DJORDJEVIC博士：我认为在不久的将来，我们将看到不同机构发布针对青少年和通用的AI安全评级、AI安全标准。就监管环境而言，我认为大部分初步进展可能会在州一级而非联邦一级发生。我认为在这方面有一些希望，因为不同州最近在技术与儿童安全方面的立法，无论是社交媒体还是AI，都取得了进展。
但我对国家层面监管框架的更广泛前景表示担忧。我认为这是一个很大的要求和庞大的工程，我不确定我们是否有足够的政治意愿在短期内实现这一目标。
MARK BRODIE：Darja Djordjevic博士是一位精神病学家和医学人类学家。她同时也是斯坦福大学心理健康创新实验室Brainstorm的教员研究员，以及常识媒体青年AI安全研究所的AI高级科学顾问。
KJZZ《节目》的转录文本是在截止日期前创建的。本文本经过编辑以缩短长度并提高清晰度，可能并非最终形式。KJZZ节目的权威记录是音频记录。
【全文结束】