心理健康应用的兴起与监管挑战Many older Americans don’t trust AI-generated health information

环球医讯 / AI与医疗健康来源:www.msn.com美国 - 英语2024-10-28 17:31:00 - 阅读时长2分钟 - 627字
旧金山心理学家Emily Anhalt见证了心理健康危机的影响,同时专家Jodi Halpern呼吁对心理健康应用进行监管
心理健康应用监管挑战心理治疗师AI聊天机器人心理健康危机FDA监管自杀事件
心理健康应用的兴起与监管挑战

位于旧金山的心理学家艾米丽·安哈特(Emily Anhalt)亲眼目睹了该国心理健康危机的影响。焦虑、抑郁和倦怠等心理问题的发生率急剧上升。现有的训练有素且持证的心理治疗师数量远远无法满足所有寻求帮助的人的需求。因此,各种心理健康应用程序的涌现并不令人惊讶。安哈特指的是新一代的健康应用程序,如Wobot、Replica和Earkick,这些应用程序通过AI聊天机器人提供支持。治疗方式从认知行为练习到与用户互动的陪伴机器人,费用仅为实际看心理治疗师的一小部分。我们只是希望确保我们不会以一种实际上造成更多伤害的方式来做这件事。

加州大学伯克利分校生物伦理学教授、全球领先的专家乔迪·哈尔珀恩(Jodi Halpern)对这些应用程序缺乏监管的“西部荒野”现象表示担忧。去年,Coco的联合创始人透露,该平台向数千名以为自己在与真人交谈的用户提供AI回复。我并不是反对AI的发展,但我认为我们需要考虑监管和安全问题。哈尔珀恩正在领导推动确保提供心理健康服务的聊天机器人应用程序受到FDA的监管。她对AI治疗的局限性表示担忧。如果你说你有任何自杀的想法或感受,这些机器人只会说:“我帮不了你,拨打911。”去年,比利时一名男子在使用Chai应用程序后,在一个流氓机器人的鼓励下自杀,这一事件登上了头条新闻。我对这波AI治疗有很多担忧。技术本身是好事,但一切都需要以关心人们的方式使用。我认为我们需要更加明智地使用技术。我是马蒂·萨尔特报道。


(全文结束)

大健康

猜你喜欢

  • OpenAI的Whisper工具在音频转录中添加虚假文本OpenAI的Whisper工具在音频转录中添加虚假文本
  • Bacancy 和 Data Prophets 将通过 AI 聊天机器人流程构建器改变医疗保健Bacancy 和 Data Prophets 将通过 AI 聊天机器人流程构建器改变医疗保健
  • 诉讼:AI聊天机器人鼓励佛罗里达州青少年自杀诉讼:AI聊天机器人鼓励佛罗里达州青少年自杀
  • 研究人员称医院使用的AI转录工具会编造从未说过的话研究人员称医院使用的AI转录工具会编造从未说过的话
  • OpenAI的Whisper转录工具存在幻觉问题,专家警告OpenAI的Whisper转录工具存在幻觉问题,专家警告
  • Echo IQ获得FDA对其AI软件的批准Echo IQ获得FDA对其AI软件的批准
  • 保护医疗行业免受网络钓鱼攻击保护医疗行业免受网络钓鱼攻击
  • AI 创新改变医疗保健交付方式AI 创新改变医疗保健交付方式
  • 研究人员称医院使用的AI转录工具会编造从未说过的话研究人员称医院使用的AI转录工具会编造从未说过的话
  • 研究人员称医院使用的AI转录工具会杜撰不存在的内容研究人员称医院使用的AI转录工具会杜撰不存在的内容
大健康
大健康

热点资讯

大健康

全站热点

大健康

全站热文

大健康