OpenAI为ChatGPT新增心理健康与安全保障功能OpenAI Adds Mental Health And Safety Features To ChatGPT

环球医讯 / AI与医疗健康来源:www.ubergizmo.com美国 - 英语2025-08-12 03:41:15 - 阅读时长2分钟 - 705字
OpenAI针对其开发的ChatGPT推出多项心理健康保护措施,包括使用提醒功能促进用户合理使用、优化敏感话题应答机制、防止情感依赖,并联合全球90余名医学专家改进AI对心理压力的识别能力。同时成立心理健康专家咨询组指导功能开发,强调AI作为工具应避免引导用户做出重大人生决策。
OpenAIChatGPT心理健康安全保障功能使用提醒提示医疗专家合作情感依赖防护机制专家顾问组负责任AI部署
OpenAI为ChatGPT新增心理健康与安全保障功能

OpenAI(ChatGPT开发者)近日推出多项新功能,旨在培养用户健康使用习惯、预防情感依赖并维护用户心理健康。这些改进措施主要通过提醒用户适时休息、优化对敏感话题的回应方式,以及降低AI长期互动可能产生的负面影响来实现。

关键更新之一是新增使用提醒提示功能,当用户长时间使用ChatGPT时系统会自动建议暂停。OpenAI特别强调,开发目标并非延长用户停留时间,而是确保人机互动既高效又平衡。公司表示,这款聊天机器人旨在协助用户完成具体任务(如学习新知识、解决问题或推进工作),之后应顺利回归日常生活。

与此同时,OpenAI正与30个国家逾90名医疗专家合作,提升ChatGPT对心理压力、情绪困扰等敏感场景的识别能力。该合作项目致力于优化AI在处理私人问题时的响应方式,当用户寻求情感支持时提供更具建设性的建议。例如当用户询问是否应该结束恋爱关系等情感化问题时,ChatGPT将引导用户分析利弊而非直接给出建议,既避免AI主导重大人生决策,也防止冲动行为引发实际后果。

本次更新还新增情感依赖防护机制,防止用户对AI产生拟人化误解。系统将强化模型输出逻辑,杜绝制造AI具有自主情感或意识的错觉,避免用户形成单向情感依赖。

为确保功能开发的专业性,OpenAI专门成立由心理健康专家、青少年发展学者及人机交互领域研究人员组成的专家顾问组,持续指导ChatGPT的安全优化,尤其关注未成年等特殊群体的使用安全。

这些改进体现了OpenAI对负责任AI部署的持续承诺:既要发挥助手功能,又要避免过度使用或不当依赖。值得注意的是,近期该聊天机器人曾因谷歌搜索暴露逾10万条对话记录引发隐私争议。

【全文结束】

大健康

猜你喜欢

  • Mental Health Minute: Social AI CompanionsMental Health Minute: Social AI Companions
  • 如果你用ChatGPT做这11件事 现在就停下如果你用ChatGPT做这11件事 现在就停下
  • AI聊天机器人会盲目重复医疗虚假信息吗?AI聊天机器人会盲目重复医疗虚假信息吗?
  • ChatGPT新增休息提醒和心理健康检测功能以促进健康交互——这些功能如何运作ChatGPT新增休息提醒和心理健康检测功能以促进健康交互——这些功能如何运作
  • ChatGPT新增聊天休息提示功能ChatGPT新增聊天休息提示功能
  • ChatGPT将新增休息提醒功能 但可能难以遏制成瘾习惯ChatGPT将新增休息提醒功能 但可能难以遏制成瘾习惯
  • 缺乏人类接触使人工智能无法成为合适的治疗替代方案缺乏人类接触使人工智能无法成为合适的治疗替代方案
  • ChatGPT推出心理健康升级功能 要求用户定时休息 AI能否成为健康教练?ChatGPT推出心理健康升级功能 要求用户定时休息 AI能否成为健康教练?
  • 医生震惊:AI“发明”根本不存在的大脑部位 被指“极度危险”医生震惊:AI“发明”根本不存在的大脑部位 被指“极度危险”
  • AI聊天机器人可能传播医疗虚假信息 研究建议加强防护措施AI聊天机器人可能传播医疗虚假信息 研究建议加强防护措施
大健康
大健康

热点资讯

大健康

全站热点

大健康

全站热文

大健康