OpenAI(ChatGPT开发者)近日推出多项新功能,旨在培养用户健康使用习惯、预防情感依赖并维护用户心理健康。这些改进措施主要通过提醒用户适时休息、优化对敏感话题的回应方式,以及降低AI长期互动可能产生的负面影响来实现。
关键更新之一是新增使用提醒提示功能,当用户长时间使用ChatGPT时系统会自动建议暂停。OpenAI特别强调,开发目标并非延长用户停留时间,而是确保人机互动既高效又平衡。公司表示,这款聊天机器人旨在协助用户完成具体任务(如学习新知识、解决问题或推进工作),之后应顺利回归日常生活。
与此同时,OpenAI正与30个国家逾90名医疗专家合作,提升ChatGPT对心理压力、情绪困扰等敏感场景的识别能力。该合作项目致力于优化AI在处理私人问题时的响应方式,当用户寻求情感支持时提供更具建设性的建议。例如当用户询问是否应该结束恋爱关系等情感化问题时,ChatGPT将引导用户分析利弊而非直接给出建议,既避免AI主导重大人生决策,也防止冲动行为引发实际后果。
本次更新还新增情感依赖防护机制,防止用户对AI产生拟人化误解。系统将强化模型输出逻辑,杜绝制造AI具有自主情感或意识的错觉,避免用户形成单向情感依赖。
为确保功能开发的专业性,OpenAI专门成立由心理健康专家、青少年发展学者及人机交互领域研究人员组成的专家顾问组,持续指导ChatGPT的安全优化,尤其关注未成年等特殊群体的使用安全。
这些改进体现了OpenAI对负责任AI部署的持续承诺:既要发挥助手功能,又要避免过度使用或不当依赖。值得注意的是,近期该聊天机器人曾因谷歌搜索暴露逾10万条对话记录引发隐私争议。
【全文结束】

