当OpenAI和谷歌等公司开始向公众推出生成式AI模型时，我怀疑它们没有预见到人们会对这项技术产生如此强烈的依恋——以及这将对集体心理健康产生的影响。一些ChatGPT用户在OpenAI关闭GPT-4o模型时确实感到悲痛，因为他们将这个特定模型视为伴侣。其他用户则与聊天机器人走上了更黑暗的道路，导致针对AI公司的诉讼，这些公司的技术据称建议并鼓励自杀念头。这种情况理应给这些公司带来巨大压力：生成式AI目前极具影响力，其开发者肩负着重大责任。
正是在这一背景下，我们看到了谷歌对Gemini的最新更新。在周二早上的新闻发布会上，该公司没有推出有趣的新功能或旗舰AI的新能力，而是专注于心理健康以及Gemini如何影响使用者的情绪和心境。具体来说，谷歌表示正在实施三个关键点来改善Gemini处理这些棘手情况的方式。
Gemini如何为用户提供危机支持
谷歌表示已更新Gemini以"简化需要帮助者获取支持的路径"。当AI检测到用户在聊天中可能需要心理健康信息时，Gemini将呈现新的"帮助可用"模块，可引导用户获取信息和护理服务。谷歌表示该聊天内模块是与临床专家合作开发的。
另一方面，如果Gemini判断用户有自残或自杀风险，它将呈现"一键式"界面，立即将用户连接到危机热线。用户可直接从Gemini聊天中拨打或发送短信至热线，或访问其网站。即使对话继续进行，Gemini也会为用户提供这些资源以备不时之需。
谷歌表示将在未来三年内提供3000万美元的全球资金，用于协助危机热线。该公司还将扩大与ReflexAI的合作关系，包括投入400万美元资金支持。
Gemini如何应对"急性心理健康状况"
谷歌表示，其临床、工程和安全团队正专注于改进Gemini对这些困难情况的响应。具体有三个重点领域：
- 安全与人际连接：谷歌希望在危机时刻将用户连接到真实人类，而非AI聊天机器人。
- 改进的响应：AI的回应应鼓励用户寻求帮助，而非认可有害行为或自残。
- 避免确认错误信念：谷歌表示已训练Gemini不强化错误信念，并"温和地"区分主观和客观现实。这一点尤为重要，因为先前的生成式AI模型（特别是GPT-4o）过于轻易地确认了用户的妄想思维。
谷歌如何通过Gemini保护年轻用户
迄今为止，最重要的讨论围绕未成年人与AI的互动展开。谷歌宣传了其为保护年轻用户而对Gemini所做的改进，包括：
- "个性保护"功能阻止Gemini在与未成年人互动时表现得像一个伴侣。
- 设计阻止Gemini与年轻用户建立过深联系，以防止形成情感依赖。
- Gemini将避免鼓励欺凌和骚扰行为。
虽然用户安全在各个层面都很重要，但对于正在与技术共同成长的年轻人来说，这一点尤为重要。谷歌的这些公告令人鼓舞，但我仍有许多担忧，更不用说怀疑了。Meta关于其模型如何与未成年人互动的内部政策令人震惊，因此我不确定大型科技公司是否真正考虑到了年轻人的最佳利益。但任何有助于防止年轻用户对AI形成依恋，或让AI强化危险有害思想的工作，我都表示欢迎。
【全文结束】