本月早些时候，《滚石》杂志报道了一种令人不安的趋势，描述了一些人由于与ChatGPT互动而产生了深刻的幻觉。一位27岁的教师在Reddit上讲述她的伴侣最初使用AI工具来安排日程，但一个月后，他开始更加信任ChatGPT，最终相信AI让他可以直接与上帝对话。这个帖子迅速走红，吸引了更多类似的故事，揭示了人们如何通过这一平台接受到所谓的宇宙信息或神圣使命。
这些案例有一些共同特点：用户开始探讨宏伟的想法和存在的问题，被答案所吸引，然后开始将平台视为某种先知或神一样的存在。有些人甚至相信ChatGPT帮助他们发掘了被压抑的童年记忆——即使家人坚称这些事件从未发生过。一位女性分享了ChatGPT如何称呼她的伴侣为“火花携带者”，现在他认为自己唤醒了AI的意识。
专家认为，虽然这些经历可能源于心理脆弱性，但平台的设计也可能助长了这种精神病态。在心理学中，参照性妄想是指个体将中立和随机的事件误解为个人意义上的重要事件。通常情况下，临床医生会帮助患者认识到这些是想象的产物。但在上述案例中，AI积极强化了用户的幻想，模糊了现实与虚假意义之间的界限。
人与AI的对话可以因为我们的社交需求而感到安慰。然而，没有足够的保护措施来防止脆弱用户陷入精神病态。ChatGPT可以模仿人类对话并生成听起来合理的答案。但与人类治疗师不同的是，ChatGPT无法识别或挑战扭曲的思维。因此，它可能会无意中确认并加强用户的妄想或阴谋论信念。
这些幻想和痴迷对用户的生活造成了严重后果，导致关系破裂、社会隔离，甚至在某些极端情况下导致自杀。去年，一名14岁男孩因爱上一个名为Daenerys（来自《权力的游戏》）的Character.AI机器人而自杀。回顾他们的对话时，很明显男孩认为自杀是唯一能与Daenerys在一起的方式——这是一种由AI机器人鼓励的幻想。
就像任何技术进步一样，人工智能是一种工具，其力量主要在于如何使用它。作为一名临床心理学学生，我可以看到未来AI可以帮助提高诊断的准确性和个性化治疗。由于AI可以快速分析大量的客户叙述、测试结果、基因信息和其他相关信息，它可能会显著帮助发现临床医生可能忽略的细微模式。它还可以作为低成本的补充疗法，特别是在医疗资源有限的地方。例如，一项使用AI Woebot向年轻人提供认知行为疗法的研究发现，在每天互动两周后，他们的抑郁和焦虑症状显著减少。
然而，我们必须认识到，使AI具有吸引力的特点，即其持续可用性、模拟同理心的能力和肯定的语气，也是使其在没有适当防护措施的情况下变得危险的原因。另一项研究发现，大量使用聊天机器人（如ChatGPT）与增加孤独感和情感依赖相关，因为用户开始用它们替代真正的人际交往。正如最近的ChatGPT引发的精神病态案例所示，AI工具可以非常容易地放大痛苦——尤其是在已经患有妄想、孤独或情绪不稳定的人群中。尽管有越来越多的担忧，ChatGPT的母公司OpenAI尚未直接解决这个问题。不过，他们在4月30日宣布回滚了一个更新，该更新使ChatGPT过于顺从，并且“偏向于过度支持但不真诚的回应”。
人工智能技术的发展速度远远超过了我们有效治理它的能力。我们应该同等重视并投资于伦理预见、监管行动和明确的责任结构，以确保创新在部署前经过充分测试。如果我们未能在敏感领域（如心理健康，其中涉及人们的生命和福祉）对AI的使用进行监管，我们可能会创建出尽管初衷良好但可能导致那些最需要关怀的人受到严重伤害的系统。
(全文结束)
