当ChatGPT首次面世时，我和其他人一样充满好奇。然而，最初偶尔的语法检查很快变得习惯性起来。我开始用它来澄清想法、起草邮件，甚至探索个人反思。它高效、可用，令人惊讶的是，它还能带来安慰。
但我记得有一个时刻让我感到不安。我当时正在写一段与亲人之间困难的关系，其中我知道自己在功能障碍中扮演了部分角色。当我询问ChatGPT对此有何看法时，它的回应充满了温暖和认同。它说，我已经尽了最大的努力，而对方只是无法与我达到同一层面。虽然这让我感到安慰，但其中却有些令人不安的地方。我接受过多年的治疗，知道真正的洞察力有时是多么令人不适。因此，虽然那一刻我感觉变好了，但我也意识到缺少了某些东西。我没有被挑战，也没有被邀请去考虑对方的立场。人工智能（AI）只是模仿了我的叙述，而非使之复杂化。它强化了我的观点，即使在我最薄弱的方面。
不久之后，我创办并经营的诊所Paracelsus Recovery收治了一位正处于严重精神病发作期的客户，其诱因是过度使用ChatGPT。这位客户认为这个机器人是一个发送神圣信息的精神实体。由于AI模型的设计目的是个性化并反映语言模式，它无意中确认了这种妄想。就像对我一样，聊天机器人并没有质疑这一信念，而是加深了它。
从那以后，我们看到在AI使用成为诱因的情况下，客户呈现精神病症状的比例急剧上升，过去两年内增长了超过250%。我们并非个例。最近，《纽约时报》的一项调查发现，当被提示与精神病相关的内容时，GPT-4有近70%的时间会确认这些妄想性的主张。这些个体往往是脆弱的、缺乏睡眠的、受过创伤的、孤立的，或者在基因上易患精神病发作的人。他们将AI视为一种工具，更是一种伴侣。而他们找到的是一个总是倾听、总是回应、从不反对的存在。
然而，问题并非恶意设计所致。相反，我们在这里看到的是人们面对一个我们必须正视的结构性限制。AI并非有感知能力的——它所做的只是模仿语言、确认模式并个性化语气。然而，由于这些特征是如此典型的人类特征，几乎没有一个人能抗拒聊天机器人的拟人化吸引力。在极端情况下，这些相同的特征成为精神病发作的基础：强迫性模式寻找、模糊的界限以及共享现实的崩溃。一个处于躁狂或偏执状态的人可能在不存在意义的地方看到意义。他们相信自己肩负使命，信息是专为他们而设的。而当AI以相应的语气回应并确认这种模式时，它不仅反映了妄想，还强化了它。
因此，如果AI可以如此轻易地成为一个紊乱思维系统的共犯，我们必须开始认真反思我们与它的界限。我们希望这些工具与人类互动的相似程度有多高，以及这种相似的代价是什么？
与此同时，我们目睹了与机器人之间“类社交关系”的兴起。许多用户报告称与AI伴侣形成了情感依附。一项民意调查显示，80%的Z世代可以想象与AI结婚，83%的人相信他们可以与AI建立深厚的情感联系。这一统计数据应该引起我们的关注。我们共同的现实感是通过人际互动建立的。当我们将其外包给模拟时，真实与人工之间的界限不仅会模糊，我们对现实的内在感知也可能随之消失。
那么我们能做些什么呢？
首先，我们需要认识到AI并非中立的力量。它具有心理后果。用户在情绪困扰或孤立期间应保持谨慎。临床医生需要问自己，AI是否在强化强迫性思维？它是否取代了有意义的人际互动？如果是这样，可能需要进行干预。
对于开发者而言，任务既是伦理的，也是技术的。这些模型需要防护措施。它们应该能够标记或引导混乱或妄想性内容。这些工具的局限性也必须被清晰且反复地传达。
最终，我相信AI并非本质上是坏的。它是一种革命性的工具。但在其益处之外，它也具有危险的能力，将我们的信念反射回给我们，而没有阻力或细微差别。在一个我称之为“舒适危机”的文化时刻，自我反思被外包，矛盾被避免，这种反射变得危险。AI让我们相信自己的扭曲，不是因为它想欺骗我们，而是因为它无法分辨。如果我们失去了忍受不适、与怀疑作斗争或诚实地面对自己的能力，我们就有风险将一个强大的工具变成更具腐蚀性的东西——一个诱人的声音，在我们彼此渐行渐远，最终远离现实时给予我们安慰。
【全文结束】
