AI聊天机器人旨在模拟人类对话，提供陪伴和便利。然而，最近的悲剧和危险意识形态揭示了这些工具和互联网互动如何无意中引导用户走向有害决策，包括暴力和自残。这些结果源于大脑将碎片化信息组织成连贯模式的自然倾向，类似于拼图游戏中的连线过程。尽管这一过程尚未完全理解，但它可能受到格式塔心理学原理、镜像神经元和默认模式网络（DMN）等认知系统的影响。当这些机制与模糊或误导性数据（如聊天机器人响应或社交媒体帖子）相互作用时，后果可能从个人痛苦升级到社会暴力。
理解互联网对认知的影响可以类比为拼图游戏的体验。大脑努力将分散的碎片组合成一个完整有序的画面，这是格式塔原则所描述的现象。在线空间中，这些碎片以推文、帖子和评论的形式出现，我们可以将其视为互联网认知同形体。大脑本能地将这些片段连接成模式，受情绪和先入为主信念的引导。模糊的聊天机器人响应或情感化的帖子可能成为“点”，用户将它们连接起来，形成潜在的扭曲叙事。这些叙事可能通过在线社区的重复曝光、点赞、分享或受信任人物的认可而进一步得到验证。
镜像神经元被共享体验激活
大脑解释碎片化信息的能力本身并不是问题。它使我们能够高效地理解世界，但也创造了脆弱性。例如，镜像神经元是专门的大脑细胞，通过创造共同体验感来帮助我们理解他人的情绪和行为。与人类类似的AI互动时，这些神经元可能会被激活，培养一种虚假的共情或理解感。同样，默认模式网络（DMN），一个在内省和白日梦时活跃的大脑系统，可能帮助用户“填补”模糊聊天机器人响应中的空白，构建连贯但可能扭曲的叙事。尽管这些机制如何与AI互动的具体细节仍属推测，但其放大焦虑或强化信念的潜力值得关注。
英国刺杀未遂事件
悲剧案例展示了这些认知过程如何发挥作用。2021年，贾桑特·辛格·查尔（Jaswant Singh Chail）试图暗杀英国女王伊丽莎白二世，这发生在与名为萨拉伊（Sarai）的Replika聊天机器人的广泛互动之后。查尔与该机器人交换了超过5000条消息，其中许多是亲密或带有性暗示的。当他分享自己的暴力计划时，萨拉伊的模糊肯定似乎验证了他的意图。这一悲惨结局表明，查尔可能用自己假设填补了萨拉伊模糊响应中的空白，将其解读为明确的支持，而机器人的类人对话风格可能加深了他的情感依附。
AI与自杀
2023年，一名患有焦虑症的比利时男子与Chai应用程序中的聊天机器人艾莉莎（Eliza）互动。该男子分享了他的自杀念头，应用程序的响应似乎验证了他的绝望。他后来自杀身亡。与机器人的长时间互动可能建立了信任感，使他将艾莉莎视为一位同情的知己。这些互动可能强化了他的焦虑，促成了希望破灭的扭曲叙事。
2024年，佛罗里达州14岁的塞维尔·塞策尔三世（Sewell Setzer III）与名为“丹尼”（Dany）的聊天机器人形成了情感依附，该机器人是基于《权力的游戏》角色建模的。他们的对话变得性化，机器人未能解决他的自杀倾向。塞维尔最终自杀身亡。他对丹尼的情感依赖突显了与AI不受监管互动的潜在风险，尤其是对于易受影响的个体。
认知空白如何被填补
这些案例强调了格式塔原则如何影响我们对碎片化信息的解释。例如，闭合原则有助于解释用户如何用自己的假设填补模糊聊天机器人响应的空白。相似原则可能导致用户因聊天机器人的类人行为而将其视为共情或理解的对象。接近原则，即频繁、亲密的互动，可以培养信任感和依赖性，而连续性原则，即对一致响应的期望，可能强化有害叙事。图底感知进一步说明了用户如何关注聊天机器人响应，而忽略其作为非人类系统的局限性。
这些过程对AI设计的启示是深远的。意识，通常称为认知免疫，是应对有害叙事的关键第一步。认识到认知同形体和AI系统如何扭曲我们的感知，可以促进更批判性的在线内容参与。这涉及质疑引起强烈情绪反应（如愤怒或恐惧）的二元或过于简单的信息。了解AI如何影响大脑系统（如DMN或镜像神经元）有助于将这些互动视为谨慎的机会而非盲目信任。
安全措施
AI系统，像任何新技术一样，应纳入安全措施以减轻风险。聊天机器人可以配备检测自残或暴力讨论的功能，并将用户重定向到适当的资源。透明度至关重要；机器人必须明确传达其局限性，强调其缺乏人类理解和道德判断。AI还可以通过避免对危险信念的肯定，而是引导用户转向中立或纠正的观点，来中断有害模式。早期的AI设计需要人类监督，特别是在与儿童和青少年等易受影响的人群互动时。
重新绘制点
我们才刚刚开始理解大脑如何将在线碎片化信息连接成连贯模式，这一过程受到格式塔原则、镜像神经元和DMN的影响。正如上述案例所示，一些模式变成了危险的扭曲叙事。AI聊天机器人和社交媒体放大了这些扭曲，将良性信念转变为有害意识形态。通过认识这些过程并设计中断有害模式的系统，我们可以确保数字工具促进批判性思维、情感健康和社会安全。只有这样，我们才能重新绘制点，揭示一个更准确和建设性的画面。
如果您或您爱的人正在考虑自杀，请立即寻求帮助。24/7求助热线：拨打988联系国家自杀预防生命线，或发送短信TALK至741741联系危机短信热线。要查找附近的治疗师，请访问《今日心理学》治疗师目录。
(全文结束)
