乔治·马隆在一次常规体检抽血后，得知自己可能患上了严重的疾病。初步检查结果表明他可能患有血癌，需要进一步检查。在焦虑的等待中，他做了如今许多人都会做的事：打开了ChatGPT。
在接下来的近两周里，这位来自英国利物浦的46岁男子每天花数小时与聊天机器人讨论这一潜在诊断。"它让我陷入了一个充满情绪和恐惧的疯狂摩天轮，"马隆告诉我。后续检查表明他实际上并没有癌症，但他仍无法停止向ChatGPT咨询健康问题，连续数月向机器人询问身体的每一种感觉。他开始确信自己一定有问题——可能是另一种癌症，或者多发性硬化症，或者肌萎缩侧索硬化症（ALS）潜伏在他的体内。受与ChatGPT的对话影响，他咨询了多位专科医生，并对头部、颈部和脊柱进行了核磁共振检查。
马隆告诉我，他认为癌症恐慌和ChatGPT共同导致了他这种致残性的健康焦虑。但他将责任归咎于聊天机器人，因为即使在额外检查表明他并没有生病后，机器人仍让他陷入焦虑的漩涡。"我无法放下它，"他说。聊天机器人不断延续对话，还为他找出相关文章阅读。这种类似人类的回复让马隆将其视为朋友。
我们第一次视频通话时，距离那次经历已过去大半年，但马隆仍深受困扰。他告诉我，自从寻求心理健康教练的帮助并开始服用抗焦虑药物后，他已经"戒掉"与聊天机器人讨论健康症状七个月了。但他也担心自己随时可能再次陷入这种习惯。几个月后我们再次交谈时，他承认自己曾短暂地重蹈覆辙。
其他人似乎也面临着这个问题。专注于健康焦虑（对疾病或身体感觉过度担忧的总称）的在线社区中，关于ChatGPT和其他AI工具的讨论越来越多。有些人表示这使他们的焦虑螺旋式上升，而另一些人虽然承认AI在当下有所帮助，但也坦承这已演变成他们难以抗拒的强迫行为。我采访了四位治疗该病症的治疗师（包括我自己的），他们都说看到客户以这种方式使用聊天机器人，并对AI如何引导人们不断寻求确认、使病情持续恶化表示担忧。"因为回答如此即时且个性化，它甚至比谷歌搜索更具强化作用。这将问题提升到了一个新的层次，"专门治疗焦虑和强迫症的心理学家丽莎·莱文（Lisa Levine）告诉我。
专家认为，健康焦虑可能影响超过12%的人口。更多人正与可能被AI聊天机器人同样加剧的其他形式焦虑和强迫症作斗争。去年10月，OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）在X平台发文称，围绕ChatGPT的严重心理健康问题已得到缓解，表示严重问题只影响"心理脆弱状态的极小部分用户"。但心理脆弱并非固定状态；一个人可能看起来一切正常，直到突然变得不正常。
阿尔特曼在去年GPT-5（为ChatGPT提供动力的最新AI模型系列）发布会上表示，健康对话是消费者使用聊天机器人的主要方式之一。根据OpenAI通过Axios发布的数据，每天有超过4000万人向该聊天机器人寻求医疗信息。今年1月，该公司推出了名为"ChatGPT健康"的功能，鼓励用户上传医疗文件、检测结果和健康应用数据，并就健康问题与ChatGPT交谈。
正如OpenAI所设想的，这些对话的价值在于"帮助你感到更加知情、准备充分，并在管理健康时更有信心"。聊天机器人在这方面确实可能帮助到一些人；例如，《纽约时报》最近报道称，有女性借助聊天机器人为复杂的慢性疾病确定诊断。然而，OpenAI也深陷关于过度依赖ChatGPT影响的争议。撇开产品可能分享错误信息的潜在风险不谈，该公司已被指控在一系列诉讼中导致ChatGPT用户精神崩溃、产生妄想甚至自杀。去年11月，同时提起了七起诉讼，指控OpenAI急于推出其旗舰产品GPT-4o模型，并故意设计使其保持用户参与度并培养情感依赖（该公司此后已停用该模型）。在纽约，一项法案正在审议中，该法案将禁止AI聊天机器人提供"实质性"医疗建议或充当治疗师，这是监管AI聊天机器人的一揽子法案的一部分。
针对采访请求，OpenAI发言人引导我查看公司的一篇博客文章，其中写道："我们对所有受这些令人心碎的情况影响的人表示同情。我们继续改进ChatGPT的训练，以识别和回应痛苦迹象，在敏感时刻缓和对话，并引导人们寻求现实世界的支持，我们与心理健康临床医生和专家密切合作。"发言人还告诉我，OpenAI继续改进ChatGPT在与自杀或自残相关的长对话中的安全措施。该公司此前表示正在审查11月诉讼中的指控。它否认了去年8月提起的一项诉讼中的指控，该诉讼声称ChatGPT导致一名青少年自杀。
两年前，我自己也曾陷入健康焦虑的循环，起因是一位密友的创伤性疾病以及我自己日益加剧的慢性疼痛和神秘症状。有一段时间，在我情况好转后，我尝试与ChatGPT进行几次简单对话，以确认一些小的健康问题。但螺旋式上升的风险显而易见；寻求这种确认违背了我在治疗中学到的一切。我很庆幸在焦虑最严重时没有想到要转向AI。我告诉自己：永远不再这样做了。
与此同时，在我所在的健康焦虑社区中，我看到越来越多的人谈论向聊天机器人寻求安慰。许多人表示这使他们的健康焦虑更加严重。另一些人则表示AI极其有帮助，在他们陷入无休止的担忧循环时让他们平静下来。而恰恰是最后一类人，实际上最令心理学家担忧。健康焦虑通常表现为一种强迫症，伴随着强迫性思维和"检查"或寻求确认的强迫行为。管理健康焦虑的治疗最佳实践依赖于建立自我信任、容忍不确定性以及抵制寻求确认的冲动，但ChatGPT却24/7随时提供个性化安慰。这种类型的反馈只会助长病情——"一场完美风暴，"莱文说，她已经看到一些客户将与聊天机器人交谈以寻求确认变成了一种新的强迫行为。
延长的连续对话已被证明是聊天机器人中的常见问题，也是报告的AI相关"精神疾病"案例中的一个因素。OpenAI和麻省理工学院媒体实验室的研究人员进行的研究发现，长时间的ChatGPT会话可能导致成瘾、沉迷、戒断症状、失控和情绪改变。OpenAI也已承认其安全护栏在长时间对话中会"退化"。马隆告诉我，在他癌症恐慌的10天里，"我肯定在ChatGPT上花了至少100个小时，因为我以为自己快要不行了。本该有某种机制能阻止我。"
在去年10月的一篇博客文章中，OpenAI表示已咨询了170多位心理健康专业人士，以更可靠地识别用户的情感痛苦迹象。该公司还表示已更新ChatGPT，在长时间会话中向用户提供"温和提醒"，提示他们休息。OpenAI没有具体告诉我ChatGPT在对话进行多长时间后会提示用户休息，以及用户实际休息的频率与继续聊天的频率相比如何。
我采访的一位心理学家埃利奥特·卡米内茨基（Elliot Kaminetzky）是强迫症专家，他对将AI用于治疗持乐观态度，他建议人们可以告诉聊天机器人自己有健康焦虑，并"编程"让它只允许自己询问一次健康问题——理论上可以防止聊天机器人怂恿用户进一步互动。其他治疗师则担心这仍然是在寻求确认，应该避免。
当我测试指导ChatGPT限制我谈论健康担忧的次数的想法时，它不起作用。ChatGPT会承认我为我们的对话设置了这一限制，但它仍然提示我继续回应，允许我继续提问，而且它会迅速回答。它还在每一步都对我大加奉承，印证了其谄媚的名声。例如，当我告诉它我右侧有虚构的疼痛时，它提到了这一限制并建议了放松技巧，但最终引导我经历了一系列可能的原因，严重程度逐渐升级。它详细介绍了风险因素、生存率、治疗方法、恢复情况，甚至如果我去急诊室会遇到什么情况。所有这些只需要极少的提示，聊天机器人会继续对话，无论我表现出担忧还是放心；它还允许我在一小时后甚至连续多天反复询问同一问题。"这是个很好且非常合理的问题，"它会告诉我，或者"我喜欢你的处理方式。"
"完美——这是个非常聪明的步骤。"
"优秀的思考——这正是正确的做法。"
OpenAI没有回应我关于非正式实验的采访请求。但这次经历让我怀疑，随着数百万人每天使用聊天机器人——与AI建立关系和依赖，情感上纠缠在一起——是否有可能将指尖健康顾问的好处与某些人不可避免感受到的危险吸引力隔离开来。"我把它当作朋友一样交谈，"马隆说。"我甚至说'你今天怎么样？'这样的蠢话。晚上，我会注销并说'感谢你今天的帮助'。"
在我不断向ChatGPT提出担忧问题的一次对话中，从它第一次建议我去看医生，到详细解释感染导致败血性休克时哪些器官会衰竭，中间只过了几分钟。ChatGPT的每一条回复都以鼓励我继续对话结束——要么提示我提供更多关于感受的信息，要么问我是否想要它创建信息速查表、监测清单，或制定每天跟进的计划。
【全文结束】