近三分之一的美国人使用人工智能获取医疗建议。但专家发出警告：在超过一半的紧急情况下，这些聊天机器人会出错。
由人工智能驱动的聊天机器人会标明它们不能提供医疗建议或诊断疾病，但它们仍然回答了数百万用户的提问，这些用户生病了，试图解读医疗文件，或想了解自己的治疗选择。根据无党派健康政策和教育组织KFF（凯泽家庭基金会）的一项最新调查显示，近三分之一的美国人已向这些聊天机器人寻求健康信息。
人工智能公司正争先恐后地满足这一需求——包括Anthropic的Claude for Healthcare和OpenAI的ChatGPT Health——它们宣传更强大的数据保护措施和连接医疗记录的功能，但同时警告其产品不能替代医生。"它们可能听起来合理，表现得非常自信，但同时完全错误，"西奈山伊坎医学院医学教授、ChatGPT Health独立评估的合著者Girish Nadkarni说。
ChatGPT Health：聊天机器人让许多用户未去急诊室
Nadkarni的研究发现，该聊天机器人在超过半数的潜在呼吸衰竭和严重糖尿病并发症案例中，没有建议用户前往急诊室，而是建议他们待在家里观察症状。这些结果与其他研究和调查一致，这些研究和调查对人工智能健康顾问给予差评或至少发出警告。
OpenAI对研究方法提出了质疑，并质疑它是否恰当地反映了人们如何实际使用其聊天机器人。该公司一位发言人表示，ChatGPT Health的模型通过医生的反馈不断训练和更新。（《华盛顿邮报》与OpenAI和Perplexity建立了合作伙伴关系。）
"人们每天都带着健康问题来找ChatGPT，"OpenAI发言人Drew Pusateri说。"我们希望他们从这些互动中获得更好的信息，并改善与医疗提供者的对话。但它并不是为了替代医疗专业人员，也不应被用作护理的替代品。"
尽管有越来越多的证据表明可能存在危害，但许多人无法抗拒即时、全面和个性化回答的吸引力——在一个以高成本和不平等获取为特征的医疗体系中。
聊天机器人在医疗使用中的表现如何
《华盛顿邮报》此前评估了聊天机器人在医疗使用中的表现，并研究了研究结果。以下是六位美国人向聊天机器人寻求健康建议的故事，以及专家对他们情况的评价。
当伊利诺伊大学厄巴纳-香槟分校三年级学生、20岁的Genaro Diaz在二月初与剧烈腹痛和呕吐黏液作斗争时，他想去看医疗保健提供者。由于学生医疗保险的缺口意味着150美元的账单，他转向了ChatGPT。聊天机器人建议他服用Pepto-Bismol和Pedialyte，并在症状三天后未改善时去看医生。Diaz从未找出他生病的原因，但后来康复了。"作为一名大学生，我真的没有收入来源，我没有工作，"Diaz说。
在KFF调查中，五分之一的用户表示，难以负担医疗保健是他们向人工智能寻求健康建议的重要原因。这一数字在18至29岁、年收入低于40,000美元的人群中上升到约三分之一。
西奈山医学教授Ashwin Ramaswamy理解为什么许多患者担心医疗账单。但他质疑ChatGPT建议Diaz等待看医生，因为所描述的症状很严重，即使他后来康复了。
"我不能排除某些东西是危险的，"Ramaswamy说，他是ChatGPT Health评估的合著者。"如果我接到这个电话，我不会知道，但我肯定会知道我想尽快见到他。"
当医生难以找到时：向AI而非医生询问健康问题
来自纽约的57岁Gayle Madeira表示，她寻找治疗长期新冠的医生是一场噩梦。一个被城市311热线推荐用于帮助该疾病的诊所告诉她，他们没有获得资源来作为长期新冠诊所运作。
ChatGPT和其他AI平台为她填补了这一空白。她上传了关于她的病史和药物使用的详细表格——当她遭受脑雾和疲劳时，这很有帮助。与AI的交流帮助她排除了在线长期新冠社区中流行的治疗方法，因为该疾病让医生们困惑不已。她不会在没有医生监督的情况下服用药物。
"我希望医生控制我的护理。我不想必须使用AI，"Madeira说，她是一位曾在华尔街工作的艺术家和舞者。一些AI专家警告说，上传详细的医疗信息可能会侵犯隐私，即使公司宣传数据保护措施。"AI收集了大量关于你的信息，这些信息可以产生并影响有针对性的信息，"麻省理工学院媒体艺术与科学助理教授Pat Pataranutaporn研究人们如何使用AI说道。"如果你不为服务付费，那么你就是产品。"
如何向AI提出明智的健康问题
70岁的Gary Cohen相信，他在加州大学旧金山分校因2020年诊断出的多发性骨髓瘤"得到了极好的照顾"。他使用Claude为预约做准备——例如，请它用简单语言解释医生建议的二线治疗，或解释测试结果的意义。
当他在一个患者门户中发现令人担忧的结果时，他在不确定医生是否会在周末联系他的情况下将结果上传给Claude。Claude详细解释了为什么应该观察该结果，但没有理由担心。他的医生基本上说了同样的话。"你只是感觉不那么无助，"Cohen说，他曾在巴拉克·奥巴马总统政府工作，帮助实施《平价医疗法案》。"你感觉自己是关于决策对话的一部分，而会做出许多决策。"
斯坦福大学医学副教授、研究AI的Jonathan Chen说，聊天机器人可以有效地帮助形成问题并在就诊前总结医疗记录。患者应该询问反方论点以及不同医疗选项的风险和好处。但"当利害攸关时，必须与真实的人进行核对，"Chen说。他还警告不要使用这些工具来分析原始医疗扫描图像，而不是总结性文件，因为这些工具尚未准备好进行"有意义的医学解释"。
人们更信任聊天机器人不准确的信息，而不是医生准确的信息
来自印第安纳州的67岁Randall Seefeldt在咨询谷歌的Gemini后去了医院，后者因慢性腹痛建议他去急诊室进行CT扫描。扫描没有发现任何问题。Seefeldt没有生气，而是感激这种安心感，因为他的父亲死于一种可能遗传且有类似症状的罕见癌症。"Gemini的结果给了我一个前进的方向，让我感到舒适，并减轻了我的压力，"Seefeldt说，他在公共卫生机构的软件领域工作。
Pataranutaporn的研究表明，人们更信任聊天机器人不准确的信息，而不是人类医生准确的信息。这反映了已确立的研究，即人们往往比真实的人更信任技术。聊天机器人自信但不准确的理由可能比正确的人类理由更有说服力。
指出消费者健康AI风险的研究人员表示，承认聊天机器人在许多甚至大多数情况下提供合理建议很重要。"它做了很多正确的事情。它并没有完全失败，"Ramaswamy谈到他对ChatGPT Health评估的工作时说。"你不能用大型语言模型做的一件事就是把它拉出来问：'你当时在想什么？'"他指的是驱动这些AI工具的大型语言模型。
关怀的声音
当他的妻子因严重肺栓塞在医院住了两周时，John Hope发现Perplexity的同理心令人印象深刻。他使用这个AI"回答"引擎来翻译医生使用的术语，并为她返回宾夕法尼亚州伊丽莎白敦的高级生活设施做准备。他有可以求助的体贴朋友，但在忙碌时期，获得带有"真正同情心"的即时回答和关于他应该问医生什么的建议是令人欣慰的。
"有时与非人类进行如此重要的对话会让人感到有点可怕，但也令人安心，"Hope说，他85岁，为食品药品管理局主题的新闻通讯撰稿。"Perplexity似乎为我做到了这一点：我理解你正在经历什么，我在这里帮助你，如果你能告诉我医生说了什么。"
聊天机器人的友善是一种幻觉，技术专家警告说，这种幻觉可能变成危险的奉承。ChatGPT Health的研究发现，与其他研究一致，当用户表示对症状不太担心时，聊天机器人更可能给出不良建议。
聊天机器人"不是一个能够关怀的系统"
"关怀是人类的事业，"埃默里大学生物医学信息学和全球健康助理教授Azra Ismail说，她研究聊天机器人在生殖和性健康导航中的使用。"它可能提供一定程度的信息支持，一定程度的表现性同理心，但它确实不是一个能够关怀的系统。"
Perplexity在一份声明中解释说，公司优先考虑准确性并始终如一地去除奉承。它成立了Perplexity Health咨询委员会，以帮助建立人们从AI期望的保护机制、标准和产品体验。"我们听说一些用户发现Perplexity的中性语气和明确的来源引用在压力大的决策情况下令人安慰，但我们不相信AI应该被人性化，"该公司表示。
快速回答的诱惑
Christina Squitieri不得不等待三周才能与胃肠病学家会面，讨论在结肠镜检查期间采集的活检的红色标记结果。ChatGPT告诉她，报告中标记的白细胞增加表明微观结肠炎——一种炎症性肠病——并提供了有关药物及其副作用的信息。当她终于见到医生时，医生驳回了这一发现，向她保证报告反而提供了有力证据证明她没有这种疾病。
37岁的Squitieri表示，如果再次陷入相同情况——令人担忧的测试结果，难以联系医生——她可能会再次求助于ChatGPT，尽管她会谨慎对待答案。当她20个月大的女儿生病时，花了十个月才看到专科医生并被诊断出需要药物的慢性疾病。
"我们不应该必须求助于一个不思考的聊天机器人，因为看医生太难了，"Squitieri说，她曾为一家美容教育公司工作。KFF调查显示，"渴望快速和即时的建议"是人们使用聊天机器人进行健康咨询的最重要原因；三分之二的用户将其列为重要原因。约五分之一的人表示，重要原因是没有医疗保健提供者或无法预约。
"这些聊天机器人有其存在的原因：获取途径很差，可能需要数周甚至数月才能获得预约，"西奈山研究员Nadkarni说。"如果人们将大规模使用这些工具，它们应该比我们用于撰写电子邮件的聊天机器人接受更高标准的彻底性和安全性。"
关于作者：
Fenit Nirappil是竞选和民主的副主编，帮助指导关于中期选举、投票和政党的报道。此前，他负责监督联邦卫生机构的报道，并自2015年加入《华盛顿邮报》以来，一直在健康和地方政治团队担任记者。联系方式：Signal上的Fenitn.33
这篇文章最初于2026年6月22日以英文在"Washingtonpost.com"上发表——作为合作的一部分，现在以翻译形式提供给IPPN.MEDIA门户网站的读者。
【全文结束】