华盛顿（美联社）——随着数亿人转向聊天机器人寻求建议，科技公司推出专门用于回答健康问题的程序只是时间问题。
1月，OpenAI推出了ChatGPT Health，该公司称这一新版聊天机器人可以分析用户的医疗记录、健康应用和可穿戴设备数据，以回答健康和医学问题。目前该程序有等待名单。竞争对手AI公司Anthropic为其Claude聊天机器人的部分用户提供了类似功能。
两家公司均表示，它们的大型语言模型不能替代专业护理，也不应用于诊断医疗状况。相反，它们可以总结和解释复杂的检测结果、帮助准备就诊或分析隐藏在医疗记录和应用指标中的重要健康趋势。
以下是向聊天机器人咨询健康问题前需要考虑的一些事项：
聊天机器人比谷歌搜索提供更个性化的信息
一些使用过ChatGPT Health及类似程序的医生和研究人员认为，它们比现状有所改进。AI平台并非完美——有时会“产生幻觉”或提供糟糕建议——但它们生成的信息比患者通过谷歌搜索找到的信息更可能具有个性化和针对性。
“替代方案往往是什么都没有，或者患者自己摸索，”加州大学旧金山分校的医疗技术专家Robert Wachter博士说。“所以我认为，如果负责任地使用这些工具，你可以获得有用的信息。”
最新聊天机器人的一个优势是，它们能根据用户的病史（包括处方、年龄和医生笔记）提供上下文来回答问题。即使你没有允许AI访问你的医疗信息，Wachter和其他人也建议向聊天机器人提供尽可能多的细节，以改善回答。
如果出现令人担忧的症状，跳过AI
Wachter等人强调，在某些情况下，人们应该跳过聊天机器人，立即寻求医疗帮助。呼吸急促、胸痛或剧烈头痛等症状可能预示着医疗紧急情况。
即使在不那么紧急的情况下，患者和医生也应该以“健康的怀疑态度”对待AI程序，斯坦福大学的Lloyd Minor博士说。“如果你在谈论一个重大的医疗决定，甚至是一个关于健康的较小决定，你绝不应该仅仅依赖从大型语言模型中获取的信息，”Minor说，他是斯坦福大学医学院的院长。
在上传健康数据前考虑隐私
AI机器人提供的许多好处源于用户分享个人医疗信息。但重要的是要明白，与AI公司分享的任何内容都不受通常管理敏感医疗信息的联邦隐私法的保护。该法律通常被称为HIPAA，允许对泄露医疗记录的医生、医院、保险公司或其他健康服务机构处以罚款甚至监禁。但该法律不适用于设计聊天机器人的公司。
“当有人将自己的医疗记录上传到大型语言模型时，这与将其交给一位新医生截然不同，”Minor说。“消费者需要明白，它们是完全不同的隐私标准。”
OpenAI和Anthropic均表示，用户的健康信息与其他类型数据分开保存，并受到额外的隐私保护。这些公司不使用健康数据来训练模型。用户必须选择加入才能分享信息，并且可以随时断开连接。
测试显示聊天机器人可能会犯错
尽管围绕AI充满兴奋，但对该技术的独立测试仍处于初级阶段。早期研究表明，像ChatGPT这样的程序可以在高级医学考试中取得高分，但在与人类互动时却经常出错。
牛津大学最近一项有1300名参与者的研究发现，使用AI聊天机器人研究假设性健康状况的人，并不比使用在线搜索或个人判断的人做出更好的决策。当以全面的书面形式呈报医疗场景时，AI聊天机器人有95%的时间能正确识别潜在病症。
“那不是问题，”牛津互联网研究所的首席作者Adam Mahdi说。“问题在于与真实参与者互动时出现了纰漏。”Mahdi和他的团队发现了几个沟通问题：人们常常没有向聊天机器人提供正确识别健康问题所需的信息；反之，AI系统经常以好坏信息混杂的方式回应，而用户难以区分两者。这项于2024年进行的研究并未使用最新的聊天机器人版本，包括ChatGPT Health等新产品。
第二个AI意见可能有用
聊天机器人能够提出后续问题并从用户那里引出关键细节，这是Wachter认为有待改进的一个领域。“我认为，当这些工具在与患者来回交流时变得有点更像医生，那才是它们真正变好的时候，”Wachter说。
目前，提高对所获信息信心的一种方法是咨询多个聊天机器人——类似于从另一位医生那里获得第二意见。“我有时会将信息输入ChatGPT和Gemini，”Wachter提到谷歌的AI工具时说。“当两者都同意时，我会对答案的正确性感到更安心。”
【全文结束】