作者：MATTHEW PERRONE，美联社健康撰稿人
华盛顿（美联社）——随着数百万人转向聊天机器人寻求建议，科技公司推出专门用于回答健康问题的程序只是时间问题。
今年1月，OpenAI推出了ChatGPT Health，这款新版本聊天机器人据称可以分析用户的医疗记录、健康应用及可穿戴设备数据，回答健康与医疗问题。目前该程序仍处于等待名单阶段。竞争对手Anthropic也为其Claude聊天机器人的部分用户提供了类似功能。
两家公司均表示，它们的大语言模型程序不能替代专业医疗护理，也不应用于诊断疾病。它们声称，聊天机器人可以总结和解释复杂的检测结果、帮助为看医生做准备，或分析隐藏在医疗记录和应用指标中的重要健康趋势。
以下是向聊天机器人咨询健康问题前需要考虑的几个方面：
聊天机器人能提供比谷歌搜索更个性化的信息
一些曾与ChatGPT Health及类似程序合作过的医生和研究人员认为，这是对现状的改善。
AI平台并不完美——它们有时会产生幻觉或提供糟糕的建议——但相比患者通过谷歌搜索得到的信息，AI输出的信息更有可能是个性化和具体的。
加州大学旧金山分校医学技术专家Robert Wachter博士表示：“通常的替代方案是什么都没有，或者患者凭感觉行事。所以我认为，如果负责任地使用这些工具，可以获得有用的信息。”
最新版聊天机器人的优势之一是，它们能结合用户的医疗背景（包括处方、年龄和医生记录）来回答问题。
即使没有将医疗信息授权给AI，Wachter和其他人建议，也应尽可能向聊天机器人提供更多细节，以改进回复。
如果出现令人担忧的症状，请跳过AI
Wachter等人强调，有些情况下人们应跳过聊天机器人，立即寻求医疗救助。呼吸急促、胸痛或严重头痛等症状可能预示医疗紧急情况。
斯坦福大学医学院院长Lloyd Minor博士表示，即使在非紧急情况下，患者和医生也应带着“一定程度的健康怀疑态度”对待AI程序。
“如果你在讨论一项重大的医疗决定，甚至是一个关于健康的较小决定，都不应仅仅依赖大语言模型提供的信息。”
上传健康数据前请考虑隐私
AI机器人带来的许多好处源于用户分享个人医疗信息。但重要的是要明白，与AI公司分享的任何内容都不受通常保护敏感医疗信息的联邦隐私法约束。
俗称HIPAA的法律允许对泄露医疗记录的医生、医院、保险公司或其他医疗服务机构处以罚款甚至监禁，但该法律不适用于设计聊天机器人的公司。
Minor说：“当有人将他们的医疗记录上传到大语言模型时，这与将记录交给新医生完全不同。消费者需要明白，两者是完全不同的隐私标准。”
OpenAI和Anthropic均表示，用户的健康信息与其他数据类型分开保存，并受到额外的隐私保护。两家公司不会使用健康数据来训练模型。用户必须选择同意才能分享信息，并且可以随时断开连接。
测试显示聊天机器人仍会出错
尽管围绕AI充满兴奋，但对这项技术的独立测试仍处于起步阶段。早期研究表明，ChatGPT这类程序能通过高级医疗考试，但在与人类互动时往往出错。
牛津大学一项包含1300名参与者的研究最近发现，使用AI聊天机器人研究假设性健康状况的人，并不比使用在线搜索或个人判断的人做出更好的决定。
AI聊天机器人在阅读完整书面医疗场景时，正确识别潜在疾病的几率达95%。
但牛津互联网研究所的首席作者Adam Mahdi表示：“那不是问题所在。真正出问题的地方在于与真实参与者的互动。”
Mahdi和他的团队发现了几个沟通问题。人们常常没有向聊天机器人提供正确识别健康问题所需的信息。相反，AI系统往往同时给出正确和错误的信息，用户难以区分两者。
该研究于2024年进行，未使用包括ChatGPT Health在内的最新版本聊天机器人。
第二份AI意见可能有帮助
聊天机器人提出追问并引出用户关键细节的能力，是Wachter认为有待改进的一个领域。
Wachter说：“我认为当这些工具在与患者来回沟通时变得更像医生时，它们才会真正变得出色。”
目前，增强信息可信度的一个方法是咨询多个聊天机器人——类似于从另一位医生那里获取第二意见。
Wachter表示：“我有时会将信息输入ChatGPT和Gemini（谷歌的AI工具）。当两者意见一致时，我会更有信心认为那是正确答案。”
美联社健康与科学部门得到霍华德·休斯医学研究所科学教育部和罗伯特·伍德·约翰逊基金会的支持。美联社对所有内容负全权责任。
【全文结束】