华盛顿——随着数亿人向聊天机器人寻求建议，科技公司推出专门回答健康问题的程序只是时间问题。
今年1月，OpenAI推出了ChatGPT Health，该公司称其新版聊天机器人能够分析用户的医疗记录、健康应用和可穿戴设备数据，以回答健康和医疗问题。目前该程序处于等待名单制。竞争对手AI公司Anthropic为其Claude聊天机器人的部分用户提供了类似功能。
两家公司均表示，其程序（称为大型语言模型）不能替代专业医疗，也不应用于诊断疾病。相反，他们称聊天机器人可以总结和解释复杂的化验结果，帮助准备就诊，或分析隐藏在医疗记录和应用指标中的重要健康趋势。
聊天机器人能提供比谷歌搜索更个性化的信息
一些与ChatGPT Health及类似程序合作过的医生和研究人员认为，它们比现状有所改进。
AI平台并不完美——它们可能提供糟糕的建议——但它们生成的信息比患者通过谷歌搜索找到的信息更可能具备个性化和针对性。
“另一种选择通常是什么都没有，或者患者自己瞎摸索，”加州大学旧金山分校的医疗技术专家罗伯特·瓦赫特博士说。“因此，我认为如果负责任地使用这些工具，你能获得有用的信息。”
最新聊天机器人的一个优势是，它们能根据用户的医疗史（包括处方、年龄和医生笔记）来回答用户的问题。
瓦赫特和其他人建议尽可能向聊天机器人提供更多细节，以改善回答。
如果出现令人担忧的症状，请跳过AI
瓦赫特和其他人强调，在某些情况下，人们应该跳过聊天机器人，立即寻求医疗帮助。呼吸急促、胸痛或严重头痛等症状可能预示着医疗紧急情况。
即使在不太紧急的情况下，患者和医生也应以“一定程度的健康怀疑态度”对待AI程序，斯坦福大学的劳埃德·米诺博士说。
“如果你在谈论一个重大的医疗决策，甚至是一个关于你健康的小决策，你绝不应该仅仅依赖从大型语言模型中得到的信息，”斯坦福大学医学院院长米诺说。
在上传任何健康数据之前考虑隐私
AI机器人提供的许多好处源于用户分享个人医疗信息。但与AI公司共享的细节不受通常管理敏感医疗信息的联邦隐私法保护。
该法律通常被称为HIPAA，它允许对泄露医疗记录的医生、医院、保险公司或其他医疗服务机构处以罚款甚至监禁。但该法律不适用于设计聊天机器人的公司。
“当某人将他们的医疗记录上传到大型语言模型时，这与将其交给一位新医生截然不同，”米诺说。
OpenAI和Anthropic均表示，用户的健康信息与其他类型的数据分开保存，并受到额外的隐私保护。这些公司不会使用健康数据来训练他们的模型。用户必须选择加入才能分享信息，并且可以随时断开连接。
测试显示聊天机器人可能会出错
尽管围绕AI的兴奋情绪高涨，但对该技术的独立测试仍处于起步阶段。早期研究表明，像ChatGPT这样的程序可以在高级医学考试中取得优异成绩，但在与人类互动时常常出错。
牛津大学最近一项有1300名参与者参与的研究发现，使用AI聊天机器人研究假设健康条件的人，其决策并不比使用在线搜索或个人判断的人更好。
以全面的书面形式呈现医疗场景时，AI聊天机器人正确识别潜在疾病的概率为95%。
“这不是问题所在，”牛津互联网研究所的主要作者亚当·马赫迪说。“问题出在与真实参与者互动时。”
马赫迪和他的团队发现了几个沟通问题。人们常常没有给聊天机器人提供正确识别健康问题所需的必要信息。相反，AI系统往往以好坏参半的信息回应，而用户难以区分两者。
【全文结束】