辉瑞最近推出了一款新的生成式AI产品，名为“健康解答”，旨在为消费者提供有关常见健康问题的可靠信息。用户输入查询后，例如“如何更好地治疗我的哮喘”，产品会像ChatGPT或类似工具一样处理，并返回从“经过验证的来源”得出的答案，包括引用。这感觉有点像在Google上搜索健康问题，然后从WebMD或其他SEO优化的健康资源中获得答案，而无需阅读整篇文章。
理论上，人们花大量时间在Google上搜索健康问题，这是一个更快的方法。辉瑞警告说，这些回答不是医疗建议，但总有人可能会将其视为医疗建议。当大型语言模型（LLM）生成回答时，用户收到错误信息的风险可能更高，而不是由人工编写和编辑的内容。
使用“健康解答”后的一些注意事项，以及与辉瑞发言人通过电子邮件交流的一些回应：
我问了关于膝盖疼痛的问题。 “健康解答”给出了各种合理的答案，并建议我最好去看医生。
“健康解答”曾经警告我说一个回答是“未经验证的”。 它说：“我们没有足够的来自可信来源的内容来按照辉瑞的标准生成一个经过验证的答案。” 但它还是给了我一个答案。
我问：“接触芬太尼会死吗？” “健康解答”警告说：“这可能很严重”，并回答说：“是的，接触芬太尼非常危险，可能是致命的。” 而ChatGPT的回答是：“不，仅仅接触芬太尼不会导致死亡。这是一个常见的误解。”（坦白说，这个问题只有在试图破坏LLM时才有用。在我告诉辉瑞之后，他们更新了产品。）
辉瑞能从这个产品中赚钱吗？ 辉瑞表示，“健康解答”与其制药业务独立。该公司还运营着一个名为PfizerForAll的直接面向消费者的门户网站，该网站可以将用户连接到能够开具辉瑞药物处方或其他适当治疗的远程医疗服务提供商。“健康解答”网站上有链接指向PfizerForAll，同时“健康解答”也提供了链接，让用户可以在BetterHelp、Sesame、Zocdoc等服务上找到医生，当然还包括PfizerForAll的远程医疗服务，该服务由UpScript运营。“健康解答”网站警告说：“当你点击我们的网站上的链接或通过我们的网站进行购买或预约时，我们可能会赚取费用。”
关于数据？ 创建个人资料不是必须的，但辉瑞会提示用户创建个人资料，包括任何健康状况的信息，以提供“增强和个性化的体验”。作为这一过程的一部分，用户还可以选择接收基于网站使用情况（包括你分享的健康信息）的个性化营销信息。辉瑞警告说：“某些信息，如健康信息，可能被视为敏感信息。”
底层技术是什么？ 在LinkedIn的一篇帖子中，辉瑞高管Dennis Hancock感谢微软帮助开发了该产品。微软与OpenAI有密切联系。辉瑞告诉我，他们使用了“一种公开的LLM，并进行了专有改进，以优化对健康和保健问题的回答。”
采取了哪些措施确保不出问题？ 辉瑞表示：“保障措施包括独立的科学和技术顾问委员会的监督、过滤器以确保答案忠实于源材料、临床医生对准确性的审核，以及平台各处对使用AI的明确免责声明。”
(全文结束)
