谷歌云于2024年10月17日推出了其最新的AI产品。Vertex AI Search for Healthcare 是一款生成式AI搜索工具，允许支付方和提供方浏览患者笔记、扫描文件和其他数据以获取临床信息。谷歌表示，该工具将减少支付方和提供方的行政负担。
这款工具最初于2023年3月以有限可用性发布。谷歌还扩展了其Healthcare Data Engine，该引擎以行业标准格式提供患者的纵向数据记录。谷歌承诺，该工具的生成式AI输出错误信息的风险极低。
谷歌云和哈里斯民意调查进行的一项调查显示，临床医生和理赔工作人员每周分别花费27小时和36小时处理包括文档在内的行政任务。谷歌表示，Vertex AI Search 旨在通过帮助工作人员查询患者的多个医疗记录方面来减少这些时间。该工具集成了Gemini 1.5 Flash 和 MedLM——谷歌的两个大型语言模型——来进行搜索。Vertex 首次在3月的HIMSS会议上被提及，已被Community Health Systems 和 Highmark Health等医疗系统使用。
谷歌还承诺，Vertex AI 将引用其来源并提供内部信息源的链接，这一技术称为“接地”（grounding），旨在增加提供者对工具答案的信心。这种保障措施是在生成式AI可能输出虚假或误导信息的担忧日益增加的背景下提出的。8月，马萨诸塞大学阿默斯特分校的研究人员和临床AI公司Mendel的科学家进行的一项研究发现，生成式AI在执行医疗查询时会产生幻觉，生成的医疗记录摘要包含虚假或误导性陈述，可能导致医生误诊或推荐不适当的治疗计划。
Gartner 医疗团队的杰出副总裁分析师Jeffrey Cribbs表示，谷歌使用的“接地”技术是解决生成式AI幻觉的一个“有意义的步骤”。然而，他指出，引用信息来源可能会使工具在减少行政负担方面变得不那么有效。“我们刚刚给你布置了一个大研究任务，”Cribbs说，“这项价值主张的核心在于节省人们的时间。我们不能期望他们回到每一份医疗记录中去，否则就无法节省他们的时间。因此，随着时间的推移，我们希望引用仅在例外情况下使用，而不是常规操作。”
为了使提供者在没有手动审查的情况下信任AI的回答，Cribbs表示，行业需要采用生成式AI的“更高水平验证”。尽管如此，Cribbs强调，实施新AI工具的目标不是追求完美。“我们并不是要与今天存在的完美信息提取相比，”Cribbs说，“事实上，目前市场上从临床记录中提取信息的方式既不高效也不准确，所以我们希望有显著的改进。”
谷歌迄今已推出多项生成式AI项目，包括针对患者健康记录搜索优化的大型语言模型。据Cribbs称，谷歌已成为生成式AI测试的领导者，以其强大的有效性测试和检查措施而闻名，特别是在健康公平方面的关注。尽管如此，Cribbs表示，生成式AI验证评估仍是一个“新兴实践”，一些潜在用户对像谷歌周四发布的这种搜索工具存在担忧。特别是，他们担心临床医生可能会默认信任AI的输出，而不是自己的临床经验，这种现象被称为“自动化偏见”。
“医疗保健组织在考虑采用AI进入临床工作流程时，普遍担心使用这些工具可能带来的新风险，”Cribbs说。
(全文结束)
