在ChatGPT发布后的短短几年里，先进的人工智能（AI）和大型语言模型（LLM）已经变得司空见惯。无论是在Google还是Bing上搜索任何内容，首先出现的不再是搜索结果，而是由LLM尝试总结你所需的信息。
然而，这项技术仍然远未完美。尽管它擅长从大量数据中挑选相关信息，但也会犯很多错误。这些模型难以识别细微差别和讽刺，有时还会凭空创造全新的（且错误的）信息，这种现象被称为“幻觉”。虽然这些问题对于那些寻找新的萨勒姆牛排食谱或撰写学期论文的人来说只是小麻烦，但在医疗研究和护理这样的高风险领域，它们可能会造成巨大伤害。然而，这些问题并不会阻止医院和医疗服务提供者使用AI。
“医疗保健是一个五万亿美元的支出，有可能在未来三到四年内使国家破产，”杜克大学健康系统的高级副总裁兼首席医疗官Rick Shannon在杜克大学AI健康创新峰会上发表主旨演讲时说。“我们需要有一种紧迫感，将这些能力引入医疗保健交付。但这并不是要取代人们的工作。这是一个机会，从一开始就消除缺陷、错误和浪费。”
这是最近杜克大学AI健康创新峰会的一个核心理念，为期三天的活动汇集了来自医疗、工程和行业的专家，旨在推动该领域的AI解决方案和能力的发展。活动于10月9日至11日在JB杜克酒店举行，吸引了约100人前来分享他们的知识并共同努力产生积极影响。
“我们在这里探讨如何以合作的方式前进，”普拉特工程学院院长Jerome Lynch在Shannon发表主旨演讲前的开幕词中说道，“探讨如何在应用工程思维解决AI医疗领域最大问题的同时前进。”
Shannon的开场白还强调了与一线工作人员互动、减轻护理人员负担和将公平性放在首位的重要性。在他的演讲之后，第一天的活动包括小组讨论和分组会议，重点关注杜克健康系统在开发和评估基于AI的技术方面的经验，以及杜克工程学院Christensen家庭创新中心在产品开发和设计思维方面的教训。
当天反复提到的两个主题是缺乏真正解决临床医生问题的基于AI的解决方案，以及需要利用AI技术高效地从患者电子记录和临床笔记中提取有用信息并将其标准化。
第二天的后半段视角发生了转变，探讨了一些可能最终进入临床的杜克研究人员正在追求的技术。例如，研究人员正在使用LLM设计新型生物制品来治疗疾病，高效建模患者的血流以支持预测医学，以及解读自由文本笔记中常用的缩写和首字母缩略词。
在临床医生和研究教员的经验之间，进行了一场由杜克工程学院行业参与总监Jonathan Owens主持的活跃讨论，参与者包括来自一些积极部署基于AI解决方案的顶级公司的代表：Globant医疗保健和生命科学合伙人Basia Coulter、IBM全球行业技术医疗保健领导者Brendan Fowkes、LabCorp临床信息学总监Marissa Halfin、强生高级数据科学家Kirsten Lum和Truveta首席执行官兼联合创始人Terry Myerson。
讨论以再次提及使用LLM从患者笔记和电子健康记录中提取数据并使其标准化的机会开始。这不仅有助于个别医院更顺畅地运行，还为人口层面的数据分析研究打开了大门。想象一下，不仅能自信地开药，还能根据个人的身体特征和病史调整剂量。“挑战在于如何使这些记录对分析有用，”Myerson说，他的初创公司Truveta已编译了超过1亿名患者的干净电子健康记录数据，代表了美国的全部多样性。“这些记录的核心偏见在于它们是为了报销索赔而编码的，而我们需要构建能够以分析方式表示临床真相的AI系统。”
当几位参与者谈到构建和使用自己的数据集时，提出了关于整个行业中知识产权处理的问题。谁最终拥有数据和用其训练的AI的担忧常常成为公司、医疗服务提供者和研究人员合作的障碍。
从IBM的角度来看，Fowkes指出，他所在的公司并不想拥有这些数据，他们只想帮助将伟大的想法推向市场。但这些细节需要在合作伙伴精神的指导下，在任何解决方案开发和部署之前由合作者们协商解决。缺乏内部AI技术资源和对外部与其他公司和大学合作的担忧不应成为希望扩展这一领域但又不想变成自己不擅长的公司的不可逾越的障碍。
“我们有一些制药客户说他们知道自己的使命，他们不想通过雇佣整支AI专家团队并自行开展这项工作来变成一家科技公司，”Coulter说。“有办法与拥有数十年技术经验的公司合作，以补充你们在医疗保健行业的专业知识。”
讨论随后转向了需要通过与实际使用这些技术的人密切合作来设定具体目标。太多时候，AI软件在特定任务上表现出色，但临床医生发现它在辅助决策或减少工作量方面并没有实际用处。“AI模型的实际部署真的很重要，”Lum说。“从一开始就需要考虑使用它的人的需求。”另一个关键因素是不仅要考虑使用它的临床医生，还要考虑受AI技术影响的人。
“成功采用/部署任何AI用例都需要从想法到部署的适当治理。杜克大学已经建立的治理计划远远领先于大多数其他机构，因此合作可以更快地付诸行动，”Fowkes说。
“市场上已有罕见病治疗药物的制药公司寻求数字技术和AI的帮助，以找到更多被漏诊或误诊的患者，”Coulter说。“但罕见病专家指出，许多人不愿被诊断，因为某些疾病带有污名。这是一个令人震惊的启示，人们通常不会想到这一点，这也展示了意外后果的力量。”
小组讨论以讨论其他值得关注的数字健康领域作为结尾，包括从可信的医疗保健提供者那里在线提供准确的医疗信息、远程患者监测和护理、精确个性化医学以及在任何人意识到之前预测需要订购的物资。
除了小组讨论外，Halfin和Fowkes还分享了为什么他们的公司——LabCorp和IBM——决定赞助峰会并派他们参加的原因。
IBM希望帮助像LabCorp这样的公司构建使数据更有用的平台。但他们需要像杜克大学这样的研究机构的帮助，以找到新的和创造性的用例，并最终找到解决方案。
另一方面，LabCorp处于一个独特的位置，因为他们运行了全国大约一半的医疗诊断订单，拥有庞大的数据集。但当这些数据与临床和基因组数据相关联时，其价值会更大。他们正在寻找像杜克大学这样的合作伙伴，将想法和项目发展成解决方案，从而增加数据的价值。“LabCorp正在探索AI的意义，并面对许多机会，确定是应该构建技术、购买技术还是与某人合作开发能为我们的数据带来更多价值的产品，”Halfin说。“与学术机构的合作有助于将尖端的AI解决方案带入企业界，同时确保技术跟上市场不断变化的需求。”
“我参加了许多区域活动并帮助人们了解什么通常有效，什么通常无效，”Fowkes说。“在与杜克团队进行了多次对话后，这次活动看起来像是一个必选项目。任何AI用例的成功采用/部署都需要从想法到部署的适当治理。杜克大学已经建立的治理计划远远领先于大多数其他机构，因此合作可以更快地付诸行动。”
(全文结束)
