人工智能（AI）已深入医疗保健领域，从病历记录到语音助手等场景均有应用。关于责任归属和立法的讨论已然展开，毫无疑问AI正开始改变医疗服务的提供方式。德勤医疗解决方案中心数据显示，已有75%的大型医疗企业"正在试验或计划在整个企业中扩展生成式AI"。
然而，这项新技术的潜在负面影响较少被讨论。正如电子病历的实施带来利弊——既促进跨部门协作，又增加医生面对电脑的时间——AI的发展轨迹可能同样复杂。伦敦帝国理工学院商学院教授詹姆斯·巴洛向Healthcare Brew表示："围绕AI存在大量营销炒作，远超实际临床证据。作为企业或开发者，如何为自身主张构建证据基础？"
我们采访了多位专家，探讨AI对医疗保健可能带来的挑战及行业最佳应对策略。
负面影响 大多数AI技术通过现有数据训练模型，无论是已发表的研究还是患者病历。这意味着工具必须获取准确高质量的信息才能有效运作，但专家对此表示担忧。巴洛指出，偏见与公平问题仍在困扰AI领域，在医疗环境中可能导致护理质量下降，尤其对高危患者群体。"AI的训练基础是什么？数据集是否具有代表性？若不具备，可能产生偏见结果。"
加州Coastal Vein Care血管诊所外科医生哈里什·亚拉曼奇利表示，理解数据来源是"最重要的事情之一"。"你如何谨慎生成并确保数据来源经过严格审核？"他补充道，"我们正面临构建AI所需数据枯竭的困境。"《纽约时报》报道称，出版商和其他在线信息源正阻止其内容被用于AI训练——这意味着AI依赖现有信息，但许多数据源已被使用或受到限制。亚拉曼奇利担忧这可能导致企业"略微放宽"平台构建所用数据的质量限制。
"对我而言，AI应该是让治疗能力更便捷的工具，"亚拉曼奇利强调，"其治疗效果必须等同甚至优于未使用AI的情况。"但他也担心这些工具可能更容易遗漏患者病历中的错误："若存在任何被污染的数据点……你如何知晓此前的真实情况？"
巴洛补充道，错误数据或问题可能引发医患之间的不信任，同时也存在"四分之一工作者担忧AI将取代工作"的岗位替代忧虑。
积极对策 针对如何建立应对这些挑战的防护措施，巴洛认为核心在于信任。"建立信任需要对所用数据、数据质量、算法设计方式以及是否使用高级数据集保持高度开放透明。"他同时指出，遵守未来可能出现的新法规至关重要。亚拉曼奇利补充称，目前医疗AI领域尚无"绝对"监管规定，尽管美国医学会和健康AI联盟等组织已发布相关指南。
亚拉曼奇利建议增加临床医生在领导层的参与度，因为他们最了解如何有效支持医护团队与患者。"我们当前的做法犹如向飞镖板乱扔飞镖，仅寄望其中一支命中靶心，"他警示道，"我们谈论的是真实的人类生命。"
【全文结束】