尽管人工智能（AI）的根源可以追溯到几十年前的多个迭代版本，但其作为日常生活的一部分仍然在被社会逐渐接受。在医疗保健领域，AI仍然是一个“热门词汇”，其真正的含义和影响往往难以捉摸，尤其是在与医疗设备相关时。
随着AI技术的迅速发展，制造商在满足质量标准和确保合规方面面临着挑战。Kellen Giroux预测，AI将显著影响医疗技术的上市前和上市后流程。
尽管AI的能力已经超越了仅仅是复杂技术的一个功能，这些工具正在重塑从上市前评估到上市后监控的整个质量标准。随着技术变得更加先进，AI和机器学习将继续改变诊断能力、预测分析和整体医疗技术创新。安全和合规的影响将继续加深，伦理问题也将变得更加普遍。因此，行业专业人士将越来越需要了解AI的工作原理，如何区别于机器学习和生成式AI，如何影响患者护理，以及公众认知与AI实际能力之间的差异。
在即将举行的MEDevice Silicon Valley会议上，Kellen Giroux将发表题为“QualitAI：AI和机器学习如何融入质量未来”的演讲，旨在通过开放对话来赋能今天的医疗器械公司利益相关者，共同规划一个更有成效的未来。他还将讨论潜在的误解和陷阱，以及转型带来的好处。
当考虑到即使在这个行业内，AI仍然是一个“热门词汇”时，您认为大多数专业人士是否真正理解AI是如何工作的——还是您认为仍存在一定的不确定性和困惑？
Giroux：“我认为确实存在一定程度的不确定性和困惑。这是我们[会议]小组的主要目标之一——教育和启发专业人士，让他们了解AI实际上是什么以及它是如何工作的。他们可能每天都在处理这些问题，但并未意识到，AI是如何被整合到医疗器械领域的。有如此多不同类型的AI（包括机器学习、生成式AI和反应性机器），人们很难理解每一种是什么以及它们是如何工作的。”
AI的存在是否会使得制造商更难遵守质量标准？
Kellen Giroux：“绝对会。质量标准是为了确保医疗器械的安全和有效性。验证、证明和资格认证AI，以证明它们使设备更安全、更有效，这才是工作的核心所在。由于不同类型的AI快速进化，监管机构也在努力跟上步伐。当创新开始超过法规时，合规就成为了一个主要挑战，尤其是如果[这些法规]还不存在。我认为，围绕AI的困惑加剧了这一问题。对AI能力的误解会影响其使用和监管方式。生命科学领域的许多AI都是基于机器学习的，这需要良好的数据输入才能输出良好的数据。这种反向关系导致制造商和监管机构同时低估和高估了AI。”
展望未来，您认为AI将在医疗器械的上市前流程还是上市后流程中发挥更大的影响？
Kellen Giroux：“短期内，影响最大的将是上市前流程。大多数投资AI的医疗器械制造商正在努力将其整合到产品中，并开发AI支持的界面。目前，这主要体现在帮助客户工作流程，让AI预判需求，使设备操作更加便捷。最终，随着AI学习过程的更大飞跃，设备将开始进入诊断领域。我们还没有达到全面诊断的阶段，但这正是许多公司努力的方向。相反，我预计在不久的将来，上市后阶段的投资将更加密集。利用AI和机器学习分析现场数据、安全信息和客户体验，将极大地提升我们调查患者事件等方面的能力。许多公司目前正在开发这些类型的程序，有些甚至能够提供预测信息，使组织能够预见问题、合规差距和召回。这最终将反馈到更好的设备制造中，通过组织和预测客户需求来实现。最终，这将是一个循环的益处。”
AI正在以如此快速的步伐发展，以至于“创新”一词似乎不断扩展。您认为在接近会议时，AI在医疗器械领域的哪些方面真正具有创新性？
Kellen Giroux：“我认为随着我们在诊断领域的更多创新，我们将开始看到一些真正令人惊叹的产品，能够确定患者的症状和结果。正如我提到的，我还没有看到真正生活在这个领域的设备，但有了合适的数据库，我认为我们离这一目标并不遥远。目前我认为真正具有创新性的能力是一些上市后的AI。一直以来，都有大量的数据可用，但分析、理解和利用这些数据对于专家和组织来说一直很困难。现在有一些程序可以分析公开的患者事件，并指导公司如何最好地对其自身设备中的相同风险进行风险评估，从而使组织能够更加主动地提高患者安全。我正在与这样一家公司合作，亲眼看到这一点真的很棒！”
AI对公司在数据和分析方面的投资有何影响？这种投资在AI存在于医疗技术领域的重要性何在？
Kellen Giroux：“我一直大力倡导在医疗技术领域投资数据和分析。很少有公司真正投资这个领域。我认为那些投资的公司会从中获得巨大收益。它可以帮助您了解市场趋势，掌握其设备的使用情况。它放大了客户的声音。随着AI在医疗技术领域的存在，这些趋势、信号和数据将变得更加重要，否则输入AI大脑的数据将是不完整的。随着AI在医疗技术领域的增长，我可以看到公司将在数据和分析方面投入更多，特别是如果数据分析中的AI也相应增长的话。”
您计划在演讲中解决的一些关于AI的常见误解能否在这里预览一下？
Kellen Giroux：“最常见的误解之一是AI是客观和无偏见的。目前大多数AI的版本，它们的质量仅取决于输入的数据。如果数据有偏差，AI的输出也会有偏差。AI的‘推理’在这方面仍然非常有限。例如，某些法院系统最近使用AI来建议量刑。图卢兹大学的一项研究发现，AI建议的量刑对某些群体存在偏见，建议更长和更严厉的量刑指南。研究得出结论，这是因为用于‘训练’AI的历史量刑数据本身也存在同样的偏见。除非能够消除这些偏见或基线化数据，否则这种类型的输出仍然非常有可能发生。”
您能否提供一些关于AI、机器学习和生成式AI之间差异的见解，这些内容您打算在演讲中详细讨论？
Kellen Giroux：“AI是一个描述这一技术领域的总体概念，这也是很多误解的来源。对一些人来说，AI意味着‘人工智能’，即一个‘有感知力的存在’。对另一些人来说，AI意味着一个高科技计算器。这取决于您的经验。机器学习是最常见的AI形式之一，它侧重于从先前的数据中学习。生成式AI则更进一步，使用其数据创建新事物，而不仅仅是报告或组合已有的数据。我们将在演讲中讨论这些例子以及它们在医疗技术中的应用。”
当您思考AI在医疗器械领域的未来时，您认为制造商、提供者和患者将从AI中获得的最大好处是什么？最大的挑战是什么？
Kellen Giroux：“制造商将从AI中获得显著的好处，不仅在其产品的开发过程中，还包括产品本身。他们将能够提供增强的患者体验，并利用AI分析这些体验以创造更好的产品。患者将从其提供者那里获得更加全面的体验，提供者将能够提供更快的结果、更多的信息，并在未来处理更复杂的手术。与大多数快速发展的技术一样，所有人的挑战在于何时以及如何利用这一强大的工具。过度依赖AI来执行任务可能导致不负责任的结果，如果这些工具在未准备好或周围环境尚未适应的情况下实施。谨慎和强有力的风险评估将是将这项技术安全有效地整合到行业中的关键。无论哪种情况，AI在医疗技术领域的存在是不可避免的，因此在这个领域的指导需要协作，因为我们共同学习最佳路径前进。”
(全文结束)
