人工智能已经存在了很长时间，几十年。那么为什么现在如此炒作呢？廉价计算、丰富数据和持续连接的汇合为人工智能成为现实提供了合适的条件。数据一直是医疗保健领域的宝贵资产，证明任何疗法的安全性和有效性都需要数据来证实。然而，联网医疗设备提供了近乎实时访问数据的机会，可能使设备无需临床研究就能变得更智能。另一种看法是，设备可能作为数据生成器最有价值，加速下一代疗法的发展。
可能性令人兴奋。个性化医疗可以借助从患者那里学习的设备取得飞跃进展，提供更符合个体患者需求的治疗。或者，一组诊断设备可以共享信息，逐步减少假阳性的数量。实际上，这使得设备更快变聪明。
关于人工智能在医疗保健中呈现的所有可能性，不乏兴奋之情或相关文献。然而，了解挑战和系统设计考虑因素至关重要，以确保人工智能计划能够在医疗保健领域取得成功。
面临的挑战
数据隐私： 人工智能依赖于数据，但你是否有权使用这些数据？根据《健康保险可携性和责任法案》（HIPAA），患者有权控制其数据的使用方式。此外，有22个州有活跃或待定的隐私立法。如果患者在数据已被纳入人工智能模型后选择退出，该怎么办？是否需要在移除其数据后重新验证该模型？很难确切预测五年后的隐私环境会是什么样子，但忽视隐私用例可能会导致短期内出现技术债务。
诊断： 医疗设备行业已经习惯了调试代码。但现在结果是编码算法和潜在大量数据的结合。如果结果不是预期的，是代码的问题，还是输入了错误的数据？诊断坏结果的最佳方法是什么？简单的答案似乎是确保所有使用的数据都是最高质量的，但这并不反映现实世界。需要透明度来了解决策是如何做出的，以便能够诊断意外结果。
变更管理： 如果你在使用人工智能，就必须预计它会发生变化。如果人工智能在患者护理交付中做出决策，这种演变必须受到控制。理想情况下，一个由人工智能驱动的产品会随着时间变得越来越智能，但如何区分产品变得更智能还是只是漂移？如果产品对一个群体变得更智能，但对另一个群体性能下降，这种情况就更加复杂。许多由人工智能驱动的设备发布时采用固定算法，因此它们在实地故意不发生变化，但你必须决定如何发布下一个智能迭代版本。
解决方案
设计中的隐私： 这不仅仅是一个流行语。如果你的产品核心竞争力是获取和利用患者健康信息来做护理决策，产品必须具有隐私用例和要求。换句话说，产品必须明确设计以支持隐私，就像任何其他关键性能特征一样。例如，如果患者决定“退出”，防止其数据用于超出其护理目的之外的用途，系统如何支持这一行动？如果这些患者的数据已经被纳入发布的模型中，有哪些高技术和低技术的解决方案可以解决这个特定用例？产品确实需要一个解决方案。
数据开发生命周期： 支持任何软件开发工作都需要一定水平的基础设施。类似地，支持数据和驱动人工智能的数据模型也需要类似的基础设施。模型必须进行版本控制；包含在模型中的数据必须能够追溯到源头。
架构： 产品的软件架构必须适应一些可能在人工智能之前未被考虑的特性。下表列出了几个应考虑的特性。
| 特性 | 描述 |
|---|---|
| 可观察性 | 如果算法打算在现场演变，可观察性是关键。如果结果偏离或数据模型比预期更快地演变，产品生态系统必须有一个机制通知你。 |
| 升级能力 | 远程升级软件仅解决了部分问题。产品可能需要能够只升级算法或支持多个算法版本。多版本支持可能是为了适应不同地理区域的监管批准差异，或仅仅提供一种静默比较结果的机制。 |
| 模块化 | 产品和算法应该分开进行监管批准，确保在治疗交付和支持决策之间有明确的隔离。 |
| 可管理性 | 这建立在可观察性之上，观察潜在问题的能力是解决方案的一半。另一半要求能够远程管理设备，包括诊断潜在问题。 |
将医疗保健注入像人类一样思考的设备和系统的追求将继续下去。然而，随着隐私、网络安全和监管环境的演变，失败的项目不会少。提前规划，设计支持这些演变条件的系统和相关流程是可以实现的。
(全文结束)
