人工智能（AI）已经成为医疗保健领域不可或缺的一部分。它帮助医生做出关键决策，例如如何为癌症患者准备艰难的选择。在宾夕法尼亚大学卫生系统中，AI促使医生与患者讨论治疗选项和临终偏好。然而，AI在医疗保健领域的道路并非总是一帆风顺。
在新冠疫情期间，AI系统的性能受到了打击。根据2022年的研究，AI工具的预测准确性下降了大约7%。这一困境导致医生错过了与需要这些对话的患者进行重要沟通的机会，影响了他们的整体治疗计划。这并不是个例；许多旨在优化医疗服务的AI工具在疫情期间表现不佳。
反复出现的AI系统问题凸显了在其部署过程中持续监控和评估的必要性。任何故障或性能下降都可能显著改变结果，影响患者的护理质量。持续的性能监控和定期更新可以帮助这些工具保持在正确的轨道上。
虽然AI可以提高可及性和改善护理，但它也可能增加成本。为AI工具添加更多监控和验证资源可能会显著增加成本，变得难以承受。医院的决策者必须在改善护理和成本管理之间走钢丝。
AI工具在医疗保健中已经变得不可或缺，具有多种用途，如预测死亡风险、建议诊断、记录和总结访问以及处理保险索赔。鉴于其广泛的用途和潜在错误的可能性，建立标准化系统来评估AI性能变得更加重要。
医院和护理提供者面临着根据自身特定需求选择最佳AI算法的挑战。当前文献和资源并未提供足够的指导，使这一决策过程更加困难。
AI在医疗保健中的一个例子是环境记录。通过听取和总结患者访问情况，技术辅助助手现在在医生办公室中非常普遍。然而，由于缺乏标准化模型来比较它们的输出，错误的风险增加——这种风险在医疗保健领域可能会产生灾难性的后果。
在某些情况下，AI算法失败的原因可以追溯到数据变化，而在其他情况下，问题似乎在没有明确原因的情况下出现。在这种情况下，AI的错误预测会严重影响医疗服务的有效性。
在医疗保健中监控和维护AI系统是一项重大责任，需要大量资源和财务投资。例如，在斯坦福大学，审计两个模型的公平性和可靠性花费了大约8到10个月的时间，投入了大约115个人工小时。
许多专家认为，医疗保健的未来可能取决于在人类监督下由AI监控AI。但这样的系统意味着更多的支出和资源，考虑到医院预算的现实和AI技术专家的有限供应，这带来了额外的挑战。
总之，AI在医疗保健领域的存在充满希望，但也并非一帆风顺。在该领域的持续监控、评估和改进工作可以为有意义地利用AI进行患者护理铺平道路。
(全文结束)
