世界各地的医院和医疗系统正积极为各种用例部署人工智能工具，许多机构已取得成效，甚至看到了投资回报。
但对于这些医疗机构来说，一个重大问题仍然存在：它们是否确切知道自己的生成式AI模型如何工作，以及能否信任这些技术得出的所有结论？
引入新风险
北国医疗（North Country Healthcare）首席信息官达雷尔·博德纳（Darrell Bodnar）表示，当今最重要的问题之一是医疗领域负责任的人工智能。北国医疗是一个由三家关键医院和一家家庭健康与临终关怀机构组成的联盟，服务于新罕布什尔州最北部地区。
“人工智能有潜力切实改善我们提供护理的方式，支持临床医生并管理复杂的医疗系统——但如果缺乏强有力的治理和监督，它也会引入新的风险。”博德纳说。
“我知道这一点备受关注，这合情合理。长期来看，在没有适当治理的情况下部署AI技术，可能会在未来带来许多挑战。”
他补充道：“尤其是在农村医疗领域，技术决策分量很重，因为我们往往资源有限、团队规模较小。从环境文档到预测分析，AI工具可以帮助减轻行政负担，支持更好的临床决策，但必须仔细评估其安全性、数据完整性和临床影响。”
他补充说，挑战不在于人工智能是否会被用于医疗，而在于确保它得到负责任地实施，并以真正惠及患者和护理人员的方式落地。
结构化治理模型
博德纳解释说，北国医疗通过一个结构化的治理模型来应对人工智能和新兴技术，该模型侧重于临床价值、患者安全和运营影响。
“在采用任何新系统之前，我们会从多个角度进行评估：数据安全、临床工作流程整合、可衡量的结果以及是否符合我们更广泛的战略目标。”他说，“我们采用一种基于护理模型SBAR（情境、背景、评估、建议）的提交流程。”
“这为请求者提供了一定的尽职调查。”他继续说道，“然后我们利用一个由多元化多学科团队内部开发的评估框架，来决定是否推进试点。”
通过这一流程，北国医疗已经评估并正在持续评估若干能够有效支持其员工队伍的AI实际应用。一个已完全实施的例子是环境语音文档，它允许医疗服务提供者更专注于与患者的对话，同时系统在后台辅助生成结构化的临床文档。
“我们还在探索能够总结临床文档，同时提供指向医疗记录中原始材料的上下文参考的技术，使临床医生能够快速核实信息，并保持对文档的信任。”博德纳说。
“除了临床工作流程，我们也在评估收入周期内的自动化机会。”他补充道，“AI辅助编码审查、文档分析和索赔准备，可以帮助小型农村团队应对日益复杂的报销要求，同时提高准确率并减轻行政负担。”
他说，对北国医疗而言，关键在于确保这些技术得到深思熟虑地实施，并以真正支持临床医生、员工和患者的方式落地。
负责任AI的建议
博德纳建议，医院和医疗系统的领导者应关注三件事：治理、协作和实用性。
“首先，组织需对新兴技术（尤其是人工智能）建立清晰的治理。”他说，“这包括定义如何评估工具、谁负责监督，以及实施后如何衡量结果。”
“其次，这些决策应涉及多学科协作。”他继续说，“技术领导者、临床医生、合规团队和运营领导者都能带来不同的视角，有助于确保技术满足真正的临床需求。”
最后，领导者应保持务实。
“最有价值的技术往往是那些能解决员工和患者日常问题的技术。”博德纳说，“如果我们始终专注于改善工作流程、支持临床医生和维护患者安全，我们就能利用创新，同时避免快速发展的技术带来的许多陷阱。”
“我补充一点，应实施周期性评估流程，以确保预期结果正在发生。”他总结道。
Healthcare IT News是HIMSS Media的出版物。
【全文结束】