人工智能正在被各种规模的医疗机构采用，以减少行政工作量并改进笔记记录。然而，这项技术的应用也伴随着风险。
各行各业的企业领导者都被人工智能自动化重复任务、提高效率和节省成本的潜力所吸引。医疗保健领域也不例外。
医生和其他医疗服务提供者对人工智能在自动患者沟通、提高响应时间、管理任务（如排班和库存）以及在放射学和成像方面改善护理结果方面的应用感到好奇。
这些工具前景广阔，但像任何新技术一样，它们可能会使医疗机构面临意想不到的风险。目前尚不清楚保险政策将如何覆盖人工智能，如果它犯错导致索赔的话。
随着医院和其他机构采用这些工具，重要的是要仔细了解人工智能的工作原理、何时使用它是合适的以及可能产生的后果。所有相关人员都必须记住，这些工具并不能替代医生、护士和其他医疗专业人员多年积累的教育经验。
“人工智能并不是为了完全取代医生的独立判断，我们也不认为这种情况会在短期内发生。没有任何东西可以真正替代任何一位医生的培训、技能、专业知识和经验，”ProAssurance西南地区风险管理经理Jennifer Freeden表示。“人工智能只是医生工具箱中的另一个工具。”
“人类的成分无法复制，”ProAssurance东南地区风险管理经理Bradley E. Byrne, Jr.补充道。
医疗保健中实施人工智能的风险
Jennifer Freeden, JD, CPHRM, ProAssurance西南地区风险管理经理
目前，全国各地的各种规模和专业的医疗机构主要将人工智能用于行政管理，如“排班、医疗用品库存、人员需求以及手术室和检查室的可用性”，Freeden解释说。“这些人工智能的实施风险较低，同时还能增强患者的护理和满意度，并为未来的规划带来可衡量的好处。”
这些工具在通过医疗系统的在线门户回应患者请求时也有优势。例如，如果患者需要某项治疗记录，系统可以迅速找到并上传。
“它从不睡觉，从不疲倦。”Byrne说道。“如果患者在患者门户中发送请求获取他们的记录，人工智能可以生成定制回复并在实时提供所需记录。”
其他人看到了人工智能在更危险的任务中的潜力，比如在患者就诊期间做笔记或评估医学影像。人工智能在这方面已经取得了一些成功，但重要的是医生要确认其输出，以确保没有错误。过度依赖这些工具可能会引发索赔。
“人们往往会对技术产生过度依赖，尤其是随着时间的推移，我们对其越来越熟悉，”Byrne说道。“使用这些技术的人，包括医生，可能会主要关注其优点，而没有充分理解其局限性。”
人工智能可能提供不准确结果的一个原因是数据。任何人工智能系统的好坏取决于其训练的数据。如果数据集有偏见或不完整，可能会给医疗服务提供者提供不准确的结果。
“如果基础数据集基于成人人群，儿科医生在服务18岁以下的儿科患者时不应使用该特定的人工智能解决方案，这是临床医生的责任，他们需要了解自己使用的人工智能模型，”Freeden表示。
未来，医生们需要问的问题是：“我们的基础数据集是否足够多样化和强大，能够考虑到我们人口统计中的每一位患者？”Byrne说道。
人工智能与保险
Bradley E. Byrne, Jr., JD, ProAssurance东南地区风险管理经理
为应对人工智能在医疗保健领域带来的风险，许多企业将转向其保险政策。医疗服务提供者由医疗事故保险覆盖，还有产品责任保险覆盖新技术。当然，某些东西会保护人工智能带来的风险。
目前尚不清楚人工智能的风险是否由一般责任险或医疗事故险覆盖。如果一个人工智能系统出错，这是产品的过错还是依赖其判断的医生的过错？目前还没有专门针对人工智能的独立保险产品来解决这些问题，也没有广泛的人工智能特定政策排除条款。
“一个新兴的灰色地带是产品问题和医疗事故问题之间的交集，以及在患者受到伤害的情况下责任将如何分配，”Freeden表示。“责任可能会在被明确标识为有缺陷的医疗设备工具和功能之间分配，对比是否通过独立判断使用这些工具达到了医疗标准。法院面临着区分这些责任的困难且细微的任务。”
另一方面，一些医疗保健领域的人士希望人工智能可以帮助医疗服务提供者避免可能导致索赔的错误。“可能有一些乐观情绪认为，人工智能最终可能有助于防止不良事件和可能导致巨额判决的索赔，”Byrne表示。
最佳风险管理实践是什么？
像任何新技术一样，人工智能带来了风险，尤其是在这个快速变化的早期阶段。但许多医疗保健行业的人都对该技术的潜力持乐观态度。这就是为什么这么多医院和其他医疗系统，甚至是较小的农村设施，都迅速接受了它。
“这可能是解决即将到来的医生短缺问题的一部分解决方案，”Byrne说道。
考虑实施人工智能的医疗保健公司可能会因为快速的发展和市场上大量的产品而感到不知所措。“很容易被医疗保健领域关于人工智能的大量新信息和发展所淹没，”Freeden表示。“最好在办公室内指定专人负责跟踪人工智能在医疗保健领域的最新发展。”
除了跟上总体趋势外，医疗保健公司还需要深入了解其特定的人工智能系统。了解它接受过哪些数据训练以及哪些用例是合适的，将减少风险。
“深入了解将在临床决策中使用的底层人工智能对于诊所和医院来说至关重要。仅仅说‘因为人工智能这么说’是不够的，”Freeden表示。“医生需要能够坐下来与患者讨论他们将如何使用人工智能来帮助制定诊断或治疗计划。”
使用人工智能进行影像分析甚至仅仅是作为记事员的医生应告知患者，并确保他们了解并同意技术的使用范围。人们还希望知道他们的敏感医疗数据将得到安全存储和保护。
“在利用人工智能进行患者护理时，知情同意过程并不会消失。事实上，医生的道德义务保持不变，即让患者了解用于确定其治疗建议的工具，”Freeden表示。
最重要的是确保这些工具始终由人类谨慎使用和评估。这将有助于患者感到更加安全，并帮助医生避免过度依赖技术所带来的风险。
“我们看到，虽然确实有理由对人工智能在医疗保健领域的应用持乐观态度，但大多数患者仍然更愿意与人类打交道，”Freeden表示。
(全文结束)
