据医疗人力资源咨询公司 DoorSpace 的首席执行官 Sarah Worthy 在 10 月 9 日发表于《医疗经济学》的一篇博客文章，虽然人工智能增强了某些预测分析能力，但过度依赖该技术的风险可能导致错误诊断和医患关系的削弱。
关于独立实践中人工智能的风险，有以下五件事需要了解：
- 过度依赖人工智能的风险。当人工智能做出错误的诊断或治疗建议时，存在很大的潜在危害。Worthy 女士表示，这尤其会对独立实践造成影响，可能导致关键的医患关系破裂。人工智能的错误决策可能会导致患者质疑其医生专业知识的价值。
- 围绕伦理和数据隐私的担忧。人工智能能够处理大量数据。然而，独立实践可能难以配备足够强大的数据安全系统来保护人工智能可能使用的大量敏感健康数据。这可能会产生循环效应，因为此类实践更容易受到网络攻击和数据泄露的影响，这对患者隐私、实践声誉和财务稳定性会产生进一步的后果。
- 人工智能可能导致利润高于患者护理。Worthy 女士表示，虽然人工智能本身“没有故意造成伤害或囤积权力的能力”，但它可能被以高利润为动机的组织操纵并潜在地被武器化。
“随着人工智能变得更强大，存在一种风险，即更大的医疗保健组织、保险公司甚至科技巨头可能会使用人工智能来控制独立实践，”Worthy 女士说。“这可能表现为人工智能驱动的系统决定治疗方案、确定报销率，甚至决定哪些实践可以接触到某些患者。”
- 医生倡导是必要的。Worthy 女士还敦促独立医生推动能够保护他们及其患者免受医疗保健中人工智能过度使用或滥用的政策。她补充说，这可能意味着与政策制定者接触，花时间了解人工智能的发展，或者“与其他独立实践合作，抵制任何将人工智能用作控制工具的尝试”。
- 人工智能的使用是一种平衡行为。Worthy 女士鼓励医生在将人工智能纳入其独立实践时积极主动。她补充说，通过利用人工智能协助耗时的行政任务，医生可以“负责任地使用人工智能来增强运营并改善患者护理”，而不是让它过度影响他们的医疗判断和医患关系。
