随着由人工智能驱动的工具越来越多地进入医疗保健领域，一项新的研究对当前的前景和担忧进行了评估。支持者们认为，这项技术可以帮助管理医疗供应链、监测疾病暴发、做出诊断、解释医学影像，甚至通过弥补医疗工作者短缺来减少医疗服务获取中的公平差距。然而，也有人对隐私权、模型中的种族和性别偏见、缺乏透明度的AI决策过程可能导致患者护理错误，以及保险公司可能利用AI歧视健康状况较差的人等问题发出警报。这些工具最终会产生何种影响，将取决于它们的开发和部署方式。
在发表于《社会科学与医学》杂志的一篇文章中，研究团队对AI在医疗保健领域的当前轨迹进行了广泛的文献分析。他们认为，AI可能会成为一系列技术进步中的最新一员，这些技术进步最终影响有限，因为它们采取了一种“回避政治”的做法，转移了人们对全球公共卫生更根本结构性问题的关注，甚至可能加剧这些问题。例如，像过去的许多技术干预措施一样，大多数用于健康的AI都集中在治疗疾病上，而忽略了健康的根本决定因素。研究人员担心，对未经验证的AI工具的炒作可能会分散人们对于实施低技术但基于证据的整体干预措施的迫切需求，如社区健康工作者和减害计划。
研究人员说： “我们以前见过这种模式，”主要作者说，“我们不断投资于这些技术灵丹妙药，但它们实际上并没有改变公共卫生，因为它们没有解决根深蒂固的政治和社会健康决定因素，这些因素可以包括健康政策优先事项、获取健康食品和安全居住环境等。”
AI还可能继续或加剧历史上在生物制药行业中常见的伤害和剥削模式。论文讨论的一个例子是，目前AI的所有权和利润集中在高收入国家，而低至中等收入国家由于监管不力，可能成为数据提取或部署潜在风险新技术的目标。论文还预测，对AI的宽松监管将继续优先考虑知识产权和行业激励措施，而不是公平和负担得起的公众获取新治疗方法和工具的机会。由于企业利润动机将继续推动产品开发，AI公司也可能忽视世界最贫困人口的需求，决定哪些问题值得投资进行研发。
然而，作者确实发现了一个亮点。AI有可能打破常规，通过改善医疗系统本身产生更深远的影响。AI可以用于更高效地分配医院资源和更有效的患者分诊。诊断工具可以提高小农村医院全科医生的工作效率和能力，而无需专科医生。AI甚至可以提供一些基本但重要的健康服务，填补劳动力和专业技能的缺口，如在产科护理沙漠地区提供产前检查。所有这些应用都有可能实现更公平的医疗服务获取。但这一结果远非确定。这些技术如何和在哪里部署，可能会成功填补真正存在医疗工作者短缺的地区，或导致现有医疗工作者失业或从事不稳定的工作。除非解决医疗工作者短缺的根本原因——包括倦怠和向高收入国家的“人才流失”——否则AI工具可能会提供最终无用的诊断或疫情检测，因为社区仍然缺乏应对能力。
为了最大化利益并最小化危害，研究人员主张在AI进一步扩展到医疗保健领域之前制定监管措施。正确的保障措施可以帮助AI避免重蹈过去有害模式的覆辙，而是开辟一条新的路径，确保未来项目符合公共利益。“在AI方面，我们有机会纠正治理新技术的方式，”他们说，“但我们需要一个明确的议程和框架，通过世界卫生组织、资助和实施健康干预措施的主要公私合作伙伴关系，以及美国、印度和中国等拥有科技公司的国家来实现AI健康技术的伦理治理。这需要持续的民间社会倡导。”
所以呢？ 愿闻其详。几年前，研究人员得出结论，没有任何技术进步曾增加人类幸福的总和。相反，每一项“进步”都试图弥补其他技术造成的問題。我怀疑AI也会遵循这个例子——如果它不先毁灭人类的话！
(全文结束)
