专家们对开发该技术所使用数据类型的透明度不足以及无偏见算法的必要性表示担忧。
专家们预计人工智能将在美国医疗保健的未来发挥重要作用，但人们担心透明度不足和存在偏见的算法可能会损害这些人工智能模型的创建效果。
医疗倡导者经常指出，密西西比州在确保居民获得医疗服务方面面临诸多障碍，特别是在各种因素交织的农村地区。此外，据报道，该州许多医院正面临资金、人员和设施短缺的问题。远程医疗已被提议作为解决部分问题的潜在方案，倡导者表示人工智能可以在促进民众健康生活方面发挥作用。
联邦基金（Commonwealth Fund）主席约瑟夫·贝坦科尔特博士表示，美国医疗体系中存在显著的健康差异，尤其是在分析不同人口特征时。个人健康状况很大程度上取决于遗传因素、居住地、收入水平、运动习惯、饮食结构、教育程度及医疗资源可及性。
"在种族差异背景下，少数族裔社区更易处于所有社会决定因素的不利端，在多方面处于劣势，"贝坦科尔特指出，并强调少数族裔因各种原因医疗保险覆盖率普遍较低。
二十年医疗数据和数千篇研究论文显示，患者因肤色差异而获得的医疗服务存在明显区别。例如，贝坦科尔特指出，脉搏血氧仪（放置在指尖测量血氧水平的小型设备）对深色皮肤患者的读数准确性显著降低。
斯坦福大学医学院教授蒂娜·埃尔南德斯-布萨德博士描述了另一个涉及eGFR计算器（估计肾小球滤过率）的案例。该指标用于评估肾功能，过去曾基于"黑人肌肉量更大导致肾功能差异"的错误认知，为非裔美国人设置特殊标准。
"正因旧计算器中的种族调整参数，黑人患者必须比非裔患者肾功能恶化更严重，才能获得同等治疗或进入高级治疗名单，"埃尔南德斯-布萨德解释道。这些因素导致治疗延迟和肾移植等待名单延误。目前算法已移除种族因素，转而采用生物标志物，有效改善了该领域的医疗公平性。
埃尔南德斯-布萨德补充道，鉴于2020年人口普查显示"混血"成为增长最快的人口类别，以种族作为健康风险指标的合理性已大幅降低。
贝坦科尔特承认，尽管近二十年在医疗公平方面取得进展，但现存问题仍可能阻碍当前及未来AI医疗模型的无偏见构建。新型可穿戴技术的应用或有助于缓解部分差异。
"我们必须根除算法中已存在的偏见，同时探索技术如何有效解决医疗差异，"贝坦科尔特强调，"这些挑战影响所有人群，只是程度不同，并非仅限于少数族裔。"
医疗技术进步蕴含重大潜力。贝坦科尔特指出，合理应用技术可帮助医护人员突破语言障碍、缓解心理疾病患者的社交隔离、改善慢性病管理。
人工智能还催生了虚拟护士形象——屏幕上的数字护士能根据患者健康知识水平进行互动，且永不疲倦地解答患者疑问。
"我们应思考如何部署技术填补当前护理缺口，"贝坦科尔特表示，"双管齐下才能真正实现医疗公平，既不让任何人掉队，又充分利用技术消除差异。"
若技术得以恰当实施，将使密西西比州居民特别是农村人口受益。"全国范围内，农村医院和医疗中心面临资金与人力短缺，且状况持续恶化，"贝坦科尔特坦言，"技术确将在未来发挥关键作用。"
新冠疫情期间已证明虚拟医疗的价值，但最完善的远程服务也无法满足全部健康需求。医生亲自检查患者始终是提供有效诊疗的必要环节。
"某些情况必须依赖外科医生现场救治或紧急空运，"贝坦科尔特指出，"仅靠技术无法解决。"虽然机器人外科医生未来或可服务农村地区，但实现仍需数年。
心理健康领域也是AI应用重点，但埃尔南德斯-布萨德强调相关技术尚不成熟。使用聊天机器人提供心理服务存在隐患，因其设计未将用户安全置于首位。
"必须警惕这些工具可能造成的危害，"埃尔南德斯-布萨德警示道。由于聊天机器人不受FDA医疗监管，且非为提供安全心理建议而开发，已引发多起悲剧。例如今年4月加州一名16岁男孩自杀后，其父母发现他长期使用ChatGPT，该机器人不仅阻止他与父母沟通，甚至主动提出代写遗书。
"此类悲剧已在全国蔓延，"埃尔南德斯-布萨德表示，"如何建立有效防护机制将成为未来发展关键。"
另一隐忧在于AI模型训练数据的选择性。STAT健康科技记者凯蒂·帕尔默指出，大量医疗数据因X光/CT影像分辨率不足或全球医疗实践差异而未被纳入算法开发。
帕尔默强调数据类型缺乏透明度，导致难以定位AI应用中的问题环节。更严重的是，患者常不知情地接受AI诊疗——例如医患对话录音经AI自动生成病历并存入健康档案的情况。
"当人工智能影响诊疗过程时，患者并不总是知情，"帕尔默总结道。
【全文结束】
