人工智能正在改变加利福尼亚人的医疗保健方式——诊断疾病、预测患者需求、简化治疗流程，甚至为医生生成医疗记录。
尽管人工智能充满希望，但也存在风险，尤其是对黑人患者。它可以提供更快的诊断并扩大医疗服务的可及性，但也可能导致误诊、延误治疗或忽视患者的紧急需求。人工智能对黑人患者的影响取决于在其开发过程中如何解决医疗数据和算法中的偏见。
“随着我们向更多使用人工智能技术的社会迈进，至关重要的是，不要让黑人美国人所面临的偏见和刻板印象延续到未来的创新中。”州参议员、医生阿基拉·韦伯·皮尔森（Akilah Weber Pierson, D - 圣迭戈）说道，她正领导立法努力以解决医疗保健中的人工智能偏见问题。
为什么人工智能对加利福尼亚黑人很重要
由于系统性不平等、有限的医疗保健获取渠道以及被排除在医学研究之外，加利福尼亚黑人的健康状况最差。16.7% 的黑人成年人报告健康状况一般或较差，而白人这一比例为 11.5%。黑人成年人在前列腺癌、乳腺癌、结肠直肠癌和肺癌方面的死亡率最高。全州范围内，糖尿病影响了 13.6% 的黑人成年人，而白人为 9.1%；27% 的 65 岁以上黑人患有心脏病，而白人为 22%。加利福尼亚黑人的预期寿命比该州平均水平短约五年。
人工智能在医疗保健中的好处和风险
艾默里大学医学院放射学和影像科学系副教授朱迪·瓦维拉·吉乔亚博士
人工智能利用计算机算法处理大量医疗数据，旨在识别患者的健康模式，帮助医生诊断疾病、推荐治疗方案并提高患者护理效率。通过分析扫描结果、实验室结果和病史，人工智能可以更早地检测出疾病，从而有可能改善面临前列腺癌、糖尿病、心脏病和高血压等高风险的黑人患者的护理。
埃默里大学温希普癌症研究所介入放射科医生兼埃默里大学医疗人工智能创新和转化信息学实验室（HITI）研究员朱迪·吉乔亚博士认为，人工智能是一个具有巨大潜力的工具，但其有效性取决于训练数据的多样性。她说：“如果没有多样化的数据集，人工智能可能会忽视某些疾病的临界迹象，尤其是在像黑人患者这样的代表性不足人群中。”
蒂姆尼特·格布鲁博士是一名计算机科学家和人工智能伦理专家，也是奥克兰分布式人工智能研究所（DAIR）的创始人和执行董事。她广泛研究了人工智能系统中的偏见及其对边缘群体的影响。
格布鲁承认，人工智能有潜力通过提高效率和扩展医疗资源的可及性来改善医疗保健。但她像吉乔亚一样强烈强调，为了使人工智能有效且公平，它需要受到严格的监督。
人工智能已经在帮助医生通过识别生物标志物和基因突变来个性化癌症治疗。加州大学旧金山分校和斯坦福健康中心使用人工智能分析肿瘤DNA，以匹配患者最有效的化疗或免疫疗法。
在糖尿病护理方面，人工智能可以预测血糖波动，帮助医生调整治疗方案。它还帮助放射科医生早期发现疾病，并更早地识别败血症，减少医院死亡率。在心脏病学方面，人工智能可以检测早期心脏病征兆，如斑块积聚或异常心律，甚至在症状出现之前就能发现。它还可以通过分析脑部扫描来预测中风风险并指导干预措施。
凯撒永久医疗集团使用人工智能记事员来减少文书工作并改善患者互动。Covered California 已与 Google Cloud 合作，使用人工智能简化文件验证和资格决定。
尽管取得了这些进展，但基于有偏见的医疗数据训练的人工智能系统可能会加剧对黑人患者的不平等。
格布鲁解释说：“如果人工智能从历史上歧视性的医疗决策中学习——例如对黑人患者的治疗不足——它将放大这些偏见。”
一个显著的例子是在皮肤病学领域，人工智能经常误诊黑人患者的病情，因为大多数训练数据集基于浅色皮肤个体。“黑色素瘤在深色皮肤上的表现非常不同，”格布鲁指出。“它不仅仅是更暗——它通常表现为不同的形式，比如在脚趾甲下，这是主要基于浅色皮肤训练的人工智能无法检测到的。”
人工智能在医疗保健中的另一个风险是自动化偏见，即医疗保健提供者过度依赖人工智能，即使它与医学专业知识相矛盾。“没有人工智能时能够准确开药的医生有时会在使用自动化工具时犯错，因为他们过于信任这些系统，”格布鲁补充道。
由人工智能驱动的医疗保险索赔拒绝也日益成为关注的问题。联合健康保险公司因涉嫌使用未经监管的人工智能算法拒绝老年和残疾患者的康复保险而面临集体诉讼。
除了偏见外，人工智能还对环境构成威胁。人工智能系统需要大量的计算能源和大量的水来冷却数据中心，这加剧了气候变化，这个问题已经不成比例地影响了黑人社区。
特朗普政府和DEI影响
特朗普政府试图废除多元化、公平和包容（DEI）的努力威胁到了医疗保健中人工智能偏见研究的资金。
联邦支持的减少可能会阻碍使人工智能系统更加公平和准确的进展，增加黑人患者遭受歧视的风险。
加州的立法和监管回应
认识到人工智能在医疗保健中的风险，加州立法者和州官员正在实施法规。韦伯·皮尔森提出了参议院法案（SB）503，以确保用于医疗保健的人工智能算法在实施前经过种族偏见测试。
“我们已经看到像脉搏血氧仪这样的有偏见的医疗设备是如何失败黑人患者的，”韦伯·皮尔森解释说。“如果用于患者护理的算法不够包容，它们就无法准确服务于有色人种。”
在介绍SB 503的新闻发布会上，韦伯·皮尔森强调必须对人工智能进行问责。“这项法案的重点是确保作为医疗人员辅助工具的软件能够做出公正、非歧视性的决定，从而促进公平的结果。”
其他立法努力包括参议员乔什·贝克尔（Josh Becker, D-门洛帕克）提出的参议院法案（SB）1120，该法案禁止保险公司仅凭人工智能单独拒绝或延迟护理，以及众议员丽莎·卡尔德隆（Lisa Calderon, D-惠提尔）提出的众议院法案（AB）3030，该法案要求医疗保健提供者在使用人工智能进行护理时告知患者。
总检察长罗布·邦塔发布了一项法律咨询，禁止人工智能不公平地拒绝医疗索赔、伪造记录或根据病史限制就医。州长加文·纽瑟姆2023年的行政命令指示州机构评估人工智能的影响并建立消费者保护措施，特别是在医疗保健领域。
黑人患者和家庭可以采取的行动
随着人工智能在医疗保健中的普及，加利福尼亚黑人可以通过询问是否使用了人工智能、寻求第二意见和支持解决算法偏见的组织来确保公平待遇。
他们可以：
- 询问他们的医疗保健提供者是否在诊断或治疗中使用了人工智能。
- 如果人工智能生成的诊断看起来可疑，请求第二意见。
- 支持促进公平和问责制的AI政策和立法。 * 与参与确保人工智能以改善黑人患者健康结果的方式发展的社区健康组织（如加州黑人健康网络CBHN）合作。
加州黑人健康网络执行主任罗恩达·史密斯表示，必须消除医疗算法中的偏见。“在提供患者护理时，绝不应该有任何基于种族的调整，”她说。
CBHN支持包容性研究和类似SB 503的立法，以确保人工智能促进公平。
确保人工智能造福所有社区
作为立法者，韦伯·皮尔森正在推动更强有力的保障措施，以确保人工智能公平地服务所有患者。她说：“创新和技术是好的，但如果我们在前进时不考虑所有使用医疗保健空间的人，新的挑战就会出现。”
人工智能有潜力彻底改变医疗保健，但专家警告说，它必须以透明、问责和公平的方式开发和监管——确保它减少而不是加剧种族健康差异。
(全文结束)
