在新冠疫情期间，我们听闻黑人、亚裔和少数族裔患者的死亡率较高。但实际情况会不会是常见的医疗器械未能准确检测出他们病情的严重程度？
近年来，我们听到了很多关于人工智能偏见的内容——基于人类历史数据训练的人工智能可能最终会自动产生各种形式的偏见、排斥和/或偏袒。
这些偏见可能表现为有缺陷的决策——我们对世界的假设通常是最先被自动化的。但同样，它们可能根植于种族、性别、年龄、性取向、邮政编码、社会经济群体、宗教信仰等等。
这种偏见被自动化的结果可能包括司法环境中的不平等待遇、就业机会被剥夺，或者在金融、信贷和保险方面做出负面决策。这些我们都知道，而且这些担忧至今仍然存在——毕竟，人工智能的好坏取决于其训练数据。
然而，不太为人所知的是传感器和其他硬件系统强化严重偏见和排斥问题的风险——也许还会导致大量生命的丧失。
例如，实时面部识别系统表现不佳的原因之一，不仅仅是训练数据缺乏多样性导致系统对白人的识别更准确（尽管这是一个因素），还经常因为传感器未针对深色肤色进行校准——这个问题可以追溯到胶片摄影时代，当时商业胶片通常是根据白人皮肤进行校准的。
在一个黑人、亚裔或西班牙裔的面部和肤色可能不如白人被准确识别的数字世界，在不同的环境中会产生两级——甚至可能是致命的——结果。这包括实时面部识别的所有应用，以及计算机视觉至关重要的其他领域，比如一个人走在自动驾驶汽车前。
至少有一项深入的学术研究表明，一些成像系统不太可能将黑人和少数族裔行人识别为人类。
但有一种情况远比上述情况不明显，却可能是最关键的。那就是医疗器械——在一个越来越依赖各种传感器、智能可穿戴设备和人工智能的医疗环境中。
有证据表明，由于这些问题，可能已经有成千上万的人死亡。
前英国国民保健署（NHS）医院医生和全科医生尼克·戈姆珀茨（Nick Gompertz）博士是一家名为EarSwitch的英国初创公司的首席执行官。他认为，耳朵是所有医疗监测形式的理想部位，正是因为西方使用的大多数医疗器械在用于深色肤色时不可靠。
这一认识是在疫情的第一波期间得出的。戈姆珀茨解释说：
“在新冠期间，很明显，对于棕色或黑色皮肤的人来说，手指脉搏血氧仪的测量不准确，因为你要透过深色皮肤照射光线。对于棕色或黑色皮肤，这低估了您的新冠病情的严重程度。”
“在英国，人们会根据 92%或以上的氧水平被送回家——而且他们没有接受任何治疗就被送回家了。如果低于这个水平，他们就会被收住院，并可能接受重症监护室的氧气治疗。但对于棕色或黑色皮肤，大多数手指血氧仪的读数可能非常不准确。”
这令人担忧，原因有很多，尤其是在疫情期间早期发现黑人和其他少数族裔人群的新冠死亡率较高。如果戈姆珀茨是对的，这可能意味着这是因为在医疗检测期间他们感染的严重程度被遗漏了，而不是因为他们的种族是他们身体对病毒反应的一个因素。
而且似乎戈姆珀茨是正确的。
这些问题并不是最近才发现的。早在 20 世纪 90 年代的临床研究就提到了这些设计缺陷，而它们与新冠疫情期间的生命损失的相关性在 2022 年和 2023 年的学术研究中成为了主题。
英国政府在今年 3 月发布了自己的报告，其中包括对影响所有基于光的医疗器械和传感器的问题的严厉评估：
“光学设备——其中包括脉搏血氧仪——通过向患者的皮肤发送各种频率的光波来测量潜在的生理状况，但光线与皮肤中不同水平的黑色素反应不同。”
“如果认识到性能的差异并根据肤色对设备进行适当的调整以校准设备，那么肤色导致的性能差异对于医疗保健不一定是问题。然而，无论是在脉搏血氧仪还是其他未知数量的光学设备中，似乎都没有进行这样的认识和调整，这些设备没有针对肤色的不同性能进行调整。”
“在脉搏血氧仪中，由于在肤色较浅的参与者身上测试这些设备，从而将这些读数视为标准，这一问题更加严重。”
换句话说，似乎重症护理中使用的医疗器械经历了与一些计算机视觉系统相同的有缺陷的开发周期：它们是由以白人为主的团队设计、开发、测试和校准的，假设白人是一个通用的基准。
然而，英国的报告并不局限于对光学设备的批评。人工智能也在其中。政府表示：
“医疗系统之外的人可能很少意识到人工智能已经融入医疗保健的各个方面——从预防和筛查到诊断和临床决策，比如何时增加护理强度。”
“我们的审查揭示了社会中现有的偏见和歧视如何在设备的生命周期的每个阶段无意中被纳入，然后在算法开发和机器学习中被放大。”
种族偏见问题不止于此。在基因组学中，新兴的多基因风险评分（PRS）科学也被证明是一个问题。政府指出：
“PRS 所依据的数据来源对具有非欧洲遗传血统的群体存在明显的偏见，但此外，我们担心公众和卫生专业人员可能会对结果产生误解，特别是与遗传决定论有关的结果，这可能会带来更广泛的社会风险。”
在我们被告知人工智能、基因组学、可穿戴设备和智能医疗器械将引领一个新的预测、预防和个性化医疗保健时代，根据我们的个人需求量身定制的时候，这是相当多的问题。似乎这可能会实现——如果你是白人。
戈姆珀茨自己的评估很直率：
“大多数医疗器械制造商在美国因种族不平等而被起诉。所以，有一个为每个人，特别是棕色或黑色皮肤的人把事情做得更好的问题。”
“但实际上，血氧仪无论如何都是相当不准确的设备！它们通过国际标准时的不准确率为 4%。但请记住，如果您以 92%作为‘治疗或不治疗’的测量点，而您已经有 4%的不准确读数，这使得结果相当随机。然后如果再加上种族不平等，那就是一个真正的问题。”
确实。但在一个承诺有技术解决方案的世界里，对于一个似乎压倒性且广泛存在的问题——严重到人们似乎已经失去了生命，而诉讼不断增加——答案是什么？
他建议，耳朵可能提供了一个部分答案，因为在宏观层面解决这些问题似乎涉及拆除和重建整个行业，以及其假设和供应链。
他说：
“您需要更好的数据，因为众所周知，如果您从机器学习中获得的数据不佳，那么您就会得到不佳的结果。我们相信 EarSwitch 解决了这两个问题——种族不平等和数据的质量或准确性。”
“首先，我们的（基于耳朵的）传感器很小，可以安装在任何助听器或耳机上。其次，我们从耳道进行监测，在那里我们可以检测到血流的涌动。它比您的手指或手腕更接近大脑和心脏。”
“但第三，无论您的肤色如何，耳道的颜色都是相同的。所以，它也解决了种族不平等的问题。”
他补充说：
“我们可以获取心率、心率变异性、氧水平、呼吸率和模式。而且，还有新的血压数字生物标志物：脉搏传导时间和脉搏波分析。”
“我们相信耳朵是建立您所需的数字表型、数字双胞胎的数字数据的唯一部位。所以实时、真实世界、医疗级、同步、多模式记录到指标云门户，形成一个数据基板，每个人都可以在此进行机器学习。”
由一位拥有 30 年英国临床经验的人领导的有前途的初创公司：这是个好消息。
但他只是一个在这个市场中的创新者，这个市场多年来一直知道这些问题，但似乎很少重视解决它们。从这个意义上说，医学科学让数百万人失望，而技术部门继续追求缺乏关键多样性的开发周期。显然，现在急需改变和重新评估。
