研究表明，非裔美国人比白人美国人更可能使用AI工具获取健康和心理健康信息，引发了对偏见和可靠性的担忧。
对于数百万难以负担医疗费用的美国人来说，一个新的医疗建议来源只需敲击几下键盘即可获得。
随着ChatGPT、Claude和Google Gemini等人工智能工具的广泛使用，全国调查显示，没有医疗保险的人群——特别是非裔美国人和年轻人——是最有可能使用这些工具获取身体健康信息和心理健康指导的群体之一。
一些用户似乎转向人工智能是因为他们负担不起医生就诊费用、无法预约就诊时间或缺乏常规医疗服务提供者。虽然即时、免费的建议难以抗拒，但研究人员和患者权益倡导者警告称，人工智能可能会产生不准确、误导性甚至潜在危险的建议。
对于黑人患者来说，风险可能更高。研究人员发现，聊天机器人会复制种族偏见、概括化和刻板印象。专家表示，使用人工智能获取医疗建议可能会重演非裔美国人在医疗系统中长期面临的一些问题。
年轻人和无保险者使用率更高
本月早些时候发表在《美国医学会儿科学杂志》(JAMA Pediatrics)的一项新研究说明了这一趋势。研究发现，与白人青年相比，黑人青年每月至少一次从聊天机器人寻求心理健康建议的可能性要高出约五倍。
这一发现似乎反映了一个更广泛的模式。根据三月份发布的KFF健康追踪民意调查结果，与白人成年人和有医疗保险的人相比，黑人和西班牙裔成年人也更可能使用人工智能获取心理健康信息。
这些发现出现在人们对黑人社区心理健康日益关注的背景下，包括过去二十年来不断上升的自杀率。
健康技术企业家Kamal Grewal担心，人工智能治疗师可能会给危机中的年轻人提供支持的幻觉，即使该技术可能弊大于利。包括OpenAI和Google在内的几家主要人工智能公司正面临诉讼，指控其聊天机器人助长或鼓励了用户自杀。
"消费者人工智能工具旨在保持用户参与度：它们会认同你、同意你的观点，让你感觉被倾听，"Grewal说道，他是Therapy Companion的创始人，这是一款旨在帮助治疗师处理行政和非患者服务的人工智能工具。"这对于保留指标来说很好，但对于处于心理健康危机中的人来说很危险，因为在那种情况下，你需要的不是认同，而是能够挑战你的思维并让你承担责任的受过训练的临床医生。"
人工智能在年轻人中使用率更高并在成年人中逐渐普及并不令人意外。
一项全国性民意调查的受访者中，约三分之一的成年人表示去年使用过人工智能聊天机器人获取健康信息。在那些使用人工智能获取健康信息的人中，约三分之一在寻找身体健康问题的建议，略高于15%的人在搜索心理健康建议。
大多数受访者表示他们在寻找即时建议。但有迹象表明，无法负担或找到医疗服务的问题也影响了一些受访者，尤其是年轻成年人。
发表在《美国医学会杂志》(JAMA)上的兰德研究估计，今年全国约有820万年轻人报告使用人工智能获取心理健康建议，比去年增加了40%。
该研究对1,009名青少年进行了抽样调查，其中包括95名黑人受访者。作者指出，该分析的样本量较小，并表示该问题需要进一步调查。
在那些从人工智能聊天机器人寻求心理健康建议的青少年中，42.8%每月至少使用一次，91.7%表示建议从"有些"到"非常"有帮助。超过三分之二的青少年表示，他们没有告诉任何人自己使用人工智能聊天机器人获取心理健康支持。
使用的聊天机器人包括ChatGPT、Gemini、Character.AI和Meta AI。年轻人倾向于在感到愤怒、紧张、悲伤或压力大时咨询它们。
代码中隐藏的偏见
2024年发表在《自然》杂志上的一项研究发现，当大型语言模型接收到用非洲裔美国人英语书写的提示时，它们产生的刻板印象与吉姆·克劳时代（美国种族隔离时期）从人类记录的刻板印象一样负面——甚至更糟——而无需提及用户的种族。
人工智能系统将非洲裔美国人英语的使用者分配到低声望的工作，在假设的刑事案件中更频繁地定罪，并且当死刑是选项时更频繁地建议死刑。
芝加哥大学语言学助理教授Sharese King表示，这些发现并没有让她感到乐观。
"如果我们继续忽视人工智能作为一个可能产生种族主义的领域，那么我们将继续延续对非裔美国人的刻板印象和伤害，"她说。
这对青少年心理健康的影响可能很重大，因为许多黑人青少年以某种形式的非洲裔美国人英语进行交流。如果他们信任的、用于抑郁、焦虑或个人危机建议的聊天机器人因他们的说话方式而无意识地做出不同回应，那么所提供的帮助本身可能就带有偏见。
在黑人青少年中，使用人工智能获取心理健康支持似乎因性别而异。
黑人 teenage girls更可能使用聊天机器人来应对焦虑、抑郁和关系压力。研究人员表示，黑人 teenage boys通常不太愿意透露情感困扰，但当他们确实转向聊天机器人时，他们可能已经处于急性 distress状态。
Grewal表示，非裔美国人日益依赖人工智能获取心理健康支持令人担忧。
"黑人成年人使用这些工具的频率已经是白人成年人的近两倍，这意味着心理健康系统服务最不足的人群也最容易受到那些并非为帮助他们而设计的人工智能的影响，"他说。
这篇文章最初发表于Word In Black。
【全文结束】