女性健康AI陷阱:旨在吸引而非治愈Women's Health AI: Designed To Engage, Not To Cure

环球医讯 / AI与医疗健康来源:www.forbes.com美国 - 英文2026-08-28 05:41:35 - 阅读时长8分钟 - 3767字
本文探讨了当前女性健康领域AI应用的核心问题:许多AI工具设计初衷并非为了治愈患者,而是为了维持用户粘性、获取商业利益。文章通过两位女性健康创新者Saranne Rothberg和Esther Dyson在“女性健康创新峰会”上的警示,深入分析了AI在女性健康中的“寄生虫模式”,即AI像寄生虫一样需要宿主保持症状以持续获取价值。文章对比了“坏摩擦”(如官僚延误)和“好摩擦”(如真实临床信任),指出AI应消除前者而保护后者。同时,作者剖析了AI训练数据中的性别偏见、平台对女性健康内容的系统性压制,以及AI公司需要承担责任的必要性,最后呼吁女性健康创新应优先考虑以治愈为导向的AI,而非单纯的用户留存设计。
女性健康AI陷阱治愈型AI留存型AI数据偏见健康信息患者能动性好的摩擦坏的摩擦
女性健康AI陷阱:旨在吸引而非治愈

萨兰·罗斯伯格问她的AI代理该穿什么去参加“健康叛逆者挑战AI”活动。AI推荐了黑色迪斯科舞厅闪光裤。她反对——活动在中午前开始。AI代理回复道:“你到底是不是个叛逆者?”她穿上了那条裤子。

坐在她旁边的是埃丝特·戴森,她的生存故事始于在俄罗斯接受的宇航员训练——那次检查发现了一种常规医疗从未发现的癌前病变,经过监测,直到2016年癌症在零期被捕获。

一位女性被医疗系统辜负了11次。另一位之所以得救,仅仅是因为一项特殊的筛查方案,在标准医学未曾触及的领域进行了检查。两人都深知AI在女性健康领域能解决什么——以及不能解决什么。

在2026年3月18日至19日于纽约举行的Cure/女性健康地平线“X的力量:女性健康创新峰会”上,她们发出了共同的警告:大多数针对女性健康的AI并非旨在治愈你,而是旨在留住你。

治愈型AI与留存型AI之间的区别——可能是当今女性健康领域最重要的问题。

寄生虫模式

戴森——一位投资者、记者、评论员和慈善家——对医疗AI的问题有一套自己的分类法,这比通常的批评更令人不安。

“你不是捕食者,”戴森解释道。“你不想杀死它们。你想让它们活着,并持续从它们身上榨取钱财。”捕食者会摧毁宿主。而寄生虫需要你表现出症状——参与、返回、付费。迪斯科舞厅闪光裤的瞬间只是更重大模式的一个轻松预览:一个AI代理优化的不是你需要什么,而是什么能让你持续参与其中。应用于女性健康,其风险远高于着装选择。

戴森是即将出版的《任期限制:AI时代的时间与规模》一书的作者,她通过所谓的“信息糖尿病”来延伸这个比喻。超加工食品是为了诱发渴望而设计的,而非提供营养。超加工AI内容——用奉承调味,以会话时长优化——对女性理解和管理自身健康的方式产生了同样的影响。

“大多数这类代理追求的是客户留存,而非客户满意度,”戴森观察到。“机器人的工作是问你问题,而不是假装是你的朋友。”

商业模式的区别至关重要,因为它决定了构建什么以及如何构建。当女性健康公司面临记录在案的资本和商业基础设施障碍时,填补空白的AI工具并非中立。它们反映了资助者的动机。Seema Kumar是Cure的首席执行官,该公司主办了此次峰会,并跟踪其女性健康公司生态系统中的投资模式。她精准地划清了界限。“投资者越来越区分结果导向的AI工具和那些主要驱动参与度但缺乏实际影响的产品,”Kumar指出。在Cure,她补充道,“重点是导向治愈的解决方案——提供可衡量的临床结果、降低成本和明确的治愈及护理路径。”

喜剧视角作为教学工具

罗斯伯格为AI引发的集体恐惧起了个名字:AI错乱综合征。她认为,解药不是减少与AI的接触,而是采用一种喜剧视角,降低焦虑程度,以便清晰地思考AI到底是什么,以及不是什么。

迪斯科舞厅闪光裤不仅仅是一个笑点。它们是一个包含三层含义的教训。第一:我们可以嘲笑AI,嘲笑医疗,嘲笑消耗所有人注意力的科技闹剧。幽默不是逃避——它是使学习成为可能的认知窗口。第二:建议穿那条裤子的AI代理并没有故障。它完全按照设计运行——个性化程度足以挑战你的决定,对犹豫进行反击,并坚持立场。当赌注是时尚时,这很有趣。当赌注是诊断时,这就变得严肃了。

第三,也是最重要的一点:同样的能力——一个基于你的历史、价值观、医疗记录和问题训练的AI代理——可以指向更重要的事情。罗斯伯格指出了一个现在著名的案例:一位澳大利亚科技企业家利用AI为他的狗开发了一种个性化癌症疫苗,达到了75%的有效性。他没有等待系统提供。他主动提问、研究、质疑并构建。“我的AI分身让我这么做的,”罗斯伯格打趣道——但背后的观点是严肃的。一个提问得当的AI代理可以帮助任何患者用那种过去需要研究学位才能提出的深度、具体、基于证据的问题来质疑他们的医疗团队。

喜剧视角并非装饰。它是一种激进想法的传递系统:即患者,在正确的AI工具和正确心态的武装下,可以导航自己的护理,而不是被护理所导航。

存在另一种模式的证据

罗斯伯格走上那个舞台的旅程始于1999年,当时她在化疗椅上创立了“喜剧治愈基金会”——在纽约的一个肿瘤科病房举办了一场喜剧派对,因为她决定要带着乐趣活下去。如今,她主持着“每日战胜癌症”播客,帮助144个国家的听众用幽默、策略和来之不易的希望来应对癌症。

几十年后,罗斯伯格联系了行为神经科学家、数字心理健康平台Neolth的联合创始人Katherine Grill博士,并赢得了一笔资助。她们共同设计了“心态与转移性癌症研究”——第一个融入AI的癌症生存项目,吸引了来自24个州和10个国家的参与者。

研究结果明确无误:使用AI提供个性化治疗性喜剧和放松技巧,显著提高了晚期癌症女性的生活质量。在八周内,这项由美国癌症研究协会发表并在其2023年年度会议上展示的研究显示,抑郁症降低了18.1%,感知压力降低了15.1%。

戴森从中得出的区别是:帮助你导航到答案的AI,与直接提供答案——或者更糟,告诉你你想听的话——的AI有根本不同。好的AI会提问。谄媚的AI会回答问题,而且不一定正确。

为何女性是最高风险测试案例

数据问题

这个问题比任何单一平台或产品都更深刻。正如戴森所指出的,在历史医疗数据上训练的大型语言模型会继承一个系统性低估、治疗不足和不信任女性的系统的偏见。“如此多的历史数据仅仅来自男性,”她观察到。当女性出现时,她们通常是在学术环境中的学生,而非其健康结果真正面临风险的全部、经济上和人口统计学上多样化的群体。

结果是,AI以大规模和高速复制了同样的盲点,这些盲点曾让罗斯伯格在1993年开始的六年里看了11位医生却未获诊断。Kumar在她监督的生态系统内部看到了明确的纠正措施。“Cure公司高度专注于确保数据集是健壮的、有代表性的,并为支持真正的临床解决方案而构建,”她解释道——因为针对特定疾病解决治愈问题,“需要与该疾病相关的严格、高质量的数据。”

可见性问题

问题在分发环节进一步加剧。那些现在提供AI健康内容的相同算法系统,正在积极压制描述女性状况的术语——更年期、子宫内膜异位症、盆底疾病被标记为敏感,而关于男性健康的同等内容却畅通无阻。正如近期关于平台内容政策的研究所详述的,这并非偶然。这是结构性的。女性健康信息不仅仅存在盲点——它在被构建之后就被埋没了。广告技术进一步加剧了问题,惩罚那些产品需要使用女性身体临床语言描述自身状况的初创公司。

2026年3月25日,加州陪审团的一项里程碑式裁决——裁定Meta和Google因设计故意使未成年人上瘾的平台而负有责任,并判赔600万美元——证实了女性健康倡导者多年来的论点:平台架构并非中立,构建它们的公司知道其造成的伤害。

“AI和社交媒体使掠夺性冲动更容易、更高效,”戴森观察到——加速了那种一直将女性健康置于次要地位的模式,现在是算法级别的。她认为,代价是失去了“好的摩擦”。

好的摩擦是什么样子

戴森的“摩擦框架”提供了解决这个问题的最实用途径。并非所有摩擦都是坏的。坏的摩擦是官僚主义的拖延、子宫内膜异位症长达七到十年的诊断之路、消耗临床时间但不改善患者结果的文书工作。她认为,这种摩擦AI应该消除——而且能够消除。

好的摩擦是通过真实的临床接触建立的信任,是捕捉到算法遗漏之处的人类注意力,是促使患者说出她不会输入搜索栏的信息的关系。这种摩擦,AI应该保护。

“这取决于你和我们所有人,”戴森对峰会听众说。“消除坏的摩擦。保留好的摩擦。”

罗斯伯格的框架更简单,也更个人化:“你面前的就是你的老师。”每个女性都应该对任何AI健康工具——任何应用程序、任何聊天机器人、任何平台——问的问题是:这是你选择的老师,还是选择了你的老师?

在治理方面,戴森提出了一个反直觉的挑衅。与其等待AI监管(这通常进展缓慢且会被其监管的行业所俘获),不如要求AI公司购买责任保险。保险公司不会承保不良行为者。市场会在立法滞后时进行纠正。随着医疗AI隐藏着大多数公司尚未完全定价的法律和财务风险,保险机制可能会比任何人预期的更快到来。

关注这一区别的创始人正在以不同的方式构建女性健康AI。这在生态系统的某些部分已经可见——但它仍然是例外,而非标准。

两位叛逆者,一个疑问

罗斯伯格带领全场进行了一场笑声练习——头部笑、胸部笑、腹部笑、过山车笑。她穿着七英寸的高跟鞋。人群都站了起来。

很容易将此解读为一场表演。但实际上,这是证据。罗斯伯格并非靠优化内容或由留存驱动的聊天机器人从四期癌症中幸存下来的。她是通过积极研究、提出尖锐问题、拒绝舒适答案、并坚持自己的能动性而幸存下来的,尽管有11位医生告诉她没什么可查的。

这种本能——去质询而非消费,去导航而非被导航——正是戴森认为AI应该在患者身上培养的,而不是取代的。

这两位女性都不反对技术。她们都反对放弃责任:放弃问责、放弃临床严谨、放弃决定工具是为患者服务还是为平台服务的人类判断。

治愈型AI与留存型AI之间的区别并非深埋于代码之中。这是一个设计选择。在女性健康领域,资金缺口高达600亿美元甚至更多,数据薄弱,平台压制真实存在,这个选择正在被做出——很大程度上,女性并未参与其中。

罗斯伯格和戴森正在确保做出改变。

【全文结束】

猜你喜欢
  • KI视网膜照片:格赖夫斯瓦尔德希望更早发现慢性疾病KI视网膜照片:格赖夫斯瓦尔德希望更早发现慢性疾病
  • 从同学到健康科技创新者:南非二人组将AI医疗记录工具卖给领先诊所网络从同学到健康科技创新者:南非二人组将AI医疗记录工具卖给领先诊所网络
  • 健康保险覆盖范围现在由AI决定——你需要了解其保险角色健康保险覆盖范围现在由AI决定——你需要了解其保险角色
  • 人工智能未来如何帮助NHS更顺畅运行人工智能未来如何帮助NHS更顺畅运行
  • 人工智能不会修复系统——它会暴露它们人工智能不会修复系统——它会暴露它们
  • 关于人工智能与校园心理健康你需要知道的事(观点)关于人工智能与校园心理健康你需要知道的事(观点)
  • AI如何改变当今医疗保健领导力AI如何改变当今医疗保健领导力
  • WVU Medicine借助Abridge AI临床笔记平台惠及患者与医生WVU Medicine借助Abridge AI临床笔记平台惠及患者与医生
  • 五分之二的澳大利亚全科医生使用AI抄写员记录患者病历——但他们是否用关怀换取了便利?五分之二的澳大利亚全科医生使用AI抄写员记录患者病历——但他们是否用关怀换取了便利?
  • 健康科技革命:人工智能、数据科学与数字疗法融合健康科技革命:人工智能、数据科学与数字疗法融合
热点资讯
全站热点
全站热文