人工智能无法捕捉一切„Die KI erfasst nicht alles“ | SALTO

环球医讯 / AI与医疗健康来源:salto.bz意大利 - 德语2026-08-27 10:29:17 - 阅读时长5分钟 - 2447字
科学家Sally Wyatt在访谈中阐述了人工智能在医学领域的应用与风险,强调AI无法替代人类判断。她指出当前AI主要用于行政工作,如预约和记录总结,但存在数据隐私、责任归属、过度依赖等问题。她警告说,AI在心理健康领域的使用可能带来危险,且数据往往被私人公司控制,如英国NHS与Palantir的合同引发争议。她认为AI不能准确感知患者的情绪或疼痛,也无法提供真正个性化服务。未来五年内AI可能更广泛应用,但需谨慎评估其适用场景。
健康人工智能医学数据心理健康医患关系患者参与医疗保健监管隐私责任测量数值疾病诊断治疗医生患者
人工智能无法捕捉一切

SALTO:Wyatt女士,您的研究关注数字技术如何塑造我们的日常生活。目前人工智能如何改变我们对健康的理解?

Sally Wyatt: 我们今天能够测量的东西——与30或100年前相比——当然改变了我们对健康的看法。我认为,尽管我们拥有更多数据,但存在一种风险,即我们对健康和疾病的理解反而变得更加狭隘。我们获得了对某些方面的额外洞察,但这并不一定反映我们作为个体的感受。在某种程度上,这类似于遗传学:我们能看到和能捕捉到的东西被解释为健康或疾病。然而,人体极其复杂,作为个体的人也是多层面的。因此,健康涵盖的不仅仅是可测量的数值。

“健康涵盖的不仅仅是可测量的数值。”

您认为人工智能在医学中最大的优势是什么?

目前,最大的优势其实在于行政领域。现在,除了例如预约安排之外,医学中很少使用人工智能应用。一些家庭医生已经开始使用AI来总结与患者的对话:系统记录对话并自动进行总结。这无疑节省了大量时间,对于经常超负荷工作的家庭医生来说是一个积极方面。但AI无法捕捉一切:例如,识别出某人非常犹豫、开始哭泣或因疼痛而畏缩。而真正的医生却能。

您认为关于医学中人工智能的哪些常见说法是有问题或误导性的?

认为它比人类更精确,以及它能提供个性化结果。

您认为哪些医学领域不应使用人工智能——即使在未来也不应?

我主要想到的是心理健康领域。尽管AI已经在这一领域被使用——至少是非正式地。有些人会使用ChatGPT来回答个人问题。尤其是在心理问题上,这可能有潜在危险。AI在与人类直接互动时反复出现有问题的倾向,例如表现出种族主义或性别歧视行为。因此,在心理健康方面应非常谨慎,因为这主要涉及人际过程。

“有些医生可能根本不会使用AI,因为他们不够了解它,无法信任它。”

人工智能如何改变医疗人员的工作——或者未来将如何改变?

许多医疗工作者感到担忧,因为他们没有接受过AI培训。同时,他们有责任回答患者的问题,这让他们感到不安。这可能会改变医患关系——不一定变得更好。有些医生可能根本不会使用AI,因为他们不够了解它,无法信任它。此外,责任归属完全不清楚。这些技术由私人公司开发,然后出售给医院或医疗系统。如果出了问题,谁来承担责任?这个新参与者引发了关于责任和问责的复杂问题,这在保险系统中尤其重要。

在人工智能驱动的医疗系统中,健康数据归谁所有?

这是一个非常重要的问题,目前非常不明确。从历史上看,健康数据以纸质形式保存在医生诊所或医院。如今,许多这些数据由私人公司持有。医院和医疗系统可以访问,但如果要确切了解谁在控制这些数据,就必须仔细阅读细则。一个最近的例子是英国国家医疗服务体系(NHS)与Palantir公司之间的合同。Palantir是一家美国软件公司,专注于数据分析,由Peter Thiel共同创立。该软件可以整合来自不同来源的大量个人数据,批评者经常将其描述为创建详细个人档案。英国医学协会表示,他们不希望参与这份合同,因为他们认为这会危及患者安全和隐私。最近有报道称,正在考虑退出该合同——但这将非常昂贵。我不明白为什么要把如此敏感的数据交给像Palantir这样的公司。

所有这些数据实际上是否有助于健康——还是相反?

这很难一概而论。我曾与1型糖尿病患者交谈过——对他们来说,自我监测可能非常有帮助,例如知道何时需要摄入糖分或注射胰岛素。其他人则报告说,这让他们变得强迫或过度焦虑。

医疗数据在数字系统中的安全性如何?

安全性在很大程度上取决于数据存储在哪里。它们是否存储在私人公司的云中?是否属于微软这样的公司?如果政治决策产生影响——例如,如果像唐纳德·特朗普这样的政治决策者下令“关闭意大利的健康数据”——会发生什么?即使医院或医生可以访问这些数据,责任归属也常常不明确。此外,黑客攻击是一个真实的风险,因为他们可能获取这些敏感信息。同时,有充分的理由让医疗人员共享重要数据,例如检查药物相互作用。

在欧洲,人工智能在医疗保健中的使用是否比美国监管得更严格?

总体上是,尽管存在波动。欧盟委员会试图加强对AI的监管。然而,来自美国的压力也很大,因为许多大型科技公司位于那里。它们将监管视为对自由市场的干预或对竞争的限制。至少这是它们的论点。因此,虽然有努力开发负责任的AI,但其实际实施情况如何仍有待观察。

“在涉及数据的问题上,患者的参与尤其重要。”

人工智能将如何改变医患关系?

这有待观察。AI的使用常被描述为“赋权”给患者,但在极其复杂或危及生命的情况下,这几乎不现实。在不太关键的情况下,当人们有时间做决定时,AI可能有用——但并非在所有情况下,尤其是在生命终结时。

谁从医疗保健中的人工智能中获益最多?

目前,我会说是科技公司。也许长期来看,医疗系统也会受益,因为许多欧洲国家的医疗系统面临压力——例如人口老龄化和需求增长。但这还有待观察。

患者是否应该参与医疗保健中人工智能的开发?

是的,但这并不容易。芬兰有一个例子,一个患者组织为子宫内膜异位症女性开发了一款非商业应用。有时,参与也更多是象征性的——可以说是“患者洗白”,如果你愿意这么说的话。他们与少数患者交谈,但调查的方式和参与患者的数量会极大地影响结果。我认为,医生也应该更多地参与。在涉及数据的问题上,患者的参与尤其重要。

“可能至少还需要五年时间,AI才会在医学中更广泛地应用。”

未来医疗保健中人工智能的使用应如何发展?

与任何技术一样,应该花时间尝试,看看哪些有效,哪些无效——以及在什么情境下有效。急诊科的工作方式与外科部门或全科诊所完全不同。因此,必须非常仔细地观察:哪种类型的AI适合什么问题,适合哪些用户。

人工智能何时会在医疗保健中更广泛地普及?

我不想像AI研究员Geoffrey Hinton那样做出预测,他在2016年说可以停止培训放射科医生了,因为AI将在五年内接管。当然,我们今天仍然在培训人类放射科医生(笑)。我会说:可能至少还需要五年时间。

【全文结束】

猜你喜欢
  • AI新突破或改变罕见病诊断的漫长求索AI新突破或改变罕见病诊断的漫长求索
  • SMART-DECISION试验:稳定性心肌梗死后患者停用β受体阻滞剂安全SMART-DECISION试验:稳定性心肌梗死后患者停用β受体阻滞剂安全
  • 2026年AI医疗分诊有多准确?研究显示2026年AI医疗分诊有多准确?研究显示
  • 为修复患者不规则心跳,医生首先测试其数字“孪生”为修复患者不规则心跳,医生首先测试其数字“孪生”
  • 为什么2026年是人工智能成为药物研发合作伙伴而非单纯处理器的一年为什么2026年是人工智能成为药物研发合作伙伴而非单纯处理器的一年
  • 人工智能在医疗保健中的风险与收益人工智能在医疗保健中的风险与收益
  • 人工智能在医疗健康领域的应用:优势、使用案例与实际应用(2026年)人工智能在医疗健康领域的应用:优势、使用案例与实际应用(2026年)
  • 为修复患者心律不齐,医生首先测试其数字“孪生”为修复患者心律不齐,医生首先测试其数字“孪生”
  • 50年前,凯伦·安·奎兰的昏迷引发了临终患者权利运动50年前,凯伦·安·奎兰的昏迷引发了临终患者权利运动
  • PRO-TAVI研究:将PCI推迟至TAVI术后安全且减少出血PRO-TAVI研究:将PCI推迟至TAVI术后安全且减少出血
热点资讯
全站热点
全站热文