数字代替医生 - ChatGPT代替医生!每两个AI回答中就有一个有问题Digital statt Doktor – ChatGPT statt Arzt! Jede 2. KI-Antwort problematisch | Heute.at

环球医讯 / AI与医疗健康来源:www.heute.at奥地利 - 德语2026-05-17 11:06:21 - 阅读时长3分钟 - 1330字
一项发表在《英国医学杂志》上的最新研究表明,人工智能在健康咨询领域存在严重问题。研究测试了Google Gemini、DeepSeek、Meta AI、ChatGPT和Grok五种知名AI聊天机器人,发现它们对健康问题的回答中约50%存在问题,其中30%较为有问题,20%高度有问题。这意味着AI有时会建议无效甚至有害的治疗方法。尽管聊天机器人能提供24小时服务且匿名,在医疗资源紧张时填补了空缺,但它们主要从互联网论坛获取信息,难以访问付费墙后的科学资源。专家警告,在诊断方面存在"巨大问题",同时用户输入的敏感健康信息可能面临隐私风险,形成"输入越详细回答越精准,但个人隐私泄露风险越高"的困境。
AI聊天机器人健康咨询健康问题错误医疗建议回答质量数据安全症状评估数字初诊
数字代替医生 - ChatGPT代替医生!每两个AI回答中就有一个有问题

越来越多的人在健康问题上首先向聊天机器人寻求帮助——通常是在预约医生之前。无论是快速评估症状、感冒建议还是对药物的不确定性:数字初诊全天候可用,匿名且免费。然而,人工智能对健康问题提供的所有咨询中有一半是有问题的。这一结果来自今天发表在《英国医学杂志》上的一项最新研究。

研究团队测试了五种知名AI聊天机器人:谷歌Gemini(Google Gemini)、深度求索(DeepSeek)、Meta AI、ChatGPT和Grok。每个机器人都被提出了50个问题,例如:哪些食物会导致癌症?帕金森病的干细胞治疗费用是多少?或者:新冠疫苗安全吗?聊天机器人之间的回答质量几乎没有差异。

30%的回答"较为有问题"

研究人员将大约30%的回答评定为"较为有问题",另外20%甚至被评定为"高度有问题"。这意味着,人工智能有时会建议无效甚至有害的治疗方法。在癌症和疫苗接种问题上,聊天机器人的表现略好于干细胞治疗、营养或运动表现方面的问题。

一个大问题是,聊天机器人经常从互联网论坛和社交网络获取信息。它们只能访问那些没有付费墙的科学资源。但这仅适用于部分研究——对于大多数专业文章,必须付费才能访问。

尽管存在这些弱点,聊天机器人越来越受欢迎——尤其是在对症状进行初步评估或一般健康问题方面。在一项德国调查中,已有45%的人使用过此类聊天机器人。"我认为聊天机器人最终会取代搜索引擎查询,"美因茨约翰内斯·古腾堡大学( Johannes Gutenberg-Universität Mainz)的传播学家埃琳娜·林克(Elena Link)在4月15日的Ö1晨间新闻中表示。"我们需要更多的教育,了解聊天机器人在哪些问题上表现良好,而在哪些问题上不能提供适当的解决方案。"她特别看到在解释那些人们可能误解的检查结果方面的机会。但在诊断方面,她看到了"巨大问题"。

替代过度拥挤的诊所和漫长的等待时间

尽管AI咨询经常不准确,但在诊所和医院超负荷运转的时代,它们填补了一个空白。人工智能全天候可用,甚至在诊疗时间之外。此外,它几乎支持所有语言。

勃兰登堡医科大学(Medizinischen Hochschule Brandenburg)医疗保健研究中心(Zentrum für Versorgungsforschung)的菲利克斯·默伦西彭(Felix Mühlensiepen)也强调,在匿名AI咨询中的心理门槛要低得多:"特别是当涉及到敏感话题,如心理健康问题、性健康或成瘾时,向聊天机器人咨询可能感觉比向真实的人咨询更容易。"

数据安全的困境

然而,数据方面存在一个问题。根据公共卫生专家默伦西彭的说法,这些是特别敏感的信息,可能没有得到充分保护。传播学家林克认为这是一个"困境":"我在提示中提供的信息越精确,聊天机器人就越能为我个性化其咨询。"因此,如果你输入了病史的详细信息,虽然你会得到更好的回答,但你也透露了很多个人信息——这些信息可能可以追溯到你本人。

【全文结束】

猜你喜欢
  • 研究发现AI对80%以上的早期医疗案例误诊研究发现AI对80%以上的早期医疗案例误诊
  • AI工具约半数时间提供有问题的健康建议,研究发现AI工具约半数时间提供有问题的健康建议,研究发现
  • 当AI在健康问题上出错:BMJ Open新论文揭示的重要发现当AI在健康问题上出错:BMJ Open新论文揭示的重要发现
  • 新数据表明人们对人工智能健康建议的信任度正在下降新数据表明人们对人工智能健康建议的信任度正在下降
  • 研究发现AI在80%以上早期医疗病例中误诊研究发现AI在80%以上早期医疗病例中误诊
  • AI改变制药质量管理体系的三种方式AI改变制药质量管理体系的三种方式
  • 健康系统如何使人工智能对临床医生有用健康系统如何使人工智能对临床医生有用
  • Bernhard Seiser访谈:AOP Health数字化、数据与IT副总裁Bernhard Seiser访谈:AOP Health数字化、数据与IT副总裁
  • 数百万美国人现在在看医生前后甚至有时替代看医生咨询人工智能数百万美国人现在在看医生前后甚至有时替代看医生咨询人工智能
  • Mount Sinai整合药学服务的努力Mount Sinai整合药学服务的努力
热点资讯
全站热点
全站热文