将ChatGPT视为全知专家的隐藏风险The hidden dangers of treating ChatGPT like an all-knowing expert - VnExpress International

环球医讯 / AI与医疗健康来源:e.vnexpress.net越南 - 英语2025-12-25 22:43:26 - 阅读时长4分钟 - 1645字
本文深入剖析了公众将ChatGPT等AI工具误当作全知专家的潜在危害,通过越南65岁患者涂霞因腹痛轻信AI建议延误治疗导致胃出血、45岁河内市民范行拒绝地产商合理报价坚持AI估值、以及15岁学生佳保滥用AI完成作业却考试垫底等典型案例,系统揭示了AI在医疗诊断准确率仅49%、缺乏伦理判断及多维分析能力等核心缺陷。专家警告,尽管AI凭借24小时可用性和免费优势吸引全球2亿用户,但其机械处理未验证数据的特性已引发多起健康事故,如英国患者因溴化钠替代食盐导致中毒事件,强调必须建立严格信息核查机制,引导用户将AI定位为"人类发展跳板"而非"依赖拐杖",尤其在教育领域需防止知识断层与批判性思维退化。
健康ChatGPT医疗诊断盲目信任AIAI健康风险医疗专家替代AI诊断错误胃出血溴中毒糖尿病停药高脂血症草药风险医学专家警告AI实践推理缺失伦理判断不足健康咨询依赖AI
将ChatGPT视为全知专家的隐藏风险

65岁的涂霞出现喉咙痛和咳嗽时,向ChatGPT寻求诊断,坚信其"比医生更客观全面"。她于2024年中被子女安装该应用后,最初仅用于查询食谱和写诗,逐渐将AI视为"全知专家"。

她很快发现AI具备疾病诊断能力。起初会验证诊断结果,但最终完全信任并取代了医生。"医生只是问症状就开药,"她向担忧的子女解释,"用ChatGPT更快捷,省去跑医院的麻烦。"

但当她下腹部剧痛时,ChatGPT建议"可能由压力或轻微消化问题引起",推荐饮用温水和涂抹舒缓油。疼痛持续后就医,方知是胃出血。她仍坚持认为:"AI出错罕见,医生诊断也不总准确。"

这种对AI的盲目信任不限于医疗领域。45岁的河内市民范行称ChatGPT为"百科全书",从汽车价格到房产咨询均依赖它。当AI建议以10亿越南盾(约合3.79万美元)购买城郊100平方米地块时,他拒绝与要价18亿越南盾的卖家协商。卖家嘲讽道:"何不让它替你买?"范行却坚称AI正确,卖家漫天要价。

范行15岁的儿子佳保最初用ChatGPT解题,后扩展至全部作业。"它比家教更好,"佳保说,"过去花一整天的作文现在只需一分钟。"

手机上的AI聊天应用

数字转型专家丁玉山指出,AI通过自动化任务深刻改变人类生活方式,但这种便利使许多人误以为AI可替代人类专家。近期一张用ChatGPT生成处方购药的照片疯传并引发热议。"从导航到健康咨询,AI已无处不在,"丁玉山表示,其流行源于减负需求和技术基础设施的快速发展。

科技专家郑忠和认为,AI吸引力在于24小时可用、免费及便捷。"经济困难时期,免费解答任何问题的工具自然更受欢迎,"他说,"而预约专家既耗时又昂贵。"

他补充,对"过于琐碎或敏感问题"不愿求助专家的心理也推动用户转向AI。OpenAI报告显示,全球超2亿人每周使用ChatGPT。数据智能研究公司Sensor Tower指出,2025年上半年越南用户通过75亿次会话,累计使用生成式AI应用达2.83亿小时。

然而便利伴随风险。郑忠和强调,AI优势在于快速聚合信息,但缺陷是"无法辨别对错或进行多维判断"。AI机械处理数据且常基于未验证来源,因此应用始终附带"可能出错"的免责声明。

国际医学专家警告,AI缺乏实践推理能力,无法替代医生的灵活性与伦理判断。医学期刊《PLOS One》研究显示,ChatGPT医疗诊断准确率仅49%。医院报告显示多起患者因遵循AI建议入院案例。《内科学年鉴》4月刊载英国60岁患者案例,其按ChatGPT建议用溴化钠替代食盐导致溴中毒。

在越南,胡志明市嘉安115医院收治一名42岁女性,她因听信AI建议停用糖尿病药物,致血糖飙升险些昏迷。另一名38岁高脂血症患者放弃他汀类药物改用网络推荐的草药疗法,引发冠状动脉狭窄。

专家还担忧AI在教育领域的滥用。网络安全专家武明辉(Hieu PC)指出,学生将AI当作"作业工具"而非"教学助手",导致知识断层并长期削弱批判性思维。佳保的案例印证了这点:虽用ChatGPT提升作业成绩,但考试成绩始终班级垫底。"老师说儿子现是班里最差学生,"范行坦言。

为避免依赖AI,郑忠和建议用户设定明确界限并主动验证信息源。"学生可参考AI学习解题方法,但不应抄袭答案,需家庭和学校监督。"

丁玉山强调,问题不在技术本身,而在使用方式。

"若用于自我发展,AI是绝佳助手;若滥用,我们将丧失主动性。AI应是'人类发展的跳板',而非'依赖的拐杖'。"

【全文结束】

猜你喜欢
  • AI会成为医学的新操作系统吗?AI会成为医学的新操作系统吗?
  • 英国神经学家致力于预防可避免的失明原因英国神经学家致力于预防可避免的失明原因
  • 新奥尔良医生深耕血管健康35载 最重要心得揭晓新奥尔良医生深耕血管健康35载 最重要心得揭晓
  • 人工智能在医疗保健中的机遇与挑战:乔治城大学专题小组探讨未来走向人工智能在医疗保健中的机遇与挑战:乔治城大学专题小组探讨未来走向
  • 科里·富兰克林:医疗保健的AI自动化对患者意味着什么科里·富兰克林:医疗保健的AI自动化对患者意味着什么
  • 医疗AI的必然要求:从潜力到绩效医疗AI的必然要求:从潜力到绩效
  • 加速推进AI医疗技术创新加速推进AI医疗技术创新
  • 新型AI工具不仅能识别基因突变,还能预测其可能导致的疾病新型AI工具不仅能识别基因突变,还能预测其可能导致的疾病
  • 医疗AI焦点从诊断转向工作流程优化医疗AI焦点从诊断转向工作流程优化
  • 2026年Meditech即将推出的新功能2026年Meditech即将推出的新功能
热点资讯
全站热点
全站热文