人工智能在医疗保健中可能存在的危险:研究敦促谨慎使用
牛津大学的一项研究警告称,未经监管的人工智能聊天机器人可能在医疗保健领域引发严重伦理问题,迫切需要加强数据隐私保护措施。研究发现部分护理提供者正使用ChatGPT等生成式AI工具为患者制定护理计划,这可能导致医疗专业人员依据误导性、不准确或有偏见的信息采取行动,进而造成实质性伤害。文章强调在医疗环境中保护患者敏感数据的极端重要性,建议将AI作为"副驾驶"而非决策主体使用,同时指出AI健康预测模型因训练数据局限而产生的偏见问题可能导致基于种族、性别和性取向的歧视,最终需要在充分发挥AI改善患者治疗的巨大潜力与有效管理错误风险、网络安全威胁及隐私担忧之间取得平衡。

