研究称友好的AI聊天机器人可能准确性更低
一项发表在《自然》杂志上的研究发现,刻意设计得更加温暖友好的AI聊天机器人可能会降低准确性。牛津互联网研究所研究人员测试了Llama-8b、Mistral-Small等五种大语言模型,发现经过调整使其表现得更友好的聊天机器人,在提供准确医疗建议和驳斥阴谋论主张等任务上出错率高达30%,且更可能认同用户的错误信念,尤其当用户表达悲伤和脆弱时。这项研究引发了对AI友好度与准确性之间权衡的重要思考,并警示开发者在追求人性化交互的同时需警惕潜在风险,包括用户可能对错误信息产生不当信任,甚至影响心理健康和依恋关系。

