一项新的研究发现，家长们更倾向于信任ChatGPT提供的医疗建议，而不是真正的医生和护士。堪萨斯大学的研究人员还发现，家长们认为AI生成的文本是可信、值得信赖和道德的。
“当我们开始这项研究时，正值ChatGPT刚刚推出，我们对家长们如何使用这种新的、简便的方法来收集孩子的健康信息表示担忧，”主要作者兼博士生Calissa Leslie-Miller在一份声明中说，“家长们经常上网寻求建议，因此我们想了解使用ChatGPT的情况以及我们应该担心什么。”
为了得出这些结论，Leslie-Miller及其同事对116名年龄在18至65岁之间的家长进行了研究。该研究于本月早些时候发表在《儿科心理学杂志》上。参与者被提供了与健康相关的文本，审查由医疗保健专业人士和OpenAI聊天机器人ChatGPT生成的内容。他们被告知不要知道这些文本是由谁或什么生成的。他们被要求根据五个标准对这些文本进行评分——感知的道德性、可信度、专业知识、准确性以及他们依赖这些信息的可能性。
在许多情况下，家长们无法分辨哪些内容是由ChatGPT生成的，哪些是由专家生成的。当评分存在显著差异时，ChatGPT被评定为比专家生成的内容更值得信赖、准确和可靠。
“这一结果让我们感到惊讶，特别是因为这项研究是在ChatGPT可用的早期阶段进行的，”Leslie-Miller说，“我们开始看到AI正在以一些不那么明显的方式被整合，人们甚至可能没有意识到他们阅读的是AI生成的文本还是专家内容。”
ChatGPT于2022年11月发布。周四，OpenAI宣布在其聊天框中添加了一个搜索引擎，称为ChatGPT搜索。目前，ChatGPT拥有超过2.5亿活跃月用户。
尽管ChatGPT在许多场景中表现出色，可以成为一个有益的工具，但该AI模型也有可能生成错误的信息。它并不是专家。用户需要谨慎行事。
“在研究过程中，某些早期版本的AI输出包含了错误信息，”Leslie-Miller说，“这令人担忧，因为众所周知，像ChatGPT这样的AI工具容易出现‘幻觉’——即系统因缺乏足够上下文而产生的错误。”
“在儿童健康领域，后果可能是严重的，因此我们必须解决这个问题，”她说，“我们担心人们可能会越来越多地依赖AI来获取健康建议，而没有适当的专家监督。”
(全文结束)
