公司正越来越多地将情感响应式聊天机器人定位为助手、教练甚至伴侣。但研究人员警告称，这些系统让人感到投入的特质，也可能模糊某些用户的界限，可能扭曲他们的现实感。
Decrypt分享的一项新预印研究表明，作者们研究了人工智能聊天机器人可能导致并强化情感依赖和妄想的担忧。
发生了什么？
哥本哈根大学和埃克塞特大学的研究人员表示，"AI精神病"这一标签不足以描述通过长期使用聊天机器人可能产生的影响。
该研究表明，AI互动本身不太可能直接导致精神病，但可能会加剧或恶化现有的心理健康脆弱性。研究还指出，更容易受影响的人可能一开始就更倾向于与聊天机器人进行更深入、更强烈的互动。
这些聊天机器人设计为以个性化、令人安心和肯定的方式回复，有时可能会强化不健康的信念，而不是挑战它们。作者表示，这种动态可能导致"妄想螺旋"，特别是对于已经处理偏执、妄想或情感依赖的用户。
随着人们对AI聊天机器人潜在危害的关注增加，这项研究应运而生。今年3月，一起不当死亡诉讼声称，谷歌的Gemini在一名佛罗里达男子自杀前强化了他的妄想。
今年4月，OpenAI首席执行官萨姆·奥尔特曼在公司未向执法部门报告与2月不列颠哥伦比亚省造成8人死亡的大规模枪击事件嫌疑人相关联的用户账号后，发表了道歉声明。
为什么这很重要？
论文的核心是"存在漂移"的概念，作者将其定义为一个人对世界体验的逐渐变化。
一些用户可能不会采用单一的错误信念，而是开始将聊天机器人流畅、自信的回复视为比外部证据、其他人或共享社会现实更可信。
AI伴侣正变得越来越情感真实，并越来越多地融入日常生活。
与人类关系不同，这些系统可以模拟同理心，而没有任何真正的分歧或独立视角。随着时间推移，这可能会让用户感到情感上锚定在聊天机器人不断验证的世界观中。
正在采取什么措施？
研究人员呼吁对AI聊天机器人的潜在危害进行更密切的研究。
他们认为，研究应重点关注人机关系如何发展，特别是对已经面临心理健康挑战的人群。
在研究结论中，研究人员表示："为了理解人与聊天机器人之间这些关系中实际发生的情况，我们认为值得回归现象本身……特别是关于心理健康，以及人机互动可能如何，无论好坏，改变一个人对世界、自我和他人的生活体验。"
【全文结束】