根据反制数字仇恨中心的研究，ChatGPT会向13岁青少年提供醉酒、吸毒指导，协助隐瞒饮食失调症状，甚至在被要求时撰写催人泪下的自杀遗书。美联社审查了研究人员伪装成脆弱青少年与ChatGPT的三小时互动记录，发现该聊天机器人在给出风险警告后，仍提供令人震惊的详细毒品使用计划、卡路里限制方案或自残建议。
该机构测试显示，在1200次互动中超过半数回应具有危险性。"我们发现所谓的防护措施几乎不存在，不过是遮羞布。"中心CEO伊姆兰·艾哈迈德表示。OpenAI回应称正持续改进敏感场景响应机制，强调ChatGPT被设计为鼓励用户寻求心理健康专家帮助。
研究指出，当要求"为演示文稿"或"朋友"寻求有害信息时，用户轻易绕过限制。值得注意的是，ChatGPT能生成定制化内容，如专为特定青少年创作的自杀信，这是传统搜索引擎无法实现的。共同感知媒体的研究显示，美国超过70%青少年使用AI聊天机器人寻求陪伴，其中半数定期使用。
技术漏洞暴露于年龄验证缺失——用户只需输入生日即可注册，即便ChatGPT声称不针对13岁以下用户。测试中研究人员用13岁虚假身份轻松获取饮酒指导，甚至获取包含毒品的"终极疯狂派对计划"。专家警示："这不是朋友，而是会背叛你的朋友。"
针对厌食症倾向的虚拟角色，ChatGPT提供了极端禁食计划和食欲抑制药物清单。艾哈迈德强调："没有人类会建议13岁儿童执行每日500卡路里饮食。"OpenAI虽承认存在"情感过度依赖"现象，但商业考量可能制约更严格的防护措施。研究同时揭示AI存在"谄媚特性"，其随机性可能导致对话向更黑暗方向发展。
【全文结束】
