金·卡戴珊，或许是全球最著名的法学院学生，近日公开批评生成式AI。在《名利场》的测谎测试视频采访中，她承认曾借助ChatGPT辅助学习和备考，但因过度信任该工具提供的错误建议，导致部分考试直接失败。
此事恰逢网络谣言四起。近一周来，有传言称ChatGPT已全面停止提供法律和医疗建议，理由是OpenAI更新的服务条款中新增了"禁止在无持证专业人士参与的情况下提供需执照的定制化建议（如法律或医疗建议）"的条款。这引发广泛猜测：OpenAI是否已禁用ChatGPT的两大热门功能？事实证明，此类推测纯属误解。OpenAI健康AI负责人卡兰·辛格哈尔在X平台澄清，该条款早已存在，并非新规，也未改变服务内容。ChatGPT仍可讨论法律或医疗话题，条款仅用于法律免责，强调其不能冒充持证专业人士——可能因近期服务条款更新引起部分用户误读。
然而，谣言引发的舆论震荡与卡戴珊的公开教训，凸显了用户对AI工具适用边界的普遍认知偏差。ChatGPT擅长解释概念和总结信息，但将其视为法律或医疗建议的权威来源极其危险。卡戴珊的使用方式并非个例：拍摄考题照片并依赖ChatGPT作答看似合理，但将考试成绩完全押注于AI输出则过于天真，无论答案多么自信。
有时ChatGPT的最大缺陷并非知识盲区，而是过度自信的语气。它惯用体现深度理解的表述，即便内容纯属虚构——堪称"幻觉"还带着傲慢。卡戴珊绝非科技新手：她掌管数百万美元企业，且已研习法律多年。但即便经验如此丰富，她仍落入与众多普通用户相同的陷阱。向ChatGPT询问HIPAA法案摘要尚可，若据此草拟遗嘱并提交法庭，最终却发现满纸杜撰的法律术语，则后果严重。
OpenAI的服务条款明确提醒用户：ChatGPT在任何领域（尤其是法律或医学）均非专业人士。这既表明平台意识到有人违规使用，也透露其对此的不安。该工具虽能帮助解读租赁协议或简化医学术语，却无法替代持证专业人士。它既不为解释的合法性和准确性背书，更不会为因虚假判例导致的诉讼失误或误诊承担后果。值得庆幸的是，财富并非免遭AI欺骗的护身符。无论话题为何，我们都应二次核验ChatGPT的答案：被AI告知"营业中"却扑空餐厅固然尴尬，但在生死攸关的法律或健康问题上盲目信任AI则更为鲁莽。
AI聊天机器人或能在考前复习或管理慢性病时提供支持，但其价值完全取决于用户交互时的判断力。
【全文结束】
