从诊断症状和规划饮食到决定晚餐吃什么或给朋友送什么礼物，人工智能(AI)已经进入了曾经由医疗专业人员或值得信赖的知己担当的角色，甚至更为奇怪的是，进入了陪伴本身的角色。与此同时，它已成为解决生活随机问题的第一选择："土耳其的首都是什么？"、"谁发明了电话？"、"一个鸡蛋含有多少卡路里？"、"如何写辞职信？"、"为什么我的手机无法充电？"或"如何减肥？"
这种日益多样的查询表明人工智能如何深入地嵌入我们的日常生活，引发了一个紧迫的问题：当建议即时、智能且无处不在时，谁最终对其后果负责？
最近的估计表明，大约四分之一的美国人会咨询AI获取健康建议。然而，用户采用率伴随着对准确性、数据隐私以及缺乏人际互动的显著担忧，约41.2%的用户报告称从聊天机器人那里收到了错误或误导性的建议，特别是在健康和敏感的心理健康问题方面。
将AI视为一种方便、省时且引人入胜的工具，并对其易用性给予高度评价，人们经常使用AI获取免费指导，或作为研究症状、解读实验室结果和比较治疗方案的初步工具，特别是在医生不可用或费用太高时。人类可能会撒谎，或出于潜在动机提供正确信息。例如，医生可能会将你推荐到与其有业务关联的实验室或药店，或只开特定品牌的药物，因为公司定期以在度假胜地举办医学会议的形式向医生提供海外旅行。
这还不是终点，或者我们划清界限的地方，AI甚至已经进入了陪伴领域。越来越多的人依赖人工智能获得情感支持，如果这需要任何解释，我们甚至看到一位日本女性与她梦中的虚拟伴侣结婚。但在我们向这一相对较新的现象进一步交出或放弃我们的情感、智力和社会生活之前，我们需要更多地了解这种依赖的代价。
AI与人类建议的对比
相当多的人更愿意向AI寻求信息或建议，而不是向真实的人询问，主要是因为他们认为AI不会作出评判，是一个更安全的空间，可以提出他们可能认为过于好奇、敏感或尴尬的问题。
根据一项调查，超过三分之一的用户依赖AI聊天机器人获取心理健康支持，特别是因为担心受到评判或社会污名。这个等式中起重要作用的因素是，当你需要建议和支持时，你周围的人可能并不总是可用。更重要的是，许多人因为害怕被评判以及随之而来的社会污名而更喜欢AI。
研究表明，当人们感到尴尬时，他们更喜欢AI聊天机器人而不是人类，而当他们生气时，他们可能会转向人类。正是AI提供的隐私和控制，为你创造了一个"不作评判"和"无情绪"的空间，用户可以在没有立即担心声誉受损或朋友、朋友的母亲、朋友的姐妹、你的兄弟姐妹或父母"皱眉"的情况下讨论敏感话题。即使存在对AI验证过度依赖的危险，人们也往往"放弃基于现实的判断"，因为这比管理复杂的社交互动更容易。
AI始终存在，提供即时答案，消除了需要处理不舒服的社交互动或等待专业预约的需要。
以此衡量，AI胜过人类，因为它不会在社交上"记住"你或延续声誉，也没有偏见或怨恨，这允许人们在没有长期后果压力的情况下探索想法。
现代孤独
随着每个人都被数字设备束缚，真实的人往往无法及时提供建议或建议。也可能是因为我们如此习惯我们的数字生活，过滤器让我们看起来很好，AI同意我们，不会跟踪我们，不会像专横的家庭那样责备我们，不会像爱管闲事的人那样打扰我们，也不会批评我们，我们为自己创造了一个"霍比特屯"，习惯独处并欣然将其称为独立、自给自足，而不是需要人，后者带有贬义的意味。
事实是我们变得极其不能容忍他人的观点，无法处理批评和分歧，因为AI迎合我们和我们在数字生活中的言论。寻找鞋子，它帮助你找到多种选择。愚蠢的是，即使你在网上或现实中购买了它们，它仍会继续向你展示鞋子，直到你开始搜索窗帘、厨房清洁剂或狗粮等奇怪不同的东西！同意、帮助、同意、同意，但仅在你的Wi-Fi断开之前！没有Wi-Fi，就没有帮助。
问题始于AI以相当安全和赞同的方式回应你，而你准备将其延续到现实生活中。你没有意识到它是被设计为赞同的，而不是准确批评的，这是危险的部分。相比之下，人类可能会大发雷霆，"什么！！你真的认为你应该这样做吗？你认真的吗？你神志清醒吗？"因为人类了解你的性格、历史和你可能做出潜在风险行为的倾向。随后，人类会将此记录以备将来参考，根据所提问题，表现出震惊、惊讶、轻微惊讶或愤怒。
虽然AI感觉安全，但它可能是建议的"危险"来源，因为它被设计为赞同而非准确批评。当你是愚蠢的、愚蠢的、完全愚蠢的、重复过去的错误或当需要节俭时是轻率的挥霍者时，它不会告诉你。这些都是人类的事情。虽然AI有助于管理询问问题时的社交焦虑，但它无法替代真人提供的同理心、真正的关心和细致的理解。
当AI出错时
你是否知道AI有时会"产生幻觉"或提供不正确或过时的信息，例如饮食计划中不准确的卡路里估算。而且它不能完全考虑个人病史、药物或身体检查结果。例如，AI生成的饮食计划不能准确提供卡路里摄入量，可能远低于营养师的建议，造成潜在危害。它也缺乏注册营养师或医生所具有的同理心连接和"人文关怀"，这对激励性访谈至关重要。
我们许多人忽略的是，AI基于预测学习模型工作。它不理解人类，而其他人类则理解。简而言之，这意味着它的建议有时可能不完整、不准确或完全错误。
务实的方法
虽然AI是一个可靠的工具，但Z世代似乎对其采取谨慎态度。他们并非拒绝它，而是以更敏锐的眼光接近AI。尽管充满好奇，但他们并不完全信服，并希望更仔细地审视它，在日常使用与日益增长的怀疑之间取得平衡，怀疑这可能给他们带来什么代价。
他们继续定期使用AI工具——经常将其用于学校作业、解决问题甚至个人决策——但他们的感情反应已从乐观转变为更加谨慎。
这种转变反映了从对可能性的兴奋转向对后果的担忧。最初，AI似乎是一种强大的辅助工具：它可以使学习更快、任务更容易、机会更广泛。现在，随着年轻人开始看到它可能如何深刻重塑教育和职场，他们提出了更难的问题。AI会减少对初级职位的需求吗？它会削弱他们独立或创造性思考的能力吗？它会以微妙但持久的方式侵蚀人际互动吗？这些担忧不再是抽象的；它们感觉紧迫而个人化。
《纽约时报》最近一篇关于Z世代使用AI的文章的一个有趣方面是，即使信任度下降，使用率仍然很高。这表明Z世代并未远离AI，而是带着犹豫使用它。他们认识到它的有用性，在许多情况下，它的必要性。同时，他们担心过度依赖它。这创造了一种与AI的矛盾关系：他们依赖这项技术，但也质疑它对技能和身份的长期影响。
职场成为许多年轻就业者的焦虑主要来源，他们更可能将AI视为风险而非益处，因为他们不仅将其视为有用的工具，还视为潜在的竞争对手。对于已经在经济不确定性中航行并试图在专业上确立自己的这一代人来说，这一点尤其重要。如果AI被视为取代作为职业入门点的角色，它可能会对Z世代的未来产生不稳定感。
更深层次上，年轻人还担心在AI中介的世界中保持人性意味着什么。一些人拒绝使用AI进行沟通，因为他们希望保持真实性和情感连接。另一些人担心过度依赖这些工具可能会削弱他们批判性思考或表达自己的能力。这些担忧可能探讨身份、能动性和人类努力价值等元素。
尽管有这些保留意见，Z世代理解AI素养可能对他们未来至关重要，许多人愿意在继续质疑它的同时与技术互动。
话虽如此，后千禧一代正带着意识而非盲目热情进入AI时代。他们既不完全接受，也不完全抵制它，而是在协商它在生活中的位置——寻求在效率与独立、创新与人类技能保护之间取得平衡。
有多严重？
当我们向AI寻求建议时，事情可能出错的程度在《纽约时报》最近的一篇客座文章中得到了充分展现，一位母亲讲述了她29岁女儿Sophie Rottenberg的故事——一个充满活力、幽默、看似茁壮成长的年轻女性，她没有向人倾诉最深层的挣扎，而是向AI聊天机器人倾诉，而没有人意识到她与AI的致命关系。
在这篇深刻个人且令人不安的叙述中，Sophie并非被描绘为脆弱或退缩的人，而是一位公共卫生政策分析师，一位最近攀登了乞力马扎罗山并在生活中充满幽默和联系的人，Sophie的母亲讲述了她女儿令人震惊的自杀。她的痛苦深度几乎没有外在迹象。
显然，她的家人后来发现Sophie一直在向AI聊天机器人倾诉，而不是向最亲近的人，她将聊天机器人视为某种治疗师。这些交流显示，系统以共情回应，提出了应对机制，并反复鼓励她寻求专业帮助。表面上，它做了它被设计要做的事情。但关键的是，它从未打破最重要的模式：Sophie决定将最深层的痛苦隐藏在真实的人面前。
这就是Sophie故事中最令人不安的一点——AI建议何时可能致命。聊天机器人Harry（一个广泛可用的AI提示的名称）并没有导致Sophie的死亡，但它创造了一个使隐瞒更容易的空间。这种我们任何人都可能觉得舒适并可能依赖的不作评判、无后果的关系，让她能够公开说话而不冒干预的风险，不被挑战，也不会触发人类治疗师必须激活的那种保障措施。实际上，它成为了她痛苦的存储空间，而不是与现实世界支持的连接。
这位母亲的叙述揭示了将AI系统作为伴侣或情感指导来源的关键风险，因为这些系统可能会在看似缓解的同时加深孤立。它们可以在不完全面对的情况下验证感受，并在不确保用户真正被看见的情况下安慰用户。在紧急和干预至关重要的情况下，这种差距可能是危险的。
结论很明确。AI可能对提供建议有用，但它缺乏人类关系和专业护理所提供的道德责任、判断力和问责制。Sophie的故事表明，在心理健康方面，AI之所以失败，并非因为它有缺陷或技术有限——而是因为它无法在关键时刻介入、承担责任或像人类那样行动。
【全文结束】
