研究表明，人工智能（AI）可能对儿童和青少年的心理健康构成重大威胁。据《柳叶刀》（The Lancet）于1月21日发布的一项研究警告，社会可能会重蹈覆辙，就像当初对待社交媒体和互联网一样，在其影响——尤其是对未成年人心理健康的影响——开始被科学研究所揭示并采取行动之前，年轻人已经广泛采用新技术。“如果我们不从过去的经历中吸取教训，我们可能会在未来10年内再次陷入类似的困境，被另一轮媒体恐慌所笼罩，而无法使AI对儿童和青少年安全且有益。”牛津大学的研究心理学家Karen L. Mansfield在该科学出版物中警告道。此外，研究还揭示了一个已经确立的风险：每年全球有十二分之一的儿童成为网络性虐待或剥削的受害者。
“在网上你可以找到你能想象到的所有坏事，各种非法交易无所不包。这些事情在互联网出现之前就存在，但互联网提供了一个全球推广和传播的平台。”12岁就开始涉足网络深处的Jorge B.解释说。他在父母的监督和卡巴斯基实验室（Kaspersky）的初步指导下，成功避开了最黑暗的道路。现在21岁的他，在一家跨国保险公司的IT部门工作。
最糟糕的是，这些对儿童和青少年有害的入口并不是难以触及的，而是恰恰相反，正如Jorge B.所指出的：“你在互联网上能找到最糟糕的东西并不在难以发现的深网中。最好的隐藏方式就是把它放在显眼的地方，让所有人都能看到。你会在最不合适的地方和时间找到它。”他提到儿童和青少年“缺乏足够的经验和一定的技术成熟度”。
在AI最常见的危险中，这位年轻专家特别提到了通过虚假内容进行的冒充行为，这种做法主要针对女孩和年轻人。Mansfield的研究指出了更多直接影响心理健康的例子。她认为，“类人功能”如AI代理或“生成足够逼真的图像和视频内容（深度伪造和虚假信息），可能会对儿童的情感和行为产生影响。”这位心理学家还指出了“内容推荐系统和用于抑郁症、焦虑症或饮食障碍的在线诊断工具，这些工具越来越被用于自我诊断。”
“有了类人的AI来增强或调节在线互动，儿童和青少年面临的潜在好处和危害比社交媒体和在线游戏本身更加多样化。”Mansfield警告说。
卡巴斯基首席安全研究员Marc Rivero虽然未参与这项研究，但也得出了类似的结论：“人工智能正在改变儿童和青少年的数字体验，但它也可能对其心理健康和情感健康产生负面影响。通过个性化内容和建议互动，AI可能会让他们接触到不适当的内容或促进非法活动的在线群体。这些影响会增加焦虑和孤立感，甚至可能导致数字环境中出现冒险行为。因此，通过早期数字教育、使用适当的监控工具如家长控制，以及与孩子建立开放对话，教导他们如何安全负责地浏览数字世界，保护未成年人至关重要。”
Rivero和牛津研究人员的警告尤为重要，因为根据卡巴斯基报告《上网：儿童和父母在网络上的情况》，大多数孩子从小就接触技术：“几乎一半的西班牙未成年人（47%）在七岁前就首次接触联网设备；24.5%的西班牙父母从未与孩子讨论过数字环境的危险；75%承认他们的孩子不具备安全使用互联网所需的足够知识。”
所有受访专家一致同意三个关键点：培训、信息和研究，以便在最大限度保护的前提下管理AI资源的访问。否则，后续的法规或使用禁令都将无效。
儿童虐待
这已经在互联网最严重的祸害之一中得到证明，即尽管规则和限制存在，每年仍有十二分之一的儿童遭受性剥削或虐待。这是爱丁堡大学儿童保护研究教授Deborah Fry领导的一项研究得出的结论，该研究也发表在《柳叶刀》上。
与牛津大学的研究类似，这篇论文同样指出了基于屏幕时间和社交媒体使用的研究所存在的局限性。它也对与这两个方面相关的措施表示怀疑：“浏览时间限制和应用程序访问年龄限制转移了对有害内容监管的需求，反而将责任推给了家长或监护人，或是大规模引入未经测试的年龄估算技术，这些技术被认为存在隐私和安全风险。”
研究人员还指出，缺乏统一和同质的数据来应对全球性问题。实际上，就连对网络上的性犯罪和虐待的定义也没有统一的标准。
(全文结束)
