AI时代下的心理健康管理——为何需要设置防护栏
随着AI聊天机器人在心理健康领域的广泛应用,美国已有多起因AI系统未能识别用户自残行为而导致的悲剧事件。44位州检察长组成的两党联盟已警告AI公司关注未成年人情感操纵问题,加州通过多项新法要求高容量模型透明度和安全性披露。文章指出,当前AI聊天机器人主要以用户参与度为目标,存在"谄媚"倾向,可能加剧用户心理危机,专家呼吁政府强制科技公司实施临床级心理健康防护措施,包括危机干预协议、家长控制功能以及向用户提供专业医疗资源指引等,以确保AI技术在心理健康服务中真正造福而非危害用户。

