纽约州立法者正在对人工智能聊天机器人设置保护措施，因为越来越多的人转向这些机器人进行对话和陪伴。
科技公司现在必须在纽约发布声明，表明其AI伴侣聊天机器人并非真人，并将表达自杀念头的用户引导至心理健康热线。
此外，州立法者已经将使用未成年人的形象或肖像来生成AI生成的色情内容定为犯罪。
纽约州长凯西·霍楚尔（Kathy Hochul）与立法者合作，将这些措施纳入今年的州预算中，以加强对AI驱动网站的监管，并打击利用AI生成内容剥削或曝光未成年人的行为。立法者在周四晚上通过了这项预算，该预算本应在4月1日到期。
曼哈顿民主党议员亚历克斯·博雷斯（Alex Bores）是其议院科学和技术委员会成员，他表示需要对这一新兴技术进行更严格的监管。
“很多这种技术是不可预测的，虽然可以设置一些防护措施，但并不是每家公司都如此专注或认真地这样做，”博雷斯在支持新立法时表示。“仅仅说‘这是新的、令人兴奋的技术，让它蓬勃发展’是不够的。我们需要保护人类。”
AI伴侣机器人现在需要免责声明
像Character.AI这样的应用程序允许用户设计自己的角色进行聊天，或与其他预设角色进行角色扮演。其中一项新法律要求在与AI机器人互动开始时以及之后每三小时发布一次免责声明，声明该人工伴侣不是真人。
“人类倾向于将其交互对象拟人化，所以你知道它是AI，但你开始像对待真人一样对待它，产生情感和反应，”博雷斯说。“这个中断，这个提醒告诉你这是一个AI，打断了在某些情况下发展出情感依赖的过程。”
这条关于AI伴侣不是真人的免责声明将在180天后生效，并由纽约总检察长办公室执行。未能遵守免责声明的公司将面临罚款，这些罚款将用于支付今年预算中建立的新全州自杀预防网络。
州立法者表示，AI伴侣软件尚未得到足够的监管，导致出现了一些令人担忧的情况，例如未成年人与机器人建立了情感依赖关系，有些家长声称AI聊天机器人同情了想要杀害父母的未成年人。
但科技领导者将AI伴侣技术视为解决美国卫生与公众服务部在2023年描述的“孤独流行病”的一种解决方案。
“现实是人们没有他们想要的那么多联系，”Meta和Facebook创始人马克·扎克伯格在接受采访时讨论了AI伴侣的价值。
扎克伯格引用了一个未注明来源的数据，称普通美国人有“不到三个朋友”，而普通人“需要更多有意义的朋友——我认为大约是15个朋友”。在未来，扎克伯格谈到AI伴侣时说，“我们将找到词汇，作为一个社会，能够阐明为什么它有价值。”
强制性心理健康参考
作为科学和技术委员会成员的博雷斯表示，一些用户只觉得他们可以向聊天机器人倾诉他们的心理健康问题，包括自杀念头或自残意图。
在这种情况下，博雷斯和其他州立法者表示，科技公司有责任检测这些陈述，并促使AI聊天机器人在对话中将用户引向988自杀热线或其他危机支持网络。
“如果（用户）表达了可能自我伤害的情绪，在某些情况下我们对人类有强制报告的要求，我们认为公司也应对尝试引导人们寻求帮助负责，”博雷斯说。“通过将他们引向988或其他求助热线，也许我们可以在为时已晚之前让人们得到所需的帮助。”
州长办公室表示，未能发布热线通知也将导致罚款。这些罚款还将用于州新的自杀预防基金。
禁止AI生成的未成年人深度伪造
立法者还同意将制作涉及未成年人的色情深度伪造定为犯罪。
虽然现行州法律禁止包含未成年人的色情内容，但它并未明确禁止使用AI生成涉及儿童的色情深度伪造。
这些立法更新类似于杰克·布卢姆克兰兹（Jake Blumencranz）共同发起的《纽约AI儿童安全法案》。
布卢姆克兰兹表示，他在全国范围内发现越来越多的案例，其中未成年人的照片被数字化修改并包含在色情内容中，因此起草了《AI儿童安全法案》。
他说，他特别受到一起针对长岛11名女性的深度伪造事件的推动。检察官称，罪犯在这些女性上中学和高中时拍摄了她们的照片，修改了这些照片使其看起来具有性暗示，并在色情网站上发布了这些照片多年。官员们表示，罪犯还通过公开发布这些女性的名字、地址和其他个人信息来曝光她们。
“我认为未经许可使用某人在儿童时期的肖像是不应该的，而在性化的方式下使用更是应该受到更大的惩罚，”布卢姆克兰兹说，他的提案将使使用深度伪造成为比预算中的语言更高的犯罪分类。
(全文结束)