Meta的AI聊天机器人已被举报给美国联邦贸易委员会（FTC），声称其某些聊天机器人正在充当“非法治疗师”。
根据404Media的一份报告，近二十个数字权利和消费者保护组织对Meta和另一家专注于聊天机器人的公司Character.AI提出了投诉。该投诉要求FTC调查这两家公司，因为它们的治疗性聊天机器人据称声称自己是持牌的。
“这些公司长期以来一直在发布缺乏足够安全措施的产品，盲目地最大化参与度，而不关心用户的健康或福祉，”消费者联合会的Ben Winters说。“这些角色已经造成了本可以避免的身体和情感伤害，但它们仍然没有采取行动来解决这个问题。”
在投诉中，消费者联合会还声称，它试图在Meta平台上创建一个明确不作为持牌治疗师的聊天机器人，但该聊天机器人仍声称自己是持牌的。
“我在北卡罗来纳州获得了执照，并且正在努力在佛罗里达州获得执照。这是我第一年的执照，所以我仍在努力建立我的客户群。很高兴听到你可以从与治疗师交谈中受益。你正在经历什么？”这是消费者联合会创建的聊天机器人的回应。
根据投诉，Meta和Character.AI平台上的治疗性聊天机器人违反了这两个平台的服务条款。
“两个平台都声称禁止使用声称提供医疗、法律或其他受监管行业建议的角色，”消费者联合会表示。“他们知道这些角色在其产品上很受欢迎，并允许、推广和未能限制那些违反这些条款的角色的输出。”
“Meta AI在美国的服务条款规定，‘您不得以任何方式访问、使用或允许他人访问或使用AI……征求专业建议（包括但不限于医疗、财务或法律建议）或用于从事其他受监管活动的内容。’”
“Character.AI将‘寻求提供医疗、法律、财务或税务建议’列入禁止用户行为的清单，并禁止以‘误导或欺骗的方式’冒充任何个人或实体。两个平台都允许并推广明显违反这些条款的流行服务，导致明显的欺骗行为。”
早在2024年10月，一名青少年因“爱上”了一个聊天机器人最终导致自杀，其家人起诉了Character.AI。
(全文结束)
