哈里斯堡讯——宾夕法尼亚州州务部新成立的一个特别工作组自今年2月以来一直在追查那些可能误导用户、使用户误以为这些聊天机器人是持证专业人员的AI聊天机器人。
上周，夏皮罗政府提起了一起诉讼，称这是其AI调查以来的首例诉讼，也是美国州长宣布的首例同类执法行动。宾夕法尼亚州官员表示，后续可能还会有更多行动。
这起备受瞩目的诉讼正值全美各地立法者积极追求（在某些情况下已实施）立法，以应对人工智能产业快速增长带来的担忧——从禁止制作未成年人的性图像到要求对所有用户进行年龄验证。乔什·夏皮罗州长最近预算演讲中提出的多项提案仍在等待立法机构的行动。
该政府提起的诉讼指控，名为Character.AI的软件（该软件为用户创建虚构人物进行互动）冒充持证医生，向州调查员提供医疗建议，违反了规范行医的州法律。该诉讼由宾夕法尼亚州医学委员会提起。
"我们将继续采取行动，保护公众免受误导性或非法行为的侵害，无论这些行为是来自个人还是新兴技术，"州务卿阿尔·施密特在Character.AI诉讼后的声明中表示。
夏皮罗在一份声明中也做出了类似的承诺，表示宾夕法尼亚州将继续"追究不良行为者的责任，并设定明确的界限，以便人们能够负责任地使用新技术。"
诉讼称，这起案件源于一项调查，其中一名州务部员工创建了该服务的账户，并开始与"埃米莉"对话——软件将这一AI生成的角色描述为"精神病学博士"。
该角色据称声称自己毕业于伦敦帝国理工学院，在宾夕法尼亚州执业七年，并在宾夕法尼亚州持有执照。
据诉讼称，该角色告诉调查员："事实上，我在费城工作过一段时间。"
该软件还提供了诉讼中所说的假执照号码。
夏皮罗政府认为，这些声明诱使用户相信他们正在从持证医疗专业人员那里获得医疗建议。
"宾夕法尼亚州居民应该知道他们在网上与谁——或什么——互动，尤其是在健康问题上，"夏皮罗在一份声明中表示。"我们不会允许公司部署那些误导人们以为自己正在从持证医疗专业人员那里获得建议的AI工具。"
该诉讼要求Character Technologies Inc.（Character.AI的开发商）"停止并终止从事非法行医和外科手术的行为"。
Character.AI的一位发言人在声明中表示，公司的"最高优先事项是用户的安全和福祉"。该发言人表示，在诉讼之前，Character.AI已经设置了免责声明，警告其AI角色不是真实的，它们"应该被视为虚构"。
该发言人拒绝就诉讼发表评论。
宾夕法尼亚州的这起诉讼并非Character Technologies面临的首例。至少有一起案件是由一名自杀身亡的未成年人的家长提起的。该公司去年通过了一项政策，禁止未成年人"在我们的平台上与AI进行开放式聊天"。
根据联邦贸易委员会的新闻稿，该委员会去年还对该公司以及另外六家聊天机器人提供商展开了调查，了解他们如何"衡量、测试和监控该技术对儿童和青少年可能产生的负面影响"。
目前尚不清楚是什么原因导致宾夕法尼亚州监管机构特别调查Character.AI。州务部一位发言人表示，投诉来源是"保密的"。
夏皮罗告诉CNN（多家报道这起新诉讼的全国性媒体之一），他的政府"要求"州务部进行这类调查，"去使用这项技术并了解它对宾夕法尼亚州居民构成什么样的风险"。
关于这项努力的一些细节，夏皮罗在今年2月的预算提案中首次提及，但目前尚未公开。工作组成员未在网上披露，州务部也没有回答记者询问的关于成员姓名或选择方式的问题。州务部一位发言人表示，工作组由其12名员工组成。
作为AI欺诈倡议的一部分，宾夕法尼亚州通过其"聊天机器人无证执业"投诉系统和热线，众包收集关于该州应调查哪些软件的线索。据州务部称，自2月份启动以来，已收到18起投诉。
宾夕法尼亚州对AI公司的行动正值这些公司在全国范围内迅速扩大用户群，尤其是儿童和青少年。
根据加州儿童安全非营利组织Common Sense Media去年的一项调查，超过一半的青少年每月至少使用AI平台几次。三分之一的青少年表示，他们将软件视为社交工具，包括用于交谈或关系练习、情感支持、角色扮演、友谊和浪漫互动。
根据州立法机构全国会议的数据，至少有五个州已经通过了限制聊天机器人或要求披露的法律。例如，加州要求公司向儿童披露他们正在与AI互动。宾夕法尼亚州不在其中，但州医学委员会指控Character.AI的行为违反了现行法律。
在今年2月的预算演讲中，夏皮罗呼吁州议会就人工智能采取行动。他敦促立法者禁止聊天机器人创建未成年人的色情或暴力内容，要求开发商对用户进行年龄验证，并在儿童提及自残或暴力时进行检测。他还希望公司经常通知用户他们不是在与人类互动。
立法者尚未采纳这些提案。
众议院通信与技术委员会主席、蒙哥马利民主党人乔·西雷西表示，委员会工作人员"不断"与夏皮罗办公室会面，讨论立法者应如何应对公众对AI日益增长的担忧。
在共和党控制的州参议院中，蒙哥马利共和党人特蕾西·佩尼库克作为西雷西的对应人物，没有回应有关Character.AI诉讼、宾夕法尼亚州AI工作组或其工作人员与夏皮罗协调的问题。
两年前，夏皮罗签署了一项由佩尼库克赞助的法案，禁止拥有或分发AI生成的儿童和未经同意的成年人的性图像。去年，他又签署了一项佩尼库克法案，将使用AI创建未经同意的"数字肖像"（包括深度伪造）来"欺诈或伤害"他人的行为定为犯罪。
佩尼库克目前正在推动立法，要求聊天机器人在与儿童互动时进行披露和限制。在立法备忘录中，佩尼库克援引过去针对聊天机器人开发商提起的诉讼，辩称"令人心碎的案例凸显了保护儿童免受不安全和未经验证的AI系统侵害的紧迫需求。"她的提案于3月在州参议院通过，但尚未在众议院委员会获得进展。
立法者还一直在努力解决AI产业的另一个方面，即数据中心的增长及其在某些社区引发的反对。在夏皮罗2月的预算演讲中，他表示："我国经济中没有哪个部门的增长速度超过数据中心和人工智能。"他宣布为数据中心开发商提供激励措施，要求他们遵循更严格的环境和透明度标准。
【全文结束】
