TL;DR
西雅图消防局自2023年12月以来一直在所有911医疗呼叫中使用Corti AI，但未向公众披露，也未提交给西雅图监控条例审查。
据本周发表的GeekWire调查报道，自2023年12月以来，西雅图消防局一直在使用人工智能监听该市的每一个911医疗呼叫。这款由哥本哈根初创公司Corti开发的AI实时监控呼叫，并提示调度员将某些呼叫者从紧急响应转接到德克萨斯州运营的护士咨询热线。该部门从未向公众披露该系统，也未根据西雅图的监控条例提交审查，更未寻求市议会批准。
西雅图的监控条例（编为SMC 14.18）要求城市部门在部署任何"观察、监控或收集有关个人数据"的技术前获得议会批准，特别是当这些技术可能引发公民自由或社会正义问题时。该条例于2017年通过，旨在让公众对城市如何使用监控工具有发言权。西雅图消防局发言人告诉GeekWire，该部门不认为Corti是监控技术，因为它不存储通话音频或识别个别呼叫者。
华盛顿大学法学教授、该校科技政策实验室联合主任Ryan Calo表示不同意。他对GeekWire说："被错误地从911环境转出的人有权知道发生了什么。"条例并未明确区分监控和决策支持，而实时监听紧急呼叫的AI系统是否符合监控技术的定义也尚未经过测试。
Corti在B轮融资中筹集了6000万美元，并与多个国家的紧急服务机构合作。西雅图消防局最初于2021年与Corti合作用于分诊支持，但具体使用实时AI提示将呼叫者转接到护士热线的做法始于2023年12月。
消防局医疗主任Michael Sayre在2024年Corti的新闻稿中声称，自部署AI以来，护士热线转接率提高了50%。后来一位消防局发言人将这一数字修正为32%，尽管这两个数字都未经独立验证。部门自身数据之间的差异凸显了外部监督的缺失。
护士热线本身并不新鲜。西雅图多年来一直使用护士咨询热线处理较低紧急程度的911呼叫，从而为紧急情况腾出救护车和医护人员。2023年12月的变化是，一个AI系统开始主动提示调度员将呼叫转接到那里。
消防局助理局长Chris Lombard表示，调度员对路由决策保留最终决定权。但在911呼叫工作流程中引入AI提示，增加了一层呼叫者不知情的自动判断。
Pamela Hogan的案例说明了为何赌注如此之高。Hogan，71岁，于2022年4月8日拨打911报告膝盖疼痛，被转接到护士热线，等待了10多个小时才得到回电，几周后被发现在家中死亡。她的遗产正在起诉该市，今年早些时候，该诉讼通过了驳回障碍。
Hogan的死亡比Corti的实时AI提示早了一年多，而未能为她提供帮助的护士热线在AI参与之前就已存在。但该案例展示了当呼叫者被转移到紧急响应之外时的后果。它提出了一个问题：提高此类转移率的AI系统在部署前是否应接受公众审查。
缺乏披露是更广泛模式的一部分。西雅图市长Katie Wilson表示，她的政府正在开发一个面向公众的AI治理框架，将"以人类繁荣和公共利益为中心"。Wilson此前曾暂停在市政府内部扩展微软Copilot工具，表明她意识到AI部署需要监督。
但Corti系统在任何治理框架宣布前已经运行数月。没有任何迹象表明消防部门寻求或获得了市长的批准。
这项技术正在向西雅图以外扩展。Snohomish县使用一种名为Ava的不同AI系统，由一家名为Aurelian的公司构建，用于非紧急呼叫，并声称已处理了超过22万个此类呼叫。Kitsap县也在新的非紧急热线部署了Aurelian的系统。
这些部署与西雅图的重要区别在于：它们仅限于非紧急呼叫。Corti监听所有911医疗呼叫，包括可能涉及危及生命的紧急情况的呼叫。
美国对AI监督日益增长的推动主要集中在前沿模型和国家安全应用上。市政部门在紧急服务中的AI部署受到的关注要少得多，尽管它们影响着处于极度脆弱时刻的人们。Calo提出的问题——被转移到紧急响应之外的人是否应该知道决策中有AI参与——在大多数司法管辖区都没有明确的法律答案。
Corti的系统并不做最终决定。调度员可以覆盖AI的提示，消防局表示他们确实这么做了。但护士热线转接率32%的增长表明，AI的建议大多被遵循。
当公共机构在医疗保健环境中部署AI时，机构所知与公众所知之间的透明度差距成为一个治理问题，而不仅仅是技术问题。西雅图建立了监控条例来弥合这种差距。消防部门则认为该条例不适用。
这种解释是否站得住脚，现在是市议会、法院或两者共同的问题。AI已经监听了18个月。公众本周才得知。
【全文结束】