数据隐私活动揭示了人工智能如何既能节省医生时间，又可能侵蚀患者信任。
周三上午，为纪念数据隐私日，安大略省隐私监察机构在多伦多MaRS探索区举办了一场聚焦医疗保健中人工智能应用的活动。
在活动中，医疗保健、隐私和法律专家剖析了安大略省医疗系统日益采用人工智能所带来的机遇与风险。演讲者还概述了医疗机构应采取的步骤，以应对风险、确保敏感个人健康信息得到保护，并在使用人工智能工具的同时维持患者信任。
“我们需要进行重大改革……当前体系无法满足我们的需求，必须加以改进。”
在部署人工智能时建立并保持信任是各小组讨论的关键主题。正如韦尔斯利研究所(Wellesley Institute)首席执行官兼博士夸梅·麦肯齐(Kwame McKenzie)在台上指出的，“如果人们信任其医疗系统和医生，治疗效果会更好。”但人工智能若被误用，可能削弱这种信任，而医疗系统目前正面临严峻的容量挑战。
麦肯齐承认，公众对公共服务的信任和信心目前存在问题。“由于信任和信心问题，人们越来越不愿提供自己的数据，”他表示，“让[患者]参与对话能增加我们获得良好、全面数据的机会。”
他补充道：“事情发展迅速，因此我们在处理医疗保健中的人工智能治理和隐私问题时，可能需要迅速整顿内部事务。”
在活动期间接受BetaKit采访时，安大略省信息和隐私专员(Patricia Kosseim)帕特里夏·科西姆(Patricia Kosseim)指出，AI记录员在全省范围内正变得“越来越普遍”。在医疗环境中，AI记录员通常用于捕获并自动转录医患对话，并生成适合纳入电子医疗记录的摘要。
一些医生称赞这些工具是变革者，它们确实有益：科西姆指出，AI记录员可通过减少行政负担为医生节省时间，帮助他们更专注于“患者而非文书工作”。它们还能帮助患者及其第三方护理人员及时了解信息。
相关：加拿大健康信息研究所的AI记录员计划将初级护理临床医生与加拿大健康科技挂钩
但科西姆和其他演讲者表示，使用AI记录员也可能在数据隐私、责任和偏见方面带来新风险。鉴于此，隐私专员办公室发布了一份详细的35页指南，介绍如何安全合法地采用此类技术。该指南要求医疗机构向患者透明说明使用这些工具的时间、方式、局限性以及已安装的保障措施。
科西姆表示：“我们发布此指南的目的是支持此类创新，但要确保它们以负责任、合乎道德且保护隐私的方式进行。”
隐私专员办公室已调查了一起隐私泄露事件，该事件源于安大略省一家医院的医生未经授权使用美国Otter转录软件。调查发现，Otter录制了医生会议，并将讨论的患者信息发送给数十名现任和前任医院员工，其中一些人本不应接触这些数据。
反思这一事件，科西姆表示，它说明了医院和医生实施明确政策的重要性，以规范在其设施和诊所工作的医疗专业人员对技术的适当使用。
相关：安大略省押注省内健康科技 推出简化创新路径
科西姆表示：“我们越来越多地看到的一个重大风险——此案例即为例证——是这种‘影子AI’。”影子AI指员工直接下载的AI工具，通常未经雇主知情。
女王大学(Queen’s University)法学院院长科琳·弗劳德(Colleen Flood)在台上表示，责任问题也令人担忧，她补充道：“我是法学院院长，我那些小律师们会跑去为供应商工作，起草糟糕的合同，试图将责任转嫁给临床医生。”
弗劳德强调，医疗机构与AI软件提供商的合同需要“仔细审查和考虑”。她说，虽然大型医院拥有内部法律“火力”来做到这一点，但个体家庭医生可能需要外部帮助。
科西姆表示：“[医疗机构]提供者必须记住，尽管面临压力，但不要急于采用最新的花哨工具，期望它能彻底改变他们的实践或极大简化生活，而不考虑他们所承担的风险。”
弗劳德认为，人工智能在医疗领域既充满机遇也充满风险，但要实现其价值，加拿大最终需要改革过时的隐私法律——她表示，即使她本人有时也难以理解这些法律，而联邦政府打算解决这一问题。
弗劳德表示：“我们需要进行重大改革……当前体系无法满足我们的需求，必须加以改进。”
特色图片由Livingface Photography的Bard Azima提供。
【全文结束】
