未受监管的AI听录员引发隐私与安全担忧
By Tom Williams on Aug 12 2025 08:18 AM
人工智能治理专家科比·莱因斯（Dr Kobi Leins）因拒绝医生使用AI听录员而被要求更换医疗机构。图片：提供方
当澳大利亚人工智能专家科比·莱因斯博士在为孩子预约专科医生时，拒绝使用AI转录软件后，该医疗机构告知她医生必须使用该技术，并建议她"另寻其他医疗提供者"。
据《信息时代》（Information Age）看到的邮件显示，该机构表示专科医生"因高负荷工作和有限时间，现无法在不使用AI转录工具的情况下及时进行评估"。
"他们给了我两个选择：使用他们坚持的AI系统，或寻找其他专科医生，"莱因斯表示。
最终预约被取消，押金也已退还。
在澳大利亚，医疗提供者可在非紧急情况下因任何原因拒绝接诊患者，但需以某种方式协助患者持续接受治疗。
莱因斯原本预约的机构使用的AI系统是澳大利亚本土平台，该系统会转录诊疗过程以保存患者健康信息。莱因斯表示，作为AI治理领域的工作者，她曾审查过该系统的隐私与安全能力，并强调"绝不会让孩子的数据接近这套系统"。
医生办公室的AI听录员兴起
AI听录员在澳大利亚医疗实践中越来越普遍，据行业调查显示，约20%的全科医生（专科医生比例较低）正在使用该技术。
这类软件通常以节省医疗时间、提升医患互动、减少职业倦怠为卖点。生成式人工智能可编写、整理和分析健康问题记录，部分系统甚至能提出后续诊疗任务，完成如撰写信件、表格等行政工作，并向患者致电随访。
但与大多数医疗设备不同，AI听录员目前基本处于无监管状态，由医疗机构自行决定使用工具及方式。
昆士兰大学信息系统副教授赛义德·阿赫拉格普尔（Dr Saeed Akhlaghpour）指出，AI听录员在准确性与数据留存方面已对患者和医生造成风险。他提到，已有部分临床医生报告AI听录员做出错误诊断。
此外，阿赫拉格普尔强调，软件新功能的更新若未经用户充分审查或重新获得同意是重大风险。供应商可能在澳大利亚境外处理敏感数据的问题同样值得关注。他表示："若数据在境外处理，患者信息可能不受澳大利亚隐私原则的同等保护。"
莱因斯曾任职于Bupa（保柏）健康保险公司和澳大利亚国民银行（NAB）的高级AI与数据伦理职位，她表示在职业生涯中已审查过200多个AI工具。
尽管对预约机构的回应感到失望，但让她更震惊的是，澳大利亚医疗从业者监管局（AHPRA）证实AI听录员未受治疗用品管理局（TGA）监管。
"问题在于，谁有责任证明这些工具足够可靠？谁能确保其符合法规要求？"她反问。
莱因斯认为，医疗实践机构正被AI公司推销的所谓"神奇解决方案"说服购买产品，但这些机构往往缺乏专业能力评估工具的隐私与安全标准。
她主张，AI听录员应建立全国性监管框架，以减轻医务人员负担并降低患者风险。
医疗AI听录员是否需要监管？
当《信息时代》联系AHPRA询问医疗AI听录员是否应受TGA监管时，官方未明确表态。但承认新AI工具给从业者带来"一些新的管理问题"，并表示监管机构正与其他部门合作制定指导方针。
"我们认识到，帮助从业者与患者讨论AI使用有助于建立公众信任并保障安全应用，"官方回应道。
澳大利亚皇家全科医学院（RACGP）同样未明确表态是否应由TGA监管AI听录员，但此前声明AI系统"需持续评估...以确保其适用性"。
该组织在AI在初级医疗中的立场文件中指出："可能需要设立新的澳大利亚监管机构，填补现有政府职能和立法的空白。"
阿赫拉格普尔副教授强调，对AI听录员实施"有针对性的、基于风险的国家级监管"将有助于预防隐私、安全和责任方面的潜在问题。他指出，尽管AI听录员声称不是医疗设备，但部分系统已具备医疗设备定义的功能，如提出诊断或治疗建议，这可能需要依据《治疗用品法》进行上市前审批。
TGA于7月发布的审查报告发现，某些提供诊断或治疗建议的AI听录员"可能违反了该法案"，并可能需要上市前审批。阿赫拉格普尔建议："监管应设定加密、留存、跨境传输和数据使用透明性的最低标准。"
周四接受澳大利亚广播公司（ABC）采访时，卫生部长马克·巴特勒（Mark Butler）被问及是否愿意让医生使用AI听录员。他称该技术是医疗咨询的"未来"，并表示联邦政府"正在努力确保其安全应用"。
"我知道这项技术已经在使用中，但我们必须非常谨慎地对待数据的处理和存储，"巴特勒说道。
知情同意的争议
莱因斯担心其他医务人员可能因患者拒绝使用AI工具而拒诊。她表示："让我担忧的是，整个行业似乎不给患者选择权。"
AHPRA此前指出，医务人员使用AI听录员需获得患者的知情同意，因为未获同意记录可能涉及刑事后果。
该机构未明确回应若患者拒绝AI听录员，医务人员是否必须改用传统记录方式，但根据规定，医疗机构可拒绝不接受AI记录的患者。
"同样，患者没有义务必须咨询特定医生，可随时因任何原因终止医患关系，"AHPRA强调。
阿赫拉格普尔副教授指出，他与同事的研究显示，患者知情同意是"AI医疗信任的核心"。他说："当患者明确知晓记录内容、存储位置、访问权限及用途时，更愿意给予有意义的同意。当医务人员能用简单语言解释防护措施并展示对工具的控制权（如暂停或删除录音），信任会增强。当数据使用模糊、怀疑信息超出护理团队共享或缺乏退出途径时，意愿会下降。"
【全文结束】
