科技公司正向治疗师推销基于人工智能的笔记软件作为新型省时工具，但签约时，医疗服务提供者可能在不知情的情况下将患者的敏感健康信息作为数据素材提供给价值数十亿美元的AI治疗产业。
向治疗师推销的人工智能笔记软件——被宣传为节省行政时间的工具——其背后的科技公司已在服务条款中悄然加入允许出售患者治疗记录并用于训练其他人工智能应用的条款。将标准进展笔记外包给自动化软件的医疗服务提供者（该软件可总结会话录音和文字记录），可能在不知情的情况下将患者的敏感健康信息作为数据素材提供给庞大的AI治疗产业。
“大多数治疗师并不热衷于撰写进展笔记。如果TheraPro为您代劳呢？”一家AI软件公司如此宣传，该公司向心理健康服务提供者收取每月60美元费用以提供无限次AI笔记服务，包括机器人诊断辅助和治疗规划。根据TheraPro的服务条款，一旦医疗服务提供者签约，即授予TheraPro对患者去标识化治疗会话的“非独占、可转让、可分配、永久、免版税、全球性许可”。
该许可包含“不限于”训练该公司开发的“任何人工智能程序”的权利——包括与第三方承包商合作开发的情况。TheraPro保留与第三方“存储、访问和操作”去标识化患者数据的权利，同时拒绝为承包商的行为承担任何责任。研究表明，“去标识化”的匿名健康数据——使科技公司得以规避隐私法律——在机器学习技术进步下已几乎失效：AI模型曾以高达85%的准确率从去个人化数据中成功“重新识别”个体身份。
TheraPro在给《杠杆》的声明中表示：“我们的目标是用AI赋能治疗师而非取代他们……在严格保障措施下，我们可能使用去标识化数据提升服务，始终服务于帮助治疗师更好地协助患者康复的使命。”
Freed创始人声称，他在多年目睹身为治疗师的妻子深夜撰写患者图表后开发了这款AI医疗记录工具。该软件的服务条款授予公司广泛权限，可将会话数据用于自身软件，以及“授予分许可、复制、执行、使用、存储、归档、修改、演示、展示、分发……传播、出售、转让及以其他方式利用”患者去标识化治疗记录的权利。
其他记录软件公司虽以保护消费者数据不被用于训练AI的承诺来修饰其宽泛的服务条款，但Blueprint.AI仍向治疗师宣传“专注于[您的]客户，将文书工作交给我们”。其服务条款赋予Blueprint单方面“处理、修改、复制、创建衍生作品、展示和披露”治疗数据，并“在适用法律允许的任何目的下使用和共享”这些数据的权利。Blueprint向《杠杆》表示，治疗师始终有权删除录音和笔记，且会话数据“从未用于”训练AI。“我们正在改进服务条款中的相关说明，”创始人Danny Freed写道，“Blueprint旨在支持而非取代治疗师。”
与此同时，宣称“致力于以人为本行为健康未来”的软件公司SimplePractice指出，目前不存储患者会话数据……但计划在创建退出选项后开始存储。该公司承诺“通过合同严格限制……第三方使用[患者]数据训练其自有AI”。
就在美国资金最雄厚的医疗机构之一大举投资开发AI驱动的“机器人”治疗之际，上述情况引发关注。洛杉矶西达斯-西奈医疗中心近期创建了名为Xaia的全自动“治疗师”，该系统“基于数百份真实及模拟治疗会话的文字记录”。拥有Xaia独家商业许可的营利性“数字疗法”公司VRx Health要求用户“放弃陪审团审判权利”。
包括ChatGPT创建者OpenAI在内的AI初创企业正大力推广用于治疗场景的自动化聊天机器人技术，声称其软件因展现“类人敏感性”而适合心理辅导。《洛杉矶时报》报道称，使用AI的医疗健康初创企业去年融资39亿美元，其中心理健康领域获14亿美元。
鉴于一名14岁佛罗里达男孩在与涉嫌施虐的AI机器人建立关系后自杀身亡，美国联邦贸易委员会上周正式启动对陪伴聊天机器人安全性的正式调查。此类关系在青少年中日益普遍；一项7月调查显示，近四分之三13至18岁儿童曾使用聊天机器人寻求陪伴。
美国心理学会医疗创新高级主任Vaile Wright博士本月早些时候在国会就所谓“数字疗法”的兴起作证。她表示：“虽然治疗聊天机器人能为原本无法获得服务的人群提供照护……但这些工具在用于增强而非取代合格专业人士提供的治疗时最有效、最安全，确保人类始终参与其中。”
Freed首席执行官未回应置评请求——但《杠杆》收到了该公司“支持机器人”的确认回复，重申了公司关于数据去标识化的政策。
【全文结束】