深度伪造是使用人工智能创建的高度逼真但虚构的视频。在心理治疗的背景下，关于使用深度伪造技术的初步研究正在出现，潜在应用包括哀伤辅导和与性暴力相关创伤的治疗。本文从医学伦理和卫生法的角度探讨了这些应用。首先，我们质疑深度伪造疗法是否可以真正构成良好的护理。在收集用于创建深度伪造的数据过程中，存在危险情况或触发患者的风险；当开始使用深度伪造疗法时，存在过度依赖和现实模糊的风险，这可能会使哀悼过程复杂化或改变对施暴者的认知。治疗师必须减轻这些风险，但在深度伪造疗法被使用之前，还需要更多的研究来评估其有效性。其次，我们讨论了深度伪造中被描绘人物的权利。我们描述了隐私和肖像权如何适用，并认为只要治疗是有效且最后的手段，在治疗师监督下谨慎处理深度伪造的情况下，接受治疗者的合法利益应优先于被描绘者的利益。我们建议采取特定的预防措施来保护被描绘者的隐私。最后，我们呼吁进行定性研究，以探索患者和治疗师之间的依赖关系和其他意外后果。总之，虽然深度伪造疗法具有前景，但相互竞争的利益和伦理法律复杂性要求在开发和实施这项技术的同时进行仔细考虑和进一步调查。
深度伪造疗法如何运作？
启用深度伪造疗法的初始步骤是训练技术，这涉及编码器和解码器，它们允许面部交换。首先，使用编码器创建所谓的潜在人脸。潜在人脸不是与实际人脸相似的图像，而是一组代表面部特征的变量，例如鼻形或眼睛颜色。这将为所需描绘的人物（即已故亲属或施暴者）和治疗师分别使用相同的编码器进行，以确保兼容性。然后，这个潜在人脸可以由解码器重建图像，该解码器仅基于要描绘的人的图像进行训练。在生成或转换阶段，解码器将治疗师的潜在人脸转换为施暴者或已故人员的图像。简单来说，治疗师将在一个单独的房间内录制自己，而录制内容将实时编码为治疗师说话的潜在表示，然后将其转换为所需描绘人物的动态图像（至少目前，保留治疗师的声音）。患者将通过虚拟方式看到这个深度伪造，可以在同一建筑内的另一个房间，也可以远程进行。尽管深度伪造可能在治疗中有多种不同的用途，但我们描述的过程是目前最常测试的，因此也是本文的重点。图1提供了深度伪造训练和转换过程的简化概述（图1A、B）以及治疗会话的可视化（图1C）。
使用深度伪造是否可以成为良好护理的一部分？
接下来，我们将考虑深度伪造疗法如何与良好护理的原则相关，特别是在对患者的影响以及使用该技术的治疗师的道德和法律义务方面。医疗保健主要受生物伦理原则、国家立法和专业指南的管理，治疗师在质量标准、治疗计划和一般权利和义务方面需要考虑的内容因国家而异。然而，超越国家管辖权的是，任何形式的治疗，包括使用深度伪造的治疗，都应从法律和伦理的角度被视为“良好护理”。
从法律和伦理角度看什么是良好护理？
大多数国家法律体系都包含“提供良好护理的一般职责”，这一职责在司法实践中也发挥着重要作用。履行一般护理职责意味着医疗保健提供者在照顾患者时，应遵守由职业本身制定的医疗专业标准，包括指南、协议、医学伦理守则等，以及健康立法和其他文件，以保障患者的权利和利益。良好护理意味着提供的护理是高质量的，即安全、有效、高效，并且根据患者的实际需求量身定制。欧盟（EU）关于医疗器械（特别是《医疗器械法规》）和人工智能（《人工智能法》）的强制性法规包括确保不安全、有缺陷或有害的医疗器械不会进入医疗实践或市场的规则：根据这些法规，用于治疗目的的深度伪造将被归类为医疗器械，从而属于高风险AI系统，受到更严格的要求。然而，需要注意的是，没有执法的法律框架是没有意义的，这一点在AI等新兴技术的动态领域尤为明显。
在治疗会话中引入深度伪造技术时，不仅需要尊重法律标准，还必须尊重核心生物伦理原则：尊重自主权、不伤害、有利和公正。这些原则在治疗环境中尤为重要，因为护理提供者、患者及其亲属之间存在依赖关系。首先，为了尊重自主权，医疗保健提供者应与患者彻底讨论深度伪造疗法的优缺点，并给予他们拒绝的机会，类似于任何治疗选项。其次，治疗师必须促进患者的福祉并尽可能减少损害：使用深度伪造应促进患者的生理、心理和社会功能，同时不应产生不成比例或不可接受的身体或心理副作用。不伤害原则还意味着在任何治疗中使用侵犯隐私的技术时，应适当考虑保密义务（参见“被描绘者的权利”部分）。最后，一旦基于深度伪造技术的良好护理成为可能，这种形式的护理应公平地向所有需要此类治疗的患者开放，除非这会给（精神）卫生系统带来无法合理承受的负担，例如在成本方面。因此，原则上，只要证明深度伪造技术的使用尊重了所有相关人员的权利，安全且利大于弊，不会不必要地增加卫生系统的负担，并且对所有人都可获得，法律标准和伦理原则就为在治疗中使用深度伪造留有空间。事实上，一旦证明深度伪造疗法构成良好护理，不使用它们甚至可能被视为疏忽，与专业标准不符。目前的问题是，深度伪造疗法的有效性尚未得到验证，其利弊尚不清楚。即使在明确不同情况下深度伪造疗法的利弊之后，这也不自动意味着治疗师可以向患者提供这种作为“良好护理”的疗法。也就是说，要求治疗的好处必须超过危害（比例性），并且与其他类似技术（如虚拟现实疗法、意象排练和传统暴露疗法）相比，它必须是最不侵入性的替代方案。深度伪造疗法是否优于这些及其他形式的疗法仍需进一步研究。只要不确定深度伪造疗法是否不仅满足上述良好护理的标准和原则，还满足比例性和辅助性标准，这种疗法应仅在临床研究背景下向患者提出。关于深度伪造疗法的潜在风险，我们预计会有几种需要特别注意的心理危害，接下来我们将使用两个案例进行描述。
深度伪造疗法的具体风险：过度依赖和现实模糊
对患者的潜在危害可能从收集用于创建深度伪造的数据过程中就开始出现，这主要取决于患者提供的内容。如果这些数据不可用，不应让患者（尤其是在性暴力案件中）处于危险境地以收集视频或照片。即使数据可用，从个人档案或社交媒体中检索照片也可能是一个“触发”时刻：这可能引起患者的情感痛苦，因为它唤起了与创伤相关的感受或记忆。这种风险并非深度伪造疗法所独有，其他形式的哀伤辅导也可能引发这种情况，但仍应考虑并与患者讨论，然后再决定是否使用深度伪造疗法。关于深度伪造疗法的新颖之处在于，人们可能会专门为未来的哀伤辅导开始策划活人亲人的视频内容，这可能对这些关系产生积极或消极影响（参见16，他们在讨论重生亲人聊天机器人的问题时提到了这一点）。然后，一旦开始深度伪造疗法，我们认为与个人创伤对象的模拟对抗可能导致与依赖和现实模糊相关的特定风险。首先，由于治疗师控制着深度伪造，治疗师-患者关系本身可能会受到影响：患者可能会开始将治疗师与施暴者或已故亲人联系起来，甚至认同他们。这可能导致困惑、不安全感或对治疗师的不健康依恋。其次，患者可能会对与生成图像的交流产生“依赖”。这种情况最有可能发生在哀伤辅导中。在荷兰纪录片中，一位即将与已故丈夫的深度伪造对话的女性表示，她感觉像是“和他约会”，并担心在治疗会话后会想更多次这样做。这让人联想到科幻剧集《黑镜》（Black Mirror）中的一集（《回来吧》），一名女性通过基于男友数字足迹的聊天机器人重生了她的男友，最终变成了一具栩栩如生的机器人。关于聊天机器人的研究表明，已有真实个体在应对哀伤时对通过Paradot或Replika等应用程序创建的聊天机器人产生了依恋。然而，与不受人类控制的聊天机器人不同，后者可能产生灾难性后果，深度伪造疗法应在治疗师控制下的安全和受控治疗环境中进行，治疗师控制深度伪造所说的内容。尽管如此，未来（近？）现有的“哀伤机器人”可能会补充深度伪造的已故人员图像。这将加剧现有治疗深度伪造的风险，并产生新的伦理问题：特别是，开发这些哀伤机器人的公司出于财务动机，可能故意旨在创造依恋和依赖，以保持（付费）用户的参与；并且可能会将个人对话数据出售给数据经纪人。尽管聊天机器人目前与深度伪造分开，但两种技术都模拟了人际互动，可能会干扰哀伤的一个重要元素：接受失去亲人的现实。这反过来可能导致所谓的“复杂哀伤”。复杂哀伤的一个方面是对失去提醒的过度回避，以及无法理解失去的最终性。这就是为什么许多形式的哀伤治疗都集中在接受失去上。虽然在治疗中使用深度伪造可能有助于接受失去（例如，通过与深度伪造进行告别对话），但使用深度伪造也可能强化已故人员仍在某处的感觉，阻碍对失去的完全接受。虽然在心理治疗中，深度伪造技术的直接欺骗问题不如在政治等其他领域的那么严重，但现实与非现实之间的界限仍然可能变得模糊。尽管患者理性上知道他们互动的深度伪造不是真人，但在情感和交易层面上，它可能感觉非常真实。这可能会带来严重的问题，不仅是在哀伤辅导中，深度伪造疗法可能会削弱与已故人员的真实关系。例如，性创伤受害者是否可能恢复对施暴者的错误且可能危险的信任感？治疗师应监测并尝试减轻这些依恋和现实模糊的风险，这可能需要根据每个患者的个人特征（例如，是否容易上瘾）和哀悼风格，以及使用类型和程度的不同方法。
被描绘者的权利：通过偷窃实现治愈？
深度伪造通常是在未经同意的情况下生成的。在未经同意的情况下使用自然人的形象引发了在治疗背景下使用这种技术是否具有法律和伦理依据的问题。我们首先描述法律背景，然后讨论在平衡接受深度伪造疗法的患者的治疗益处与被描绘者的权利（或被“偷走”的形象？）时涉及的伦理-法律方面。我们所说的“被描绘者”是指性暴力相关PTSD治疗和哀伤辅导中的施暴者和已故人员。
数据保护和肖像权
在欧盟，使用一个人的形象或肖像受《通用数据保护条例》（GDPR）的监管，该条例根植于隐私和个人自主的基本原则。GDPR强调了在处理个人数据时（尤其是敏感数据）获得明确且自由给予的同意的重要性。由于创建深度伪造需要收集个人数据（例如来自社交媒体平台的图像），并且深度伪造本身设计的关键特性是可识别性，它们无疑属于个人数据的形式。然而，这并不自动意味着被描绘者可以反对治疗中使用其深度伪造形象。在哀伤辅导的情况下，被描绘者已经去世，GDPR不适用于已故人员的个人数据（序言27），因此不能用于反对。成员国仍可在其国家实施的GDPR和国家健康法律中提供额外的死后隐私保护，但这在欧盟内部并未统一，只有少数国家赋予近亲同意处理已故人员数据的权利。美国同样没有联邦法律延伸到死后隐私；只有州法律。除数据保护立法外，某些司法管辖区还保护所谓的肖像权（例如荷兰）或人格权（例如美国），旨在保护个人形象或肖像，这也可能授予已故人员亲属有限的死后保护权。这种保护主要是为了防止未经同意的商业使用他们的形象或肖像，而不是个人使用。这类似于GDPR，后者不适用于仅用于个人或家庭活动的数据处理。然而，提供深度伪造疗法不能被视为后者，因为显然，这涉及到在专业治疗环境中使用某人的照片。因此，创建治疗性深度伪造应符合这些法律规定。
平衡治疗益处与隐私
这对我们的两个案例意味着什么？关于哀伤辅导案例，尽管缺乏明确和统一的法律规则，其中一位作者此前曾为死后隐私的道德权利辩护（尽管这种权利可能被活着的人的利益所超越）。深度伪造在道德上是有问题的，如果被深度伪造的人会反对他们被描绘的方式，我们认为即使被描绘者已故，也是如此，因为这违背了继续存在的“信息实体”的意愿。如果死者在生前明确表示反对深度伪造疗法（随着这种疗法在未来更加为人所知，这可能会成为一种情况），则使用其形象将是不道德的，甚至可能是非法的。这样做还会损害社会对心理治疗师的信任，如果这一行为被公开的话。当人在生前没有反对，或其遗愿未知时，我们认为如果对患者有明确的好处，深度伪造疗法在道德上是可以接受的。在可能的情况下，例如在临终疾病的情况下，最尊重的做法是在被描绘者生前征求同意（一些作者甚至建议创建数字“不要复活”指令）。潜在地，接受深度伪造疗法的人应与在世的家庭成员讨论此事，他们可能因担心扭曲亲人形象或工具化本身而感到冒犯。
关于PTSD疗法案例，当我们考虑性暴力的活人施暴者时，数据处理应基于同意，而这不太可能获得，或基于其他有效的法律依据，如治疗师和患者的“合法利益”。如何平衡非同意的深度伪造施暴者的权利与患者接受治疗的合法利益？可以说，施暴者的形象只是作为一种手段：他们的模拟可能会说他们不同意的话。在数据泄露的情况下，深度伪造可能会对施暴者造成“名誉损害”，因为它影响了他们的社会身份和声誉，当深度伪造视频被他人看到并相信时。还可以主张，根据GDPR，患者没有合法利益，因为在这种情况下，数据处理并不是“必要的”，因为有其他治疗方法可用。另一方面，正如van Minnen等人所述，深度伪造方法主要针对那些已经耗尽依赖想象或使用照片的传统治疗方法的患者。因此，如果深度伪造疗法对性暴力相关PTSD受害者有益，作为最后的手段，考虑到其严重的健康问题，我们认为在患者合法利益的背景下，未经同意使用深度伪造是可以接受的。尤其是因为在治疗环境中数据泄露的风险最小，并且可以采取各种保护措施，类似于心理健康护理中其他机密信息的保护。这一考虑与一项公众调查显示，当深度伪造（声音）变换用于治疗环境时，公众更容易接受。具体措施应在两个案例中采取，以保护被描绘者的隐私。首先，深度伪造及其创建中使用的任何个人数据应本地存储并安全保存。其次，鉴于治疗师不太可能直接参与深度伪造的创建过程，选择具有医疗或治疗应用专业知识的第三方至关重要，他们对隐私问题和网络安全有全面的理解。同样，作为数字媒介，患者将通过视频通话软件与深度伪造互动，应使用安全且专门用于治疗的软件，而不是依赖Zoom或Teams等通用商业公司，后者在数据存储、监控和使用方面可能不够透明。标准合同条款将有助于起草与创建深度伪造的技术公司和提供视频平台的公司之间的协议。第三，治疗师应确保在发生数据泄露时，视频显然是假的，例如，始终使用自己的声音而非深度伪造的声音，或在深度伪造中嵌入持久的水印。如果采取了这些预防措施，并且重要的是，深度伪造疗法是一种更好且更有效的常规疗法替代方案（见“使用深度伪造能否成为良好护理的一部分”部分），则治疗师和患者的合法利益很可能超过被描绘者可能有的任何隐私担忧。然而，他们的利益以及任何更广泛的社会关切仍应予以考虑。在方框2中，我们列出了一些在使用深度伪造疗法前需要考虑的要点。这份清单并不详尽，可能需要在深度伪造实际用于护理时进行更新。方框2
负责任地使用深度伪造疗法的考虑事项
- 护理质量： 治疗的有效性，利大于弊，并符合质量和安全标准，是使用深度伪造疗法的伦理前提。
- 替代方案的考虑： 在使用深度伪造疗法之前，应考虑并耗尽风险较小（暴露）疗法，无论是对患者的隐私担忧还是对被描绘者的隐私担忧，至少在明确利弊之前。
- 治疗师的监督和控制： 深度伪造疗法应由持证治疗师实时进行，由治疗师发出被描绘者的声音。如果开发出可以在家中由患者自行使用或与基于AI的聊天机器人结合使用的应用程序，应制定明确的规则，以确保在不受监督的家庭环境中负责任地使用。
- 被描绘者的同意和隐私： 原则上，创建深度伪造需要获得被描绘者的同意。在无法获得同意的情况下，例如描绘施暴者，患者的合法利益足以满足条件，但应结合适当的数据安全和治理措施，以保护被描绘者的隐私和肖像。这可能包括在视频中标记水印或使用治疗师自己的声音，以表明这是深度伪造，以及与深度伪造技术和视频平台提供商签订良好的合同协议。
- 社会关注： 在实际应用深度伪造疗法之前，应获得社会的认可，这可能需要公众对话；还应考虑更广泛的公平性问题，如平等获得深度伪造疗法和环境影响，再决定是否在心理健康护理中引入深度伪造。
结论
本文首次反思了深度伪造疗法的规范方面，这是一种可能有前景的新技术，但也可能在依赖和隐私方面产生深刻令人不安的含义。我们讨论了两个案例，提出了几个伦理和法律问题，尽管我们对这些应用的描述必然较为笼统，因为该技术尚未在标准心理健康护理实践中使用。要确定深度伪造疗法是否可以构成良好护理，需要对其效果、优点和缺点进行更多的伦理、法律、社会和心理学研究。临床评估研究应接受伦理和法律审查，考虑参与者可能受到的危害以及被深度伪造技术描绘者的利益，这些都是我们在本文中探讨的内容。我们认为，只要深度伪造处理得当且谨慎，受益者的合法利益应优先于被描绘者的利益。我们建议应进行定性研究，以探索接受深度伪造疗法的人员的过度依赖和其他潜在意外后果。此外，还需要进一步指导，以明确治疗师的具体责任，以及深度伪造技术在心理健康护理中如何满足欧盟新《人工智能法》的标准，该法可能将这种类型的AI系统归类为高风险系统。发展迅速，需要持续的跨学科规范反思，特别是如果聊天机器人也参与深度伪造疗法，这将加剧我们识别的潜在风险，并产生新的伦理法律问题。
(全文结束)