本文转载自STAT新闻网站，该网站是《波士顿环球报》在健康与医学新闻方面的合作伙伴。欢迎在此处订阅STAT的免费晨间简报。
深度伪造图像能误导观众、颠覆选举、煽动暴力。研究人员表示，它们同样可能扰乱医疗照护。
在周二（12月17日）发表在《放射学》期刊上的一项研究中，一个国际研究团队测试了17名放射科医生能否区分真实X光片与ChatGPT生成的X光片。当最初被要求根据这些合成图像对患者进行诊断时，只有41%的医生察觉到任何异常。即使他们知道要留意深度伪造的X光片，其准确识别率也仅为75%。
这些图像并不难生成：研究人员使用简单的提示词，就让ChatGPT生成了具有特定解剖位置、疾病和噪声水平的X光片。然而，尽管这些模型能轻易生成逼真的X光片，它们却无法可靠地检测出伪造品。四个多模态模型（包括生成这些图像的模型本身）准确区分深度伪造图像的几率仅在57%到85%之间。
“如果你把同一张图像交给ChatGPT，它无法确定这是AI生成的还是非AI生成的，”研究的主要作者、纽约西奈山医院生物医学工程与影像研究所的博士后研究员米卡埃尔·托尔德曼说，“这有点令人不安。”
尽管目前尚无证据表明深度伪造X光片已在医疗系统内造成混乱，但一些放射科医生表示，现在正是确保这种情况不会发生的时候。“深度伪造技术的广泛普及可能会加速公众对医疗机构信任的侵蚀，”两位放射科医生在一篇相关社论中写道。
STAT就深度伪造可能在医学领域引入哪些风险，以及谁该负责将其最小化，采访了托尔德曼。以下采访内容经过精简，以保证清晰和长度。
是什么促使你测试放射科医生识别深度伪造X光片的能力？
ChatGPT发布了这个新的图像生成工具，在网上引起了广泛关注。我们尝试着看看ChatGPT生成的图像是否逼真，结果发现它们出奇地逼真。它们几乎与那些专门用于生成图像、并经过数百万张图像训练的专业模型一样好。
于是我们想，也许应该问问放射科医生：你们能区分真实图像和伪造图像吗？我们发现，这些由LLM（大语言模型），特别是ChatGPT生成的合成X光片，对于经验丰富或缺乏经验的放射科医生来说，确实不容易与真实X光片区分开来，而且对于LLM本身也是如此。
那么，为什么ChatGPT不能始终如一地识别出自己的输出？是不是没有签名？
不，没有元数据。我的一位朋友今天告诉我，他们可能正在添加某种元数据来标记哪些图像是由LLM生成的，但在研究进行时，图像中没有嵌入任何元数据。所以，如果图像足够逼真，即使是大语言模型也无法判断这是AI生成的还是不是——尤其是因为这些模型大多没有记忆。
当我尝试做这个测验时，我的得分大约是75%。我显然不是放射科医生，所以我惊讶地发现自己的表现与你研究中的训练有素的放射科医生相似。
你在尝试做这个之前，有没有看过文章？
哦，是的。
通过看文章、图片和描述，你实际上已经进行了一些训练。所以，与那些不了解任何可能暴露AI图像迹象的人相比，你已经有了很大进步。一些放射科医生甚至不知道ChatGPT可以生成图像。
你自己生成了这些深度伪造图像，也看过很多。你认为现在你能100%识别它们吗？
几天前我试着玩了一下，正确率大约在85%到90%之间。所以，即使是我，也无法确定哪些是真实的，哪些是伪造的。
同样令人惊讶的是，放射科医生在区分ChatGPT生成的X光片和由专门放射科胸部X光模型生成的X光片方面，并没有表现得更好。这两种方法有什么区别？
大多数专门针对医学影像训练的图像生成器，都是针对特定器官进行训练的。例如，在这项研究中，我们包括了RoentGen，它专门针对胸部X光片进行训练，只能生成胸部X光片。它们使用大型数据库（公共数据库或医院私有数据库）进行训练。
而具有图像生成能力的大型语言模型，你可以生成胸部X光片，也可以生成手部、肩部等任何部位的X光片。对于ChatGPT或Gemini，我们并不真正知道它们的训练数据集中使用了什么。
这很惊人，一个明确为放射学训练的东西，看起来与一个仅靠互联网上任何内容训练的东西如此相似。
所有这些大语言模型都在海量数据上进行训练，它们拥有互联网上可用的数百万计的数据。当然，它们会非常擅长执行甚至最初并非为其设计的任务。
这将在医学领域造成多大的现实问题？放射科医生真的需要应对准确识别深度伪造医学图像吗？
放射科医生是接触最多的人。但任何医学博士或任何准备查看医学图像的人都应该意识到这一点。任何人都可能在某个时刻面对一张伪造的X光片，应该能够区分真实和伪造。
过去几年里，医疗系统遭受了大量黑客攻击，黑客试图窃取患者数据。未来，他们很可能会试图注入伪造的医疗数据——这比窃取更糟糕，因为届时你将无法区分病历的哪一部分是真实的，哪一部分是合成的。
在没有这种蓄意、恶意的行为下，深度伪造医学图像正常情况下是不可能被引入医疗记录的，对吧？
目前是没有办法。但这就是黑客世界的问题，技术总是在发展。有些人利用深度伪造来欺骗人们给他们钱，所以我不认为它不会发生在医学图像上。
别给他们出主意了。
是的，当然。
有没有证据表明，像这样的合成图像已经造成了这种伤害或混乱？
我不这么认为。但已经有公司在研发检测合成医学图像的解决方案。所以，我认为这个问题每个人都正在非常认真地考虑。如果他们正在开发解决方案，那么他们就是在预期这种风险。
你在论文中也提到了潜在的欺诈问题。
是的，这种情况发生过几次，比如有人试图进行虚假的保险索赔，然后使用了别人的X光片。现在，你不需要使用别人的X光片，你可以直接生成一张带有你想要特定疾病的伪造X光片。
你认为在医学的其他领域，深度伪造也是特别值得关注的问题吗？
任何类型的医疗数据都可能被引入患者病历中。比如说，一份医生的临床记录PDF文件可以完全被伪造并引入患者病历中。这些LLM可以非常容易地生成这种文件。
有一些放射学AI公司宣传能够创建用于研究目的的合成数据集——比如你想研究一种罕见病症，但你没有很多真实的X光片。这与ChatGPT的合成图像有什么区别？
区别在于，放射学AI公司当然比ChatGPT、Gemini或任何LLM能生成的图像更先进。它们可能更逼真，更专注于特定疾病。
使用合成图像有很多充分的理由。你可以增加数据集来训练AI模型执行某些任务——例如，在医学图像中分割病变或进行骨折识别。甚至用于教育目的——如果你想培训学生，可以创建一张带有特定疾病的伪造X光片并展示解剖结构。你不需要在系统中找到特定的病例，因为你可以生成它。
如果这些专门的放射学模型被深度伪造污染，对其有效性是否存在风险？这种情况发生的可能性有多大——可能也需要有恶意行为者在那里注入深度伪造，对吧？
你让我别给它们出主意，但你正在给它们出主意。是的，当然，如果有人要生成伪造图像，他们可以完全扰乱现有的AI工具，降低其性能，因为它会基于伪造的病理学去学习。假设恶意行为者引入了一些完全不逼真的伪造图像，那么性能会被完全摧毁。
告诉我，现在这些LLM的另一边发生了什么——当一个患者上传自己真实的X光片让模型解读时。
ChatGPT、Gemini或Claude，如果你给它们一张X光片，它们不会给出正确的医学答案。即使基于它们庞大的训练数据集，它们仍然不足以给出好的解读。有时它们甚至无法给出正确的解剖结构。如果你输入一张手臂的X光片，它们可能会说，“哦，这是一条腿。”
所以放射科医生无法区分，模型也无法区分。那么，该领域需要采取什么合理措施来防范我们讨论过的这些风险？
最好的解决方案是加水印。你可以在图像中添加并嵌入某种隐藏线索，表明该图像是由像ChatGPT这样的LLM创建的。你也可以通过添加带有医院名称或进行X光检查的技术人员姓名的水印，来区分真实图像和伪造图像。
随着模型的改进，区分它们将变得越来越困难。所以，我们迟早需要某种水印。
在那之前，你希望人们从你的测验中得到什么？
在此期间，专业教育是一个很好的解决方案。在查看这些伪造X光片时，有一种方法可以快速提高识别能力。一旦你意识到这些线索，大部分都能比较容易地识别出来。那么，如果你是一名放射科医生——即使你不是，比如，你是一名骨科医生、风湿病学家或神经病学家——你就能说，好吧，这很奇怪，让我再仔细看看。
【全文结束】