当妈妈兼创作者Cathy Pedrayes在圣诞节前后浏览TikTok时，她开始注意到许多账号使用AI头像来推广假冒产品。由于当时正值购物季，她并没有多想——直到她偶然看到一个既荒谬又危险的视频。这个视频中，一名女子声称自己做了13年的“臀部医生”，并分享了她在住院期间学到的秘密建议。她的神奇解决方案是亚马逊上的一种补充剂，用于对抗缺铁，并推荐了一份健康通讯，承诺提供减肥、肠道清洁和更好的健康建议。Pedrayes知道这是假的，但她也看到这个视频有520万次观看。进一步搜索后，她发现还有数百个类似的视频。
这一发现是社交媒体平台自人工智能生成器开发和普及以来面临的最新问题之一：AI医生广告。现在，制作AI比以往任何时候都更容易，因此，那些使用AI头像冒充医疗专家的广告正在渗透到社交媒体的健康生态系统中。这不仅仅限于一个应用。在Facebook、Instagram、X和TikTok上，一种特定类型的AI健康视频——即使用AI头像来说服人们相信其医疗专业知识——已成为账户说服人们他们及其未经验证的产品可信的默认方式。与几年前的AI图像不同，这些视频中的许多结合了真实片段和AI，使得这些头像在第一眼看起来非常逼真——并且它们的编辑方式与视频应用程序中流行的直接对镜头内容相同。对于浏览者和创作者来说，互联网安全一直是一个主要关注点。但随着技术的发展，辨别难度越来越大，几位创作者告诉《滚石》杂志，平台有责任尝试阻止这种类型的AI传播——在它变得无法检测之前。
作为化妆品化学家，Javon Ford在TikTok上有近五十万粉丝，他经常揭露病毒性健康和护肤主张。他在意识到许多视频宣传有害的护肤潮流（如使用牛脂作为防晒霜）后，发布了关于AI医生的内容。在他的评论区的帮助下，Ford将一些视频链接到了一个名为Captions.ai的应用程序，该应用程序允许创作者将书面提示转换成由各种头像主持的视频。这些头像可以根据种族、性别和场景进行搜索——给用户提供了选择坐在车里、户外甚至走在街上的人的机会。这些头像似乎并不是完全由AI生成的，而是真实人物的视频，通过AI修改嘴唇以匹配输入的脚本。根据Captions.ai的服务条款，用户被禁止“冒充他人身份或使用[该应用程序]冒充任何其他人”，但不清楚这些规定是如何执行的。（Captions.ai的代表没有回应《滚石》杂志的置评请求。）
对于Ford来说，令人担忧的是，这些广告在一个已经缺乏背景信息和批判性思维的社交媒体环境中迅速增加。“我并不担心AI会在内容方面竞争。我是说，你有没有问过ChatGPT数学题？我的问题是，这些广告没有披露AI的使用，或者干脆就是赤裸裸的谎言。”Ford告诉《滚石》杂志，“科学素养处于历史最低水平。总体识字率也很低，不幸的是。重要的是人们能够继续批判性思考，并变得更加警惕和注意我们如何吸收这些信息。”
媒体监督组织Media Matters最近的一份报告发现，TikTok上有数十个账号使用“健康流行词”、AI生成的影响者和伪造的个人证词来推广各种补充剂和健康产品。Media Matters的高级调查研究员Olivia Little告诉《滚石》杂志，TikTok上的“健康骗局”在过去四年里变得越来越复杂，她认为这非常危险。
“这是一个消费者安全问题，也是一个用户安全问题，因为有一个公司或账户网络冒充医生、外科医生等医疗专业人士，甚至更恶意地提供虚假或伪造的证词，”Little说，“这一切都是基于他们给自己提供的虚假信誉，实际上是为了欺骗消费者。”
在过去三年中，随着公司将模型向公众开放，人工智能的进步迅速发展。但随着AI变得越来越精细且难以识别，社交媒体公司并没有以同样的速度制定AI内容的指南。Meta为Facebook和Instagram制定的内容指南要求对任何“数字化创建、修改或更改”的照片或视频加上AI标签。但快速搜索这两个平台显示，数十个AI生成的医生视频没有任何披露，仍在吸引大量观看。
TikTok也要求同样的披露，并禁止展示“虚假权威来源”的AI内容——比如假装是医生来推广补充剂的账号。在Media Matters发布报告后，被标记的账号被删除。TikTok的一位发言人向《滚石》杂志证实，这些账号因违反“垃圾邮件和欺骗行为”指南而被封禁，并删除了该杂志标记的其他个人资料和视频。但在TikTok删除这些账号一小时后，其他账号继续出现。（Meta拒绝置评。）
Pedrayes是一名拥有200万粉丝的创作者，她经常分享有关消费者安全和倡导的内容，她告诉《滚石》杂志，她的很多内容都围绕如何在网上保持安全，她认为随着程序和视频变得更加复杂，这将涵盖越来越多的AI主导的声明。
“现在我发现，即使是‘哦，我在网上看到了这个视频。我怎么知道它是真的？’这样的基本问题，人们似乎都缺乏这些技能，”她说，“我认为从平台的角度来看，算法会推广这些内容是很令人担忧的，而且这些内容还会出现在其他应用中，供其他创作者模仿。平台确实有责任采取更多措施来遏制这种情况。”
(全文结束)
