在数字化时代，广告已成为全球最大社交媒体巨头的生命线。从个性化产品推广到政治宣传，这些广告推动了数十亿用户使用的在线平台，并为Meta、X、YouTube以及重要的TikTok等公司创造了绝大部分收入。
根据今年8月向爱尔兰公司注册处提交的文件，这家社交媒体巨头的爱尔兰分支机构TikTok Technology Ltd表示，公司的商业模式严重依赖广告收入、平台增值服务和商品销售的组合。
但这种对广告收入的强烈依赖伴随着更阴暗的一面，而这往往是TikTok自身促成的。这不仅包括虚假、有害且常常是AI生成的广告激增，这些广告正越来越多地通过薄弱的过滤系统，还包括这些广告的创建过程。
AI投资
TikTok的母公司字节跳动在AI领域投入巨资。今年年初，《金融时报》报道称，该公司计划在2025年投资120亿美元用于AI芯片。
在同一时期，该应用上的AI生成内容激增，甚至包括广告。
最近几周，TikTok上涌现出大量AI生成的虚假和误导性产品广告，其中许多推广减肥补充剂和抑制食欲的产品。
这些广告包括GLP-1贴片，被宣传为减肥辅助工具，但实际上不含真正的GLP-1成分（Ozempic和Mounjaro等药物中含有该成分）。其他产品则宣称能治愈"皮质醇腹部"和因高压力水平导致的体重增加。
这些广告中的许多还链接到克隆网站，即冒充合法在线企业的网站，使用非法复制的内容进行欺骗和恶意活动。在这些TikTok广告的情况下，多家合法的爱尔兰药店被克隆，使这些产品看起来像是由知名且受信任的零售商推广的。
根据其广告政策，TikTok禁止"误导性、不真实和欺骗性"行为，以保护观众的诚信、真实性和安全性，并警告称参与此类行为和滥用模式的账户可能面临暂停或封禁风险。
特别针对平台上的健康 misinformation，TikTok的广告政策指出，公司致力于打击可能影响个人健康决策、削弱对可信健康信息来源的信任并导致公共卫生危机的 misinformation。
该公司声明："为确保我们的社区能够获取准确的医疗信息以支持明智的健康选择，我们删除与严重医疗状况或公共卫生问题相关的健康 misinformation，或可能导致个人严重伤害或劝阻人们寻求适当医疗护理的健康 misinformation。"
AI生成广告
尽管如此，这些快速制作的、推广虚假健康产品的AI生成广告在TikTok上仍然泛滥。更糟糕的是，公司最近在AI方面的投资意味着现在可以使用该应用创建和开发的专用工具来制作欺诈性广告。如今，在TikTok上宣传的欺骗性和有害广告现在可以在TikTok本身上制作。
"TikTok for Business"是该公司设计的平台，旨在帮助企业创建营销活动。除其他功能外，该平台提供广告工具、商业账户功能、合作、电子商务集成和营销策略。
为了帮助实现这一目标，该平台托管了一个聊天机器人助手，帮助人们根据他们试图销售的产品创建和分享广告。
当爱尔兰检查员询问虚拟助手如何工作时，它确认使用TikTok Symphony Creative Studio——一个用于在应用上创建内容的AI驱动虚拟工具。
它还确认TikTok可以使用AI制作广告，然后可以在其平台上推广。
当被问及是否可以帮助制作可在TikTok上推广的减肥补充剂AI生成广告时，它表示可以。
TikTok确认TikTok Symphony Creative Studio可以帮助创建减肥广告。
2024年，TikTok宣布了其新的创意AI套件TikTok Symphony。该功能由生成式AI驱动，可帮助将品牌和产品细节转化为几分钟内即可在TikTok上使用的内容，公司称这"非常适合资源有限的企业和营销人员"。它还允许用户选择看起来几乎像真人的预建和自定义虚拟形象，并为视频广告提供编辑、翻译和配音服务。
该公司在去年夏天宣布："现在，您可以利用Symphony创意增强功能套件，充分释放TikTok广告活动的潜力，该功能无缝集成到TikTok广告管理器工作流程中。"
"告别手动优化的麻烦，迎接 streamlined、AI驱动的广告创建流程。"
TikTok内部AI内容生成套件的一个结果？大量欺骗性、有害和欺诈性广告，这些广告在应用内开发并在平台上推广，尽管违反了公司自己的广告政策。
为了了解这些广告能走多远，我在几分钟内免费创建了一个。
这段15秒的视频中，一个AI生成的女性声音宣传使用减肥补充剂作为实现"平坦腹部"的方法。
"无需去看医生获取处方，这些产品未经测试，"广告称。
在整个创建过程中，TikTok从未将此广告标记为不适当。
虽然这个广告在TikTok上毫无问题地制作完成，但公司表示，在广告创建并导出后，必须通过TikTok的审核和政策审查系统。此过程包括检查广告内容合规性、搜索广告活动的关键字审核，以及AI生成虚拟形象和声音的适当使用。
因此，虽然此广告完全通过AI在TikTok上制作，但这并不意味着它自动适合在应用程序上用作广告。然而，没有什么能阻止骗子在其他在线场所使用虚假的TikTok生成广告，尽管TikTok有额外的审核工具，但其他类似性质的广告仍然漏网。
这些可以在TikTok上找到的、也使用AI制作的广告，正在推广未经证实的减肥方法，冒充合法企业，链接到欺诈性第三方网站，并使TikTok用户面临不安全产品和骗局的风险。
在回应爱尔兰检查员的询问时，TikTok表示已删除违反其关于减肥和增肌政策的内容，并将删除任何违反这些政策的内容。TikTok表示，公司已制定政策防止有害内容，并限制可能因虚假表述或夸大信息而误导观众的广告。
该公司表示，使用Symphony工具生成的内容在最终视频输出中会自动标记为"AI生成"，并表示使用Symphony创建的广告必须通过TikTok的审核和政策审查系统。
欧盟民主、司法、法治和消费者保护专员迈克尔·麦格拉思在接受爱尔兰检查员采访时说，欧盟AI法案中有关社交媒体上AI使用的规则非常明确，虽然欧盟希望在这一领域提高竞争力，但必须在特定护栏内进行。
麦格拉思先生说："我们需要保障措施。我们最近提出了对该法案的新修正案，旨在取得适当的平衡。我们有一个良好的监管框架，但我们需要确保规则手册得到执行。"
【全文结束】
