在数字化时代，广告已成为全球最大社交媒体巨头的命脉。从个性化产品推广到政治宣传，这些广告为数十亿用户使用的在线平台提供动力，并为Meta、X、YouTube以及至关重要的TikTok等公司创造绝大部分收入。
根据今年8月提交至爱尔兰公司注册处（CRO）的文件，TikTok的爱尔兰分支机构TikTok Technology Ltd表示，公司商业模式高度依赖广告收入、平台增值服务和商品销售的组合。但这种对广告收入的强烈依赖伴随着阴暗面，且往往由TikTok自身促成——不仅包括虚假、有害且日益增多的AI生成广告通过薄弱过滤器泛滥，更涉及这些广告的制作过程。
TikTok母公司字节跳动已在人工智能领域投入巨资。今年初，《金融时报》报道称该公司计划在2025年斥资120亿美元用于AI芯片。同期，该应用上AI生成内容（包括广告）的使用量激增。近几周，TikTok平台涌现出大量AI生成的欺诈性广告，推销虚假减肥补充剂和抑制食欲产品。这些广告包含所谓"GLP-1贴片"（宣称是减肥辅助工具但不含Ozempic和Mounjaro药物中的真实GLP-1成分），以及声称能治愈"皮质醇肚"和因高压力导致体重增加的产品。许多广告还链接至克隆网站——这些网站非法复制合法在线企业的内容，冒充知名可信零售商进行欺骗，包括多个被克隆的爱尔兰合法药店。
根据其广告政策，TikTok禁止"误导性、不真实和欺骗性"行为以保护观众诚信、真实性和安全性，并警告称从事此类行为的账户可能面临停用或封禁风险。针对平台健康 misinformation，TikTok明确表示致力于打击可能影响个人健康决策、削弱对可信健康来源信任并引发公共卫生危机的 misinformation。公司声明称："为确保社区能获取准确医疗信息以支持知情健康选择，我们将删除涉及严重医疗状况或公共卫生问题的 misinformation，或可能导致个人严重伤害或阻碍其寻求正规医疗的 misinformation。"
然而，这些快速制作的AI生成虚假健康产品广告仍在TikTok上泛滥。更糟的是，公司近期的AI投资意味着欺诈广告现在可通过该应用自研工具制作——如今欺骗性有害广告竟能在TikTok内部生成。"TikTok for Business"是该公司设计的营销平台，提供广告工具、商业账户功能、合作推广、电商整合及营销策略。该平台内置聊天助手，可帮助用户根据销售目标创建广告。当《爱尔兰考察家报》询问该虚拟助手运作机制时，其确认使用TikTok Symphony创意工作室——这款AI驱动的虚拟工具可快速生成应用内容。助手还证实TikTok能用AI制作广告并在平台推广，当被问及能否帮助制作减肥补充剂广告时，明确表示可行。
2024年，TikTok推出全新创意AI套件Symphony，该生成式AI功能可将品牌细节在几分钟内转化为TikTok适配内容，公司宣称其"完美适用于资源有限的企业和营销人员"。它提供近乎真人的预建及自定义虚拟形象，并支持视频广告的编辑、翻译和配音服务。去年夏天，公司宣布："通过Symphony创意增强功能套件与TikTok广告管理器工作流的无缝集成，您可充分释放广告活动潜力。告别手动优化的繁琐，迎接精简高效的AI驱动广告创作流程。"
TikTok内部AI内容生成套件的后果之一，便是大量违反公司广告政策的欺骗性有害欺诈广告在应用内生成并推广。为测试广告制作边界，记者仅用几分钟就免费创建了一则15秒视频：AI生成的女声推销减肥补充剂以实现"平坦腹部"，并声称"无需医生处方，这些产品未经测试"。整个创作过程未被TikTok标记为不当内容。
尽管TikTok声明广告创建导出后需通过平台审核系统（包括内容合规性检查、搜索广告关键词审核及AI虚拟形象/语音的规范使用），但这则纯AI制作的广告在TikTok上畅通无阻。问题在于诈骗者可将此类虚假TikTok生成广告用于其他平台，且即便平台加强审核工具，类似广告仍在漏洞中逃逸。当前TikTok上存在的这些AI生成广告，正推广未经验证的减肥方法、冒充合法企业、链接欺诈第三方网站，使用户面临危险产品和诈骗风险。
针对《爱尔兰考察家报》质询，TikTok表示已删除违反减肥增肌政策的内容，并将持续处理违规内容；公司称有政策防止有害内容，将限制因虚假表述或夸大信息误导观众的广告。TikTok强调，Symphony工具生成的内容会在最终视频中标注"AI生成"，且使用该工具创建的广告必须通过平台审核系统。
欧盟民主、司法、法治及消费者保护事务专员迈克尔·麦格拉思向《爱尔兰考察家报》表示，欧盟AI法案对社交媒体AI使用有明确规定，"我们需要保障措施。我们最近提出了法案新修正案，旨在取得适当平衡。我们已有良好监管框架，但必须确保规则得到执行。"
【全文结束】
