人工智能在许多技术行业中发挥着重要作用，但目前仍然需要人类来审查和删除社交媒体平台上令人不安和有害的内容。斩首、儿童虐待和谋杀等视频最终会出现在全球网络审核员的收件箱中。
互联网和社交媒体渠道的安全问题变得越来越重要，公司面临越来越大的压力，要求更快地删除有害的照片和视频。尽管已经投入大量研究和资金开发技术解决方案，例如使用人工智能（AI），但目前这项任务仍由专门的人类审核员负责。这些审核员通常受雇于第三方公司，负责审核直接发布到大型社交网络（如TikTok、Facebook和Instagram）的内容。
BBC技术编辑Zoe Kleinman为Radio 4和BBC Sounds制作了一个系列节目《审核员》，她描述这些审核员的故事非常令人心痛。她还提到，这些审核员主要生活在东非。“有些我们记录的内容太过残酷，无法播出。有时我和我的制片人Tom Woolfenden录完音后，只是坐在那里沉默。”她说。
其中一位审核员名叫Mojez，曾是一名内罗毕的TikTok审核员。“如果你拿起手机打开TikTok，你会看到很多活动、舞蹈，你知道，都是快乐的事情。但在后台，我亲自审核了数百个恐怖和创伤性的视频。”他说，“我主动承担了这个责任，让我的心理健康承受打击，以便普通用户可以继续在平台上进行日常活动。”
据BBC报道，目前有多起法律诉讼声称这种工作摧毁了审核员的心理健康，一些前东非审核员联合起来成立了工会。据报道，2020年，Meta同意支付5200万美元（约4100万英镑/8100万澳元）的和解费，补偿因工作导致心理健康问题的审核员。
一位审核员向BBC解释说，由于目睹了儿童虐待，他发现自己很难与妻子和孩子沟通。
虽然这项工作非常适合由人工智能接管，但正如越来越明显的是，我们尚未完全控制人工智能技术，令人不安的内容很可能通过漏洞传播到全球。TikTok表示，人工智能技术会在人类审核之前对内容进行审核，但仍有大量内容通过，这表明人工智能尚未足够成熟以完全接手这一角色。
尽管他们的工作带来了创伤，这些人类审核员并不希望人工智能取代他们。Kleinman说，他们认为自己是一项至关重要的紧急服务。“连一秒钟都不会浪费，”团队中的一位成员David说。他要求匿名，因为他曾处理过用于训练病毒式AI聊天机器人ChatGPT的材料，使其不会生成恐怖内容。
然而，这种技术可能有一天会取代David的工作。OpenAI（ChatGPT的创建者）前信任与安全负责人表示，他的团队基于ChatGPT的文本构建了一个审核工具，该工具能够以90%的准确率识别危险内容。“当我意识到‘哦，这真的有效’时，我确实有点哽咽了。”他说，“[AI工具]不会感到厌倦，也不会感到疲惫或震惊……它们是不知疲倦的。”
然而，一些专家指出了人工智能和内容审核中存在的更多问题。“我认为这是一个问题，”格拉斯哥大学媒体与民主高级讲师Paul Reilly博士说，“显然，人工智能是一种相当粗略、二元的方式来进行内容审核。它可能导致过度封锁自由言论的问题，当然也可能错过人类审核员能够识别的细微之处。人类审核对平台至关重要。问题是，审核员数量不足，而且这项工作对那些从事这项工作的人来说极其有害。”
《审核员》可以在BBC Sounds上收听。
(全文结束)
