编者按：随着视频时代的到来，大量视频内容涌入互联网，在YouTube这类视频网站上也随之出现了暴力色情等违法内容。尽管Facebook和YouTube都纷纷推出了DeepText和Content ID等AI审核机制，但要准确处理这些繁杂的内容，人工审核员仍然是不可缺少的存在。

　　据统计，在YouTube上，全球范围内每分钟的视频高达500小时，人工审核员面临着不小的压力。其中，在谷歌位于奥斯丁的审核师主要负责审核具有暴力色情等极端视频，在这些极端视频内容的持续影响下，不少人罹患PTSD、长期焦虑等精神问题。

　　YouTube在今年初，将内容人工审核团队大量裁撤，全部替换成为AI进行内容审核。

　　所以，今年4-6月整个第二季度里，YouTube线上的所有视频，都是由AI进行官方的内容审核。这也是YouTube有史以来第一次整一季度，没有人工审核员参与内容初审。

　　这一大步跨越，带来了不小的后果，YouTube在近期叫停这项举措，并且大批返聘在年初解雇的人工审核团队。

　　AI替换人工：下架视频数创纪录

　　AI审核被叫停的重要原因之一，就是AI审核的规则相较于人工，更为严格，甚至会导致误伤。

　　根据Google在定期的透明度报告中提到：在2020年AI接管内容审核的4-6月中，共有1100万个视频被AI标记违规并下架，这些视频主要来自于美国、印度和巴西。

　　但是，在今年的第一季度里，被鉴定违规并下架的视频，仅仅只有660万。而 从人工换成AI之后，被下架的视频数几乎翻了一番。

　　因为AI审核遭下架的视频，占全部下架视频的95%

　　

　　在被AI下架的1100万个视频中，多数为色情、虚假、涉恐犯罪类型，但是也有不少是误伤。

　　其中，就有32万个被AI标记下架的视频提出了申诉，最后近半数都通过二次审核，并重新上线。而在过去，进行申诉的视频，只有25%左右可能重新上线。

　　YouTube的审核AI，以一己之力，让YouTube的播主们瑟瑟发抖，花更多时间自查内容，一时间怨声载道让YouTube头疼不已；大量的申诉，还给YouTube团队，增加了不少重新审核的工作量。

　　人工再上位：时机尚未成熟，AI仍需努力

　　在年初YouTube裁减人工审核团队前，全职或外包的审核岗位多达10000个。

　　这些人工审核员分布在Google的全球办公室，或是外包供应商的各个办公点。

　　万人团队：巨大运营成本

　　人工审核员的岗位要求并不低，比如要负责中东地区的内容审核岗位，需要掌握阿拉伯语和阿拉伯方言语系，并对中东地区上传视频进行审核，以便及时标记出涉及恐怖、暴力、煽动内容的视频。

　　这样的工作，每周需要审核500小时以上的视频，初级岗位的薪水可以达到18.5美元/小时，年薪可达37000美元左右。

　　再资深的内容审核岗位，需要掌握一些的法律知识，不仅能得到Google全职员工的待遇，还可以获得近100000美元的年薪。

　　从菲律宾的青年外包工人，到湾区的风控运营，

　　都在内容审核中发挥着重要作用

　　风光的背后，Google也同时在承担着不小的成本，这也导致了在今年疫情之际YouTube对人工审核岗位的裁撤。

　　这次返聘YouTube也提及：疫情让人工审核成本变高、难度加大。当初迫不得已，必须在人工干预不足和AI过度干预两者之中，选择了AI。

　　人工审核：边缘职业身心俱疲

　　内容审核不是一份简单的工作，不仅每周有固定的工作指标，还要长时间面对儿童色情、暴力、恐怖类型的画面，往往也会让人身心俱疲。

　　《华盛顿邮报》《财富杂志》等美国主流媒体均对内容审核员这一职业，做出过深度报道。接受采访的内容审核员，无一例外都表达了这份职业，对自己的身心健康产生了强烈的负面影响。

　　《财富杂志》用带着防毒面具的审核员，

　　比喻审核工作给人带来的心理创伤

　　媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善，比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。

　　人工还是AI：不用着急下定论

　　人工审核的支出、对人心理的伤害、机器学习的技术进步，这些都推动了近年各平台对自动化内容审核的研究和快速应用。

　　AI虽然有一定的误伤几率，但是在对违规内容的审查中，的确展现了超过人工审核的高效。

　　YouTube首席产品官Neal Mohan向英国《金融时报》回应人工审核重回岗位时，提到了一组数据「被AI标记删除的1100万个视频中，超过50%的视频，在没有用户播放前就被下架；超过80%的视频，播放10次以内就被下架。」

　　YouTube作为大规模用AI代替人工的先行者，势必会踩坑，但同时也为其他公司甚至全社会，指明了人与AI协同关系中更加清晰的发展方向。

　　这样的实验虽然折腾，但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据，也让媒体和社会在接受未来的不确定性，有更多的共识和信心。

　　谁知道写文章的我，是不是个AI呢？

　　

　　The Verge：《YouTube brings back more human moderators after AI systems over-censor》、《THE TERROR QUEUE》Fortune：《Why Thousands of Human Moderators Won’t Fix Toxic Content on Social Media》华盛顿邮报：《Content moderators at YouTube, Facebook and Twitter see the worst of the web — and suffer silently》Wired：《As humans go home, Facebook and YouTube face a coronavirus crisis》