中国每天有上亿条短视频和图文内容被生产出来，在5-10分钟内就能被分发至用户的手机上。去年10月，平均每个中国人的手机接收了超过14GB的图文、视频。2015年，这个数字还不到0.4GB。

  维持一个复杂的系统，常常需要一个庞大群体难以想象的体力付出。在大城市里，是无处不在又无人在意的清洁工、骑手、货车司机。如同总能保持住高效、便利、整洁的大城市一样，在互联网世界，永远刷不尽的内容背后，不仅在于他们有极力宣传的算法系统，还离不开十万数量级的审核员的劳动。

延时、飘红与准确率

  2019年，郭晋（化名）入职了字节跳动在重庆的审核基地。与当时字节的合作公司人瑞人才签约，成为一名外包员工。

  公布当天绩效是固定环节，像上学时班里贴的成绩单，只不过，一点平常的可视化技巧让它的焦点更明确——远超过规定绩效考核的人会被标红，而低于规定则被标黄。月底绩效会根据日常绩效和错误率分出ABCD四个等级，连续拿两次D，就可能被辞退。

单日审核数字以“千”为单位计算，是所有受访审核员们的工作日常。知乎员工刘坊（化名）在职时，一小时最多可以看3000条评论。秦崤（化名）在B站视频审核组每天要处理1500条视频。

  时间对他们来说是最奢侈的。审核员都要被“延时”约束。一位曾对接过快手、字节、腾讯审核外包团队的技术人员介绍，短视频平台对延时容忍度最低，上限是10分钟，但实际上3-5分钟内就要审完放出一条内容。延时直接影响创作者的用户体验。

  为了控制延时，公司风险控制部门为审核员设计的辅助系统会加上一个“报警系统”。有的放在审核页面的左下角或右下角，当审核员超时，将弹出提醒;还有的会设计成一个倒计时窗口，挂在审核页面上。

  为了提高审核准确率，公司都会引入“盲审机制”，即“背靠背审核”。从文章库中设定10%-15%的文章，分配给两人审阅，如果审核结果不一致，将交给经验丰富的审核员三审。争议案例会进入案例库，供团队第二天复盘学习。

  今日头条前审核员章埕（化名）回忆，组内“背靠背审核”的一致率通常能达到90%，说明之前的一次次培训有效。

疲惫感与良心

审核工作机械、重复，像鞋里的小石子一样磨人，令人滋生难以承受的疲惫感。审核员们日常碰到最多的不是敏感话题，而是没完没了的 “垃圾内容”。

  UGC（用户原创内容）带来内容大爆发。快手、抖音等短视频平台的崛起，更是带来全民创作时代。每一次字节审核团队人数的爆发都是新产品增长的时候。

  刘坊认为，视频审核的压力要比文字高5-10倍。比起图文，视频给人的冲击力更大。视频内容的审核、举报后台充斥着各种软色情、真色情、暴力和血腥画面。刘坊觉得，自己作为用户看短视频都会感受到这些内容在撩拨和刺激人的情绪。

  审核员除了是清道夫外，也会被时代风向所塑造。

  劉坊对自己审核经历最为骄傲的一件事情是，曾参与建立了“自杀预警”机制。知乎上每年有几百人提问——想自杀怎么办？为此，他扩充了抓取关键词词库，从一个词“自杀”，到以“想死”“不想活了”两个方向为延伸，收集了30-40个关键词。系统抓到关键词后，会先屏蔽该内容，然后锁定用户位置，审核员会视情况联系当地警方。

机器永远没法取代人

  2014、2015年，今日头条审核员退回每篇文章都要手打理由。后台技术完善后，他们只需用鼠标勾选理由选项就行了。2016年开始，机器可以自动审核通过一部分文章，其他自动退回给人工审核。

  但AI（人工智能）永远没法取代人，今天的AI距离人类的智慧还有很远距离。当人们感知到审核的存在，总会想方设法绕开固定的规则。能最快填上缝隙的不是算法，一定是活生生的人。

  B站一些用户喜欢和秦崤玩猫鼠游戏，不断修改或投稿同一条视频，试探审核底线。最夸张的一次，有个博主来回和他拉扯了17次。按照B站当时的规定，一条投稿如果两次被退回，就会锁定。这名博主试图发表的是一个动漫混剪，集合了至少5部 “18禁动漫” 的片段。秦崤清楚地记得，对方一直借助视频简介向后台的他示威，态度从愤怒、咒骂到哀求，被锁定5次都无法发表后，他才作罢。

  2018年Facebook整改时，人们发现其自主检测的仇恨言论只占到了所有被标记内容的38%，而有超过60%的内容需要靠用户举报来发现。一部分原因是，其人工智能系统仍然难以辨别言论中的仇恨情绪。其创始人马克·扎克伯格在当时的国会证词中，表达了将来使用 AI 清除仇恨言论的计划。

  但计划仍然是计划。“哪怕到现在，也是人工审核为主，机器审核为辅，永远都会是如此。”曾在审核岗位工作过6年的杨阳（化名）说。

（摘自《财经》刘璐天、朱珊琨）

猜你喜欢化名延时字节课后延时服务咋能叫好又叫座？民生周刊(2021年15期)2021-08-10字节跳动：八年投资路，天下谁人不识君？中国商界(2021年5期)2021-05-23字节跳动瞄准教育等新业务在线学习(2020年3期)2020-09-10很远很远的“六一”少年博览·小学低年级(2018年6期)2018-10-15论延时摄影的类型与表现手法魅力中国(2018年41期)2018-03-22浅谈刑事案件中采取化名方式保护证人卷宗(2016年8期)2016-11-15一种“死时间”少和自动校准容易的Wave Union TDC软件导刊(2016年7期)2016-05-14让小星球动起来的延时摄影大众摄影(2015年7期)2015-07-01人类进入“泽它时代”恋爱婚姻家庭·养生版(2010年8期)2010-05-14中共党史中刘少奇同志等领导人的“化名”教育实践与研究·中学课程版(2009年6期)2009-09-11

相关热词搜索： 互联网 清洁工 审核员