我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

  • A+
所属分类:人生八九
摘要

小早说:一个人,经常看黄图,会怎么样?

有一群人,他们的工作就是屏蔽你在网络上无法看到的内容。
他们就是“鉴黄师”,也叫网络审核员。
许多人都以为鉴黄师很轻松、很爽,每天只需要看平台更新的内容即可。但实际上,鉴黄师看到这些问题内容时,他们能做的只有通过、删除。
 当一个人被无数次暴露在血腥、黄色、谩骂的环境下,心态逐渐失衡。殊不知,这些负责清扫网络垃圾信息的人,也是抑郁症高发的群体。
他们不仅需要996加班、工资低,还没有人能够保障他们的心理健康。
 曾有部讲述Facebook审核员的电影《网络审查员》(the cleaners),片中一位审查员,生前是负责审查自残视频,看过了数不清的自虐视频后,在家上吊自杀了。
 没有人关心他们的心理健康。
 他们之中:
有的人是海归硕士,抱着职业梦想进入今日头条成为“审核员”,最终却因升职困难、工作压抑,降薪去了一家创业公司;
有的人曾一天看4000多条黄暴信息,深夜给领导打电话哭着要辞职;
有的人曾是微博审核员,负责给明星控制负面舆论、但自己也被网暴,最后转行成了心理咨询师;
还有的人是网文平台审核员,除了文字,还要处理用户千奇百怪地、逃避审核机制的黄暴信息;
 以下是关于他们的真实故事:
 

一、干满一年就算资深员工

小鹿  前今日头条用户运营  25岁
月薪5000元、无法加薪、难以跳槽
今年,我接受了降薪、加班的新工作,就为了逃离“内容审核员”的工作。
在互联网公司,内容审核、电话销售,被称为两个最没前途的岗位。一旦你选择了,一手好牌就打坏了。
2017年,我从英国某大学研究生毕业,加入了一个互联网公司做运营。这家公司是某知名大厂,校招时十分“卡学历”,没有985背景很难走到最后一关面试。
我所在的组里有十多个实习生,其中本科都毕业自复旦、上海交大、武大等985院校,还有很多有海外留学背景的海归硕士。
我们有两个团队:初审的团队(由二线城市子公司、外包公司承包);还有就是运营团队,负责一线城市和复审,就是我所在的团队。   我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
复审团队会把初审团队评定为“安全”的内容,人工打上“优”、“良”、“一般”的标签,不同的标签决定内容的曝光推荐级别,直接影响内容数据。
按公司规定,用户上传的内容要在2小时内审核完,每天要完成全部当日新增内容审核。
为了保证内容审核“日清”,初审团队采用“三班倒”,这样24小时都有人审核。他们的KPI就是每天审了多少条、准确率多少。
第一次听见这个KPI时,我惊讶了,这完全是工具人啊!  我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
复审则轻松得多。但主管为了让我们提高效率,让程序员写了“警报装置”,只要有超时没审的内容,系统自动报警。
通常,我们吃个午饭回来,办公室里就警报声响成一片。
我们常自嘲是“人工智能”里的“人工”,一旦出现了审核纰漏,我们成了“人工智障”。
这份工作看着简单,做起来也很简单。但是留不住人;而且很消耗人。  

我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

纪录片《网络审查员》剧照

我们也常和初审团队有交流。
对他们来说,能在公司做1年就是资深员工了。除了工作机械外,他们还要处理更多黄色、暴力、辱骂的内容,对精神伤害极大。
初审团队的薪资在每个月5000元左右,基本也没有更高的涨薪空间。
这份工作也不能给履历带来多大的价值,更不要想着跳槽了,就这么成了互联网“炮灰”。我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
我的工作也不过是训练机器审核,提高准确率。公司内部计划在未来用机器审核取代人工审核,每次开会,程序组都会量化机器训练的进度。
每次我看到那些机器审核准确度数据上涨时,都觉得我未来的职业道路正在被堵住。
去年tiktok的审核团队被大量裁员,让我感受到了危机。
被美国封杀后,国内的小语种审核团队大规模被优化。这些人当时都是名校娇子,做了一年审核工作,原有的语言优势反而被弱化,裁员后只能继续找审核相关的工作。
35岁职场危机就在眼前。
我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

纪录片《网络审查员》剧照

当我认识到这一点后,我决定离职。
当时我的薪资是14k左右,但我再去面试其他岗位时,名校+大厂的背景不好用了。心直口快的面试官会直接告诉我,“能力不足支撑岗位”。
我不得不降低薪水,在一家小创业公司找到需要加班、更累人的工作。但我不后悔,至少这份工作里,我不再是没有感情的审核机器。

二、深夜看黄图就崩溃大哭

小Z 女 27岁 某平台内容运营主管
公司为了“哄”大家设立“发泄基金”
我们平台的用户大多在下沉市场,大部分文化程度不高中老年人。
近年来以老年人为受害者的诈骗案频发,而我们平台每天有几十万老年人在此获取内容并分享。
这也要求我们在内容的管控上要更严格,担心不良内容导致用户财产受损。
我是内容主管,但管理审核团队、协助技术团队提高内容质量也是我工作的一部分。
我们团队有15个人,大部分是97后。审核员里没有”前浪",这份工作枯燥无味、重复性高,薪水也低,几乎没人能坚持过一年。
每次有人离职,我们就去学校招实习生,或者刚毕业的新人补位——这活没啥技术门槛。
我们平台每天更新数万条内容,文字、视频、图片都有。有些是用户上传的、我们内部爬虫抓取的,涉及需要审核的内容有数千条。   我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
我们需要人工打上“屏蔽”、“隐藏”、“推荐”的标签,并针对里面广告词手动删除。
那些擦边球内容(涉及暴力、金钱、性、夸大宣传),往往能吸引流量,换来个人收益,所以经常会遇到有团队(俗称“做号公司”)换各种账号,批量上传黄暴内容。
文字最好处理。我们内部做了”敏感词库“,负面词汇会直接变成“xx”显示。
容易踩线的词一旦出现在标题、文章中,系统会自动屏蔽,需要审核员复审没问题后才能放出。
我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
这是我经常会接触到的图片,不算黄暴,但每天都要看到好几张。
为了逃避审核,有的人会把小黄文生成图片上传,或者在敏感词前加字母、数字等防止被识别到。
对小公司来说,图片和视频审核比较困难。我曾遇到过一批视频,在播放的最后5秒里出现虚假广告,就让技术增加了“去5秒”功能。

我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

魔高一尺,道高一丈。

没几天这个用户就把视频帧乱序后加上广告(广告出现时间随机)。此外,还夹杂了不少黄色内容,最后不得不继续用人工审核。
这样的工作,经常会让审核员自我怀疑,觉得接受那么多年教育就是为了做这个工作吗?这样的工作到底对我有什么价值?  我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
我最怕深夜接到电话。大多夜里的电话都是我下属情绪崩溃、闹着辞职、甚至觉得人生没意义想要自杀。
这种情绪处理不好可能遇到员工的辞职。
去年我们公司就遇到了这样的事。一名审核员辞职后,公司和她关系很好的女孩子也说说自己因为做这个工作得了抑郁症。
我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

纪录片《网络审查员》剧照

当时那位主管批评对方心理脆弱,结果导致更多审核员离职。一时间,平台上出现过载的负面内容,运营组的人都被临时叫上去分担“审核”工作。
没过几天大家都有些不正常了,每天神神叨叨、消极、觉得工作没意义,甚至说“再要审核,我们就集体离职”。
我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

纪录片《网络审查员》剧照

迫于压力,公司迅速补招审核员,还顺带找了名心理咨询师,并拨款给审核团队用做“发泄基金”。
所以,每当收到深夜崩溃电话时,我都要耐心“哄”他们。
比如说,“我们的工作让老人不会受骗、很有价值”,此外还经常在群里分享用户的好评、增加工作信心、承诺申请更多奖金。
但我何尝不觉得这份工作意义不大?
我内心很矛盾,一方面想挽留他们,毕竟这样我就不用被临时调去一线审核。另一方面,我觉得很自责,我面对一个个原因相信我的年轻人,画了一个又一个“升职加薪”的大饼。
这个饼,可能永远不会实现。

三、受够每天4000条负面微博

纪霖 26岁 女 前微博内容审核员
审核员没有技术含量,大部分是应届生
我曾经是微博内容审核员,最忙的时候,每天要看4000多条微博。
对内容审核来说,图片内容相对容易审核。通过举报陈述、或者直接判断图片内容是否不雅,就可以进行删除,并对发布者进行相应处罚:禁言或者封号。
我的同事都来自各行各业,有曾在天安门负责治安的城管、也有政法大学的高材生、应届生。
做内容审核最重要的是,情商要高。不仅要懂得维护关系,也要有底线和原则,不能谁求你帮忙都帮。  我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
刚做审核时,每天都能找到很多乐子,能见到很多奇葩的人。
但做久了,接受的负面、黄暴信息多了以后,就越发觉得无聊。这职业根本不需要技术能力,只要机械性的审核、判断就可以。
所以,但凡有点梦想的年轻人都很难持续下去。
这些审核员们大多都是男性,看多黄暴图片真的很容易印象心理状态,让人对平时生活里欲望也没有了。    我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课
甚至有段时间,我因为看了太多负面信息,感觉人生压抑。怎么社会上会有这么多骂人的方法、到处都是肮脏、变态的人。
如果我不做审核员,我根本不知道社会上有这么多奇葩的人。
有的人专门卖“原味”,还有些恋足癖、内衣癖,还有人在闲鱼上专门寻找别人的二手内衣,这都是非常普遍的事情。
有时还会遇到些“挂羊头卖狗肉”的钓鱼内容。比如有些人会发自己的自拍,吸引别人问她是否卖“私房”,甚至可以线下销售“自己”。
对于他们来说,无论是微博、闲鱼、还是其他社交渠道,都只是展示和销售自己的方式之一,在哪里都可能遇到。
前段时间,有人曝光潘玮柏、郭富城的妻子实际上是上过“嫁豪门”课程的。
其实通过看他们的微博、微信内容也很容易发现,她们乐于分享自己的照片、生活,吸引明星、土豪给自己发私信。
这种看照片验颜值约妹子的行为,被我们内部称为“选妃”,很多爱慕虚荣的网红就是这么被撩到的。虽然我们不能看用户私信,但还是会在举报内容中看到。
我们公司内部开发了一个程序筛查黄色图片,从属于视频部门的网监部下。视频里包含肉色的几帧会第一时间被被筛选出来。
好笑的是,这种机制会经常筛选出加菲猫的图片——许多加菲猫也是肉色的。这时就需要我们人工判断加菲猫或色情图。
我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

加菲猫

大部分垂直内容是相互独立审核的,比如,有的同事负责服务大V,对明星的举报进行重点维护。
明星出了任何问题,是可以直接找到微博负责人,同时他们也有相应的删帖名额,可以进行热搜降级、评论处理等。
我们所收到的举报信息都是有举报原因的。比如涉政、淫秽色情、垃圾短信、还有各种纠纷等。
甚至有些男人分手后报复前女友,直接在平台上发她的裸照,后台觉得可怜同情,也会帮她删掉的。
我在大厂做“鉴黄师”:每天看4000条黄暴图、抑郁症高发、哭着求被辞退-20200909早读课

纪录片《网络审查员》剧照

这个工作太负能量了,一度让人抑郁。
所以没有做多久我就发现不适合,大概一年后我就辞职,考了心理咨询师资格证,转行做了心理咨询师。
相比屏蔽负面内容,我更愿意从根源上让大家在内心化解掉怨恨和欲望。

四、语音转文字内容也不能放过

李海草 男 27岁 创业者
一旦平台出事,我们的工作就都没了
2015年,我曾在一家网文平台里做编辑,偶尔也协助做安审。
我们平台开放全网注册,所以免不了有的用户会发布违规内容。大部分违规内容是广告、色情、赌博信息,还有少量血腥暴力内容。
比如“纽约双性恋的姑娘,出来聊一聊?”“我跟继父睡觉,然后要挟他给我买一辆车”……
我们系统会自动拦截、删除明显的违规信息,严重的就封掉用户账号。
如果系统判定网文作者某个字、某句话涉嫌违规,系统会将这部分内容高亮放大。
如果只是个别字句,审核人员会帮助修改。但涉及到剧情、文章架构,需要大幅度修改的,审核人员会打回该章节,让作者修改后重审。
如果文章里有配图,那么每张图片系统都会拦截出来,让审核人员进行判断。虽然是写作类APP,上传图片的用户较少,但还是有些不怀好意的人上传的色情图片。
我第一次看到黄色图片时,就是系统拦截到了好几页全是光溜溜的身体部位。
刚开始看到这种内容我还有点不好意思,但见多了以后,一看到这种图片就反胃。
现在用户逃避审核的方式也很多样化。
有一位用户上传了QQ群聊天截图,其中有段信息是语音转换成文字,转化出来的都是一些语气词,嗯嗯啊啊的,明显是和色情相关的内容。
当时我就很紧张,找领导商议。但领导觉得我神经太敏感,我还是坚持己见,把那张图删掉了。
安审工作看起来简单轻松,但如果走神让不良信息曝光出来,对平台造成的影响可大可小。严重的话,我们连工作都保不住。
但长时间暴露在不良内容下,谁都受不了。我们审核部的同事,平均一天八个小时都要面对这些信息。
日积月累,难免崩溃,我们一位女同事,干了没几个月就去看心理咨询了。
因此,为了减少审核人员的心理负担,内容部门的人每周换着轮岗,一人做一周的内容安全审核工作。
我也专门做过几次,后劲很大,现在再也不想碰了。
 
 
       来源:显微故事。作者授权早读课发表,转载请联系作者。
       编辑:早读堂-亚亚
       欢迎投稿到早读课,投稿邮箱:mm@zaodula.com​ofo出走的年轻人:想改变世界,但终究还是走散了         如果看到这段文字,证明您已经看完这篇文章了,有什么收获有什么感想有什么不赞同,我们期待您的留言评论,并诚挚邀请您加入“互联网早读课”QQ群,一同交流每天文章的心得并结识同行。官方11群:477502397,加群密码“城市+职业+姓名”,否则不予通过,入群后请修改群名片。

发表评论

:?: :razz: :sad: :evil: :!: :smile: :oops: :grin: :eek: :shock: :???: :cool: :lol: :mad: :twisted: :roll: :wink: :idea: :arrow: :neutral: :cry: :mrgreen: