说到鉴黄，在普通网友（尤其男性网友）脑子里是个“很爽的活儿”。
坐在电脑前，看看小姐姐们不可描述的视频，轻松按几下鼠标，每个月就有两三万入账。
这种看法代表了99%的普通人看法，却是非常错误的。
真正的鉴黄师完全不是人们想象的那个样子。
黑奇士（id hqssima）采访多名业内权威人士，以及综合相关渠道报道，为大家揭开真相：
多家巨头的一线鉴黄师月收入仅2-3k（国外为每小时1美元）
工作流动性极大，能做满6个月的人不多
多数鉴黄师为女性
无论男女，在从事鉴黄工作之后，都会遭到严重心理创伤，有些人甚至试图自杀
…………
（因为众所周知的原因，我举例子的时候尽量采用国外的场景）
鉴黄无高薪，月入250美元，多在穷国家
Lily走进菲律宾马尼拉的一座高级办公楼，参加入职培训，培训内容是识别各种各样的性暗示、隐喻和暴力视频的审核教程。
培训官给她看一段视频：一名五六岁的小女孩被捆在床上，让70多岁的老男人猥亵，在她头上和脸上喷射不可描述的体液。
看着眼前的视频，听着视频里小女孩的惨叫，Lily禁不住呕吐出来。
（Lily每天要审核几千张男性器官图片）
她边吐边给自己打气：不能退缩，这就是一份工作。
这份工作不但可以保护网络巨头的言论环境，更重要的是，可以赚取每小时1美元的薪水。
如果没有这份薪水，Lily就得回到马尼拉郊区的贫民窟中，继续捡垃圾。
Llily所在的公司，承担了美国网络巨头脸书（Facebook）的内容审核业务。
为了降低成本，应付国内用户对其内容中包含暴力和儿童色情内容的谴责，脸书在菲律宾雇佣了数千名Lily这样的女孩子，他们在全球的审核人员，甚至达到了1.5万名。
（纪录片《网络清洁工》截图）
Lily需要每天审核两万五千条帖子、图片和视频，才可以获取每个月250美元的收入。
而在硅谷，最最基础的内容审核职位也需要3万美元。
百倍的成本差距，使得Facebook、Google、youtube、亚马逊这样的网络巨头，逐渐把自己的审核部门放在了马尼拉和新德里这样的城市。
这里的人工成本便宜，可以给内容审核大大降低成本。
国内鉴黄师有几十万人，大多数月入三四千元
需要降低成本的不仅是国外巨头。
在国内，今日头条、新浪微博、快手这样的网络巨头，也有从事类似工作的审核团队。
2018年5月，今日头条某总监在公开演讲中表示：公司的两万三千名员工中，有超过一万人在从事内容审核工作，其中包括400名专门给人工智能系统训练数据的标注员。
标注员是随着大数据行业成长起来的新工种。
人工智能系统需要训练，才可以识别哪种内容是好的，那种违反法律和道德。而“好内容”和“坏内容”在机器看来是一样的，只能由人工标注数据，把标注过的数据投放给系统，根据系统产出的结果进行“惩罚”或“奖励”，才能得到越来越聪明的人工智能系统。
快手是近年来成长起来的短视频巨头，2018年4月，快手上有关“未成年妈妈”的内容遭到网民质疑，被有关部门约谈，此后把内容审核团队扩充到了5000人。
黑奇士（id hqssima）在某招聘网站看到，新浪微博在成都招聘内容审核，月薪仅有2-3k。在职位的详细说明中，月实际收入为实习期2300元+吃住，转正后的收入为3700元+绩效。
这份薪水，即使在二线城市成都，也仅仅称得上“微薄”。
远远不是外界炒作的“苦干肯干，月入两万”的高薪收入。
其余巨头的待遇，也基本差不多，只有升级到经理、总监这样的层级，才能挣到传说中月入过万的高薪。
黑奇士找到了业内人士M先生，他曾在第三方鉴黄公司工作，服务过好几家直播和游戏巨头。
“网上不是说鉴黄师可以拿年薪20万，六年前就有公司就开出来这个薪水？”
“你说的是2013年那事吧？那个我觉得是炒作。”M先生表示，内容审核团队也有体力劳动和做算法系统的高级职位，如果做的是算法和工具，那别说二十万，五六十万都有，人家都是专门研究算法的博士、研究生，都是高智商高收入人群。
普通的，一线直接鉴别某个图片是否包含色情的职位，因为不需要学历、不需要经验，做时间长也没什么积累，几乎“是个人就能干”，所以薪水“只比清洁工稍微高点”。甚至有些公司为了获得退税，专门招聘残疾人士做审核工作，那给的薪水就更低了。国家有法律规定，给残疾人提供一个职位，到年底可以获取一定额度的退税。
这样的一线鉴黄师有多少人？
M先生说，像BAT这样的顶级巨头，一般至少有几千人的审核团队，如果是业务类型偏重于内容的，其团队还要更庞大。
像前面提到的今日头条，审核团队超过1万人（甚至有不确定的消息称，其团队规模将近2万人），快手则超过5000人。即使以人均月薪3000计算，头条的审核团队每个月光成本就要三千多万。实际上加入房租、交税、保险等，更是远远超过这个数字。
据M先生粗略估算，国内从事内容审核的人员，可能有几十万人。
内容审核成本，已经渐渐成为企业运营中不可忽视的部分。
随着智能手机、千兆宽带、4G网络的普及（以及未来的5G），由手机设备产生的各类信息呈现爆发式增长。
以youtube为例，每分钟上传的视频容量超过500小时；
每分钟推特上产生45万条帖子；
每分钟Facebook新出现250万条内容……
在这些新内容之中，大约有3%属于非法内容。
而且内容审核不单单是“色情”，还包括了垃圾广告、种族歧视、暴力和血腥内容。
比如，M先生向我讲述了一个案例：当时南方某城市发生一起车祸，有用户在社交媒体上发布了车祸监控视频，视频中，汽车把骑电动车的母女碾成残肢和碎肉。
这样血腥的内容，在传统媒体环境下不可能出现，但很可能在社交媒体、聊天软件等场合进行猎奇传播，严重影响网络环境。
以前只有社交媒体、新闻网站会有内容审核的需求。但现在很多网站都添加了用户互动功能，有少数用户会试图在互动区发布违规内容获取关注。比如，有些电商的买家秀，有些买家就把无遮挡的半裸照片上传到网站，用来“找刺激”、“求关注”；有些卖家为了吸引流量，故意在商品介绍图片中，加入色情内容。
（在百度搜索，第一页结果中就有某知名电商的色情页面）
网易易盾CTO朱浩齐向黑奇士表示，苹果商店（appstore）有40多个应用类型的分类，每个分类都有上千款App，而这里面绝大部分App都有内容安全的需求。不少传统行业也开始需要内容安全技术的帮助，例如某些银行理财APP，为了增加用户黏性，也开始做互动评论，这也使得他们的产品/社区必然遭受有害信息的侵扰。
“内容安全正在上升期，到了2025年预计智能终端设备将上升到80亿规模，这些终端产生的信息将达到惊人的程度，一些有害信息的规模也可想而知。所以必须从眼下就着手内容安全生态的建设，而人工智能就是非常好的一个抓手。”朱浩齐表示。
12月19日，网易易盾正式在北京发布了智能内容审核系统。易盾脱胎于网易安全部，扎根内容安全领域已超过20年，2016年对外商用以来，已服务数千家企业，其中不乏B站、一直播等知名客户，每日过滤有害信息超过10亿条。
黑奇士了解到，除了网易易盾之外，阿里发布了绿网系统，腾讯发布了万象优图，纷纷以AI为切入点，企图在内容审核上分一杯羹。
在纪录片《网络清道夫》里提到一个例子：Facebook的某个审核员，在长时间审核儿童色情之后，心理极度抑郁，尽管有心理专家提供帮助，最后还是无法走出困境，上吊自杀。
像鉴黄师这样伤害极大的工作，将来会不会被AI完全取代？
网易易盾的观点是，“在未来很长时间内，内容安全依然是人机协同模式，各大平台需要保有一定规模的人工审核部门”
这段话说的比较委婉，我觉得结论就是“人工和智能将长期共存，尽管AI可以大幅提高审核人员的工作效率，但在可以预见的时间内，AI不可能脱开人工干预而单独存在。”
专家指出，以AI为核心的内容审核系统，是一个与非法内容相互对抗、不断进步的过程。例如，在某知名电商平台上，黑奇士就找到了成人用品的卖家在色情图片上打码，企图以此来吸引流量的例子：
在这张图片的左上角，为了骗过系统审核，卖家专门加入了无关字符来对抗。事实证明，这样的混淆对于网易易盾是无效的。（但这张图明显骗过了该知名电商的内容审核系统，堂而皇之地出现在页面上）
这仅是AI对抗的一个例子，在实际操作中，更多歪门邪道的手段被人“发明出来”，比如把一个裸体美女图切分成九块，单张图看起来都不是色情，但当这些图被以“九宫格”组合起来的时候，就是一张完全的色情违法图。
近年来，像“美女娇喘”、“半夜呻吟”音频在某些社交平台和直播软件中大热（比如视频时正常的跳舞，但背景音乐是诱惑性的呻吟），不少内容审核系统无法识别音频，而把这些软色情音视频放过去。网易易盾中专门加入了音频识别功能，可以在一长段音频中定位非法内容所在位置，把这些非法内容干掉。
凡此种种，例子举不胜举。
网易易盾方面表示，由于AI在内容审核上的成功应用，使得其内容审核团队的规模只有同级别公司的五分之一，大大节约了人力成本。
网易易盾产品总监饶晓艳表示：“审核人员是企业内容安全的重要保障力量，为公司健康发展付出了很多，非常高兴可以为审核人员设计一套友好有温度的管理系统，让他们的工作更加轻松快捷。”
关注微信
