今日头条整改：机器并非想象中聪明无比

原标题：今日头条整改：机器并非想象中聪明无比

昨日，今日头条官在网挂出最新招聘，大规模增加内容审核编辑数量，据悉此次内容审核编辑招聘总规模在2000人左右。

图片来源于网络

招聘条件中，还列明了一条：党员优先！

毫无疑问，这次招聘，是对被处分的呼应。

距离2018年还有3天的时候，北京市互联网信息办公室向今日头条和凤凰新闻送来了一份灰犀牛式的“新年礼物”：针对今日头条、凤凰新闻手机客户端持续传播色情低俗信息、违规提供互联网新闻信息服务等问题，分别约谈两家企业负责人，责令企业立即停止违法违规行为。

今日头条手机客户端“推荐”“热点”“社会”“图片”“问答”“财经”等6个频道自2017年12月29日18时至12月30日18时暂停更新24小时、凤凰新闻手机客户端“头条”“推荐”等2个频道自2017年12月29日18时至12月30日6时暂停更新12小时。

停更什么效果？那天登录今日头条的吃瓜群众眼前一片空白。

图片来源于网络

对于依靠信息流广告创收的头条来说，这次影响之大毋庸置疑。今日头条高级公关总监杨继斌此前接受媒体采访时表示：“关闭社会频道，对我们的影响是比较大的。具体的影响，还需要过一段时间才能量化。但我们还是会根据有关部门的指导意见坚决执行。”

坚决执行的结果之一，是大量招聘内容审核编辑岗位人员。

今日头条副总编辑徐一龙告诉刺猬公社（ID：ciweigongshe），今日头条目前的内容审核编辑团队已经超过4000人，这次招聘2000人以后，团队还会继续扩大，预计很快突破10000人！

这样的扩展意味着，未来今日头条内容审核编辑团队将以绝对数量成为头条人数占比最大的工种。

当然，人越多，支出也就越多。

招聘信息显示，对于内容审核编辑，今日头条的要求是：每个员工每天需要审核1000条左右内容，负责监控审核今日头条平台内容是否违规，薪资约为4000至6000元/月。

也就是说，一个万人规模的内容审核编辑团队每月光薪资支出大约在4千万－6千万元，总内容审核数量每日可以达到1千万条。

感觉头条像变成了富士康！高科技范瞬间在庞大的内容审核编辑团队前扑街了。

也许你要问了，内容审核的事情，不能让机器干么？毕竟，今日头条是以人工智能和机器学习为驱动核心的公司。

人工智能技术的确是今日头条的骄傲。一个月前，今日头条在北京成立了技术战略委员会，张一鸣致辞时是这么说的：今日头条要做一家更负责任的高科技公司，利用人工智能能更好地服务于信息的创作与交流。

张一鸣在2016年的时候扔过一张成绩单：到目前为止，今日头条有800个算法方面的工程师，有两万台处理器，有151条训练样本，每天用户请求60亿次，这个请求在人工智能应用当中已经是非常大的，有两万台机器昼夜不停计算各种概率。

在审核方面，他表示，现在今日头条的内容，一个人看的话需要150天才能看完，如果两个人看他们之间的准确率只有75%，但是有机器处理准确率可以达到87%，25分钟就可以阅读完，机器人可以比人更快的阅读，找出其中的错误的部分，所以人工智能也用于审核。

现在看来，机器还没有那么聪明。

其实，内容审核这个岗位，并非中国互联网公司独有，科技巨头聘用大量人力来做内容审核，美国也有，美国的Facebook，内容审核团队也多达7500人。

2016年9月，挪威一家报纸将越战著名新闻照片《战火中的女孩》刊登在facebook账号上，由于女孩处于“裸体”状态，Facebook立即将其删除，并且封杀了转发这张照片的用户帐号。

此举引来大量的舆论争议。最终Facebook首席运营官雪莉·桑德伯格（Sheryl Sandberg）承认，Facebook错误地删除了“越战女孩”老照片，并对此事表示道歉。

她表示：“即便具有明确的标准，每周逐个对数百万个帖子进行审查，仍然是一件颇具挑战性的工作。”

因此，在2017年5月，Facebook的CEO马克·扎克伯格宣布公司将要新增3000名内容审核员。

令人好奇的是，互联网上为什么会有那么多色情低俗信息，这是因为，互联网上依附着庞大的灰色产业，他们是暗网的重要组成部分，利用色情来获得流量，在互联网上被称为“色流行业”，这个行业就是靠着色情低俗内容来获取流量，从而吸金。

“一本财经”曾报道，中国从事“色流”产业链的人，大概有40万。而且，随着技术的发展，“人工开始渐渐被机器和软件取代，广告、色情、赌博等信息规模化出现，这条零碎的产业链，开始集结成河”。

从某种程度上来说，像今日头条等平台，本身在享受内容产业的繁荣的同时，也在客观上助推了“色流”产业链的繁荣。

今日头条是最早用金钱调动自媒体生产力的平台。2015年今日头条推出“千人万元”计划；2016年今日头条拿出10亿元人民币补贴短视频创作者；2017年今日头条继续拿出10亿元投入悟空问答。

在金钱的推动下，大量的自媒体人在今日头条上赚到了第一桶金，今日头条的内容数量也在上升。

同样上升的还有为了骗取补贴而强行生产流量内容的内容创作者。他们看准了互联网领域的两个痛点：性和暴力，进行着大量低俗内容的生产。

更夸张的是，人工智能不仅能够干预内容分发，内容审核，还能够进行批量化的内容生产。在淘宝输入［小说 自动 生产］等关键字，立刻就能搜索到相关软件。

图片来源于网络

古人是“二句三年得,一吟双泪流”，现今的内容江湖不相信眼泪。

残酷的现实是，那些获得大量流量和转发的东西可能只是机器的自动生成物。

这些被今日头条用金钱扶持起来的内容创作者终于要开始过冬了。在这次的整顿中，根据有关部门要求，今日头条开始大规模打击违规账号，3天内集中清理了2500多个平台违规账号。

虽然同样被整顿但是却没有被推倒舆论浪尖的凤凰也开始了清理。2日，凤凰一点号官方公告称，2018年起，凤凰一点号将推出黑榜榜单。官方表示，2017年，一点号平台永久封禁了约11万个违规自媒体。

此外，还有约10万个账号，因发布侵犯他人隐私内容、标题党内容，存在大量常识性错误、病句错字连篇等问题，或被警告、扣分，或阶段性封号。

示例显示，名侦探赵五儿因炒作明星炫富享乐内容《侦探赵五儿爆料，宋喆被拍到和老妈一去看豪宅》，被封禁。

其实，人工智能已经被引到了反互联网黑产之战，“一本财经”的报道显示，已经有平台进行机器喂养，为了告诉机器什么是“色情”，需要给它看成千上万的色情图片。但怕机器会误伤一些“妈妈晒光屁股娃”的图片，他们再给机器看各种宝宝的照片，再告诉它，这不是色情。

但对于机器来说，它并不能解决所有问题。目前是道高一尺魔高一丈的阶段，人工审核的价值还不可替代。

国内很多内容型互联网公司也都建立了自己的内容审核团队。直播兴起后，直播内容的审核成为行业关注重点。直到2016年12月，国家网信办发布的《互联网直播服务管理规定》正式施行，直播平台需要承担更多的审核任务，如直播平台应配备与规模相适应的专业管理人员，建立健全信息审核和信息安全制度等。

斗鱼等平台开始大规模招聘直播内容审核员。此前央广网一篇针对直播内容审核员的报道提到，每个审核员在正式上岗前都要经过为期两周的培训，培训的内容上至国家大政方针、互联网规范，下至主播上装能露出的尺寸，下装要达到的长度。

和今日头条一样，被顽固贴上“low”的标签的快手也在加强人工内容审核，经历过“极限咏宁”坠楼事件后，快手合伙人曾光明对外表示，快手目前已经建立了1000人以上审核团队，结合智能识别技术，能实现对所有新上传视频先审后发，并屏蔽所有肉眼可识别的违法违规内容。

公开数据显示，2017 年今日头条用户日均使用时长突破 76 分钟，日活用户数达到1.2亿。今日头条CEO张一鸣立下一个大目标：希望在2020年信息流广告收入能达到100亿美金。

但实现这一目标的路途中，可能政策风险就是最大的风险了。

这就是采用智能推荐的今日头条们在面临的问题，人类社会语言和情感的复杂性没有办法被完全的识别。

所以，即便是标榜强技术的今日头条，也不得不容忍公司里的大部分人，做技术并不那么强的工作。

来源|微信公众号：刺猬公社