头条、快手们深陷审核风波，AI算法被打脸了？

梁志雄

2018-04-20 17:09:55

来源: 时代财经

为何这些宣称“以技术驱动”的互联网公司仍然存在如此大的审核漏洞，仍然需要不断加大人工审核的力度？更有网友戏称：“说好的AI算法会让人失业呢？原来AI反而能增加就业。”

硅谷“多巴胺实验室”的创始人拉姆塞·布朗说过，“这世界上肯定存在让人上瘾的代码。”

而这句话很好地体验在了国内的今日头条、抖音、快手等APP身上。不管是一线城市的白领，还是四五线城市的青年，都在手机上不断滑动翻看这些会令人“上瘾”的软件。

业内人士告诉时代财经，这些流行APP内都利用了AI算法进行兴趣推送，会根据用户的喜好不断刷新用户感兴趣的内容，这是令人“上瘾”的原因之一。鉴于此，抖音甚至在近日上线了“防沉迷系统”，而以往这种机制大多只出现在游戏平台上。

在度过最初的高速成长期后，抖音、快手等互联网内容平台接连遇到了监管这道坎。罚款、约谈、下架、永久关停等字眼在最近一两个月内不停地出现，而这一切都指向了平台的AI算法和审核机制上。

一连串的审核风波不禁让用户大打问号，为何这些宣称“以技术驱动”的互联网公司仍然存在如此大的审核漏洞，仍然需要不断加大人工审核的力度？更有网友戏称：“说好的AI算法会让人失业呢？原来AI反而能增加就业。”

___.x_large.png

借AI吸纳用户，却不能有效监管

今年3月底，快手平台上存在大量“未成年妈妈”等低俗短视频被央视陆续曝光，今日头条也因广告问题被推到舆论的风口浪尖，两家公司的CEO宿华和张一鸣相继发布了致歉信。

张一鸣在4月11日表示，宣布永久关停内涵段子APP并加强今日头条的审核，“全面纠正算法和机器审核的缺陷，不断强化人工运营和审核，将现有6000人的运营审核队伍扩大到10000人。”

快手不久前也启动了内容审核员的大规模招聘，一口气增加3000名审核编辑，招聘条件是团员和党员优先。

逐渐扩大的审核风波，最后也波及到抖音。抖音先是关停所有评论、关闭直播系统，近日还因涉嫌发布售假视频一事查删视频805个，封禁账号677个，并被北京市工商局约谈。

事后抖音CEO张楠透露，目前审核团队的规模已经有几千人，而且“团队人员每天都在增长”。

新招募的这些人员除了在运营层面给公司增加开支外，这也意味着快手、今日头条、抖音等社区型产品在UGC内容审核上还不能完全依赖它们所擅长的AI算法，“人工审核” 仍然占据非常重要的地位。

而这里面的“前辈”今日头条，创立之初却是把自己定位为一家技术驱动的科技公司，利用AI算法将基于个性化推荐的内容消费做到极致。中国政法大学知识产权研究中心特约研究员李俊慧表示，人工智能和算法能帮助企业吸纳大量用户、提高产品黏性，却不能反过来起到整治和导向的作用，显然是技术和管理上的缺失。

AI何时才能胜任内容审核？

早于十年前，在谷歌、Facebook、百度等大范围开始使用算法进行审查的时候，媒体和创业者都不断地勾画着人工智能时代到来的场景。时至今日，AI虽然通过学习，不断在提升系统对于内容类型的识别和判断概率，但不得不承认的是，对于内容的审核目前主要还是依赖人工。

日前，麻省理工学院（MIT）、斯坦福大学、OpenAI联合研究报告显示，人工智能领域比以往任何时候都更加活跃，尽管人工智能在执行一些非常具体的任务时已经超越了人类，但它在一般智力方面仍然极其有限。

以月活用户数超过20亿的Facebook为例，在内容审核上，这家面向全球的企业面临的挑战更加严峻。

Facebook的CEO扎克伯格近日称，按照目前AI的智力水平，要解决审核问题只能暂时增加人工数量。目前Facebook拥有一个1万5千人规模的运营审核团队，预计今年年底增加至2万人。

据Facebook的技术团队介绍，目前AI的机器审核多用于文字内容，如机器检测到含有敏感词汇的内容，会将其删除或向用户发出警告。但对于图片、视频的审核，机器无法像对文字内容一样提取关键词，审核仍然离不开人工。

但相悖的是，在目前信息爆炸的时代，如果没有AI和算法帮助审核，众多互联网公司显然无法运转，反而需要越来越依赖AI。

此前“今日头条”内容质量中心负责人、副总编辑李彤接受采访时说，头条一个人一天能处理的文章大概是1000篇，机器一秒钟能处理100篇，“今日头条”每天新增发布内容是50万条，全部由人工来做，要一个人工作500天才能看完，AI是不可或缺的。

今日头条算法架构师曹欢欢对时代财经表示：“目前头条的分享内容识别技术模型主要分鉴黄模型、低俗模型、谩骂模型等，主要都是通过大量的样本库进行比对分析。”以谩骂模型为例，样本库超过百万级别，准确率80%以上，召回率95%以上，“这部分模型更注重召回率，甚至可以牺牲一些准确率，也要提高安全性。”

李俊慧则认为，未来社交软件和短视频APP等应该是“算法+人工”的竞争，其中人工的专业性将逐步升级到弥补或提升算法的正面导向作用，让人工指导AI算法如何更好审核。