主页 > 00900香港九龙王开奖结果 >
香港小鱼儿心水论坛90后网络安全守护者:一场利用大数据的“围堵
发布日期:2020-01-27 00:05   来源:未知   阅读:

  它背后是一个“神秘”的职业——内容安全审核员。文字、直播、音频、短视频,不同形式的内容对应的是不同的筛查技术与审核机制;快、准、全是每一个审核员的工作信条。

  “90后”“24小时”“大数据”……当这群人为“守住互联网底线”而埋头苦战时,外界关于“鉴黄福利”的讨论从未停止过。

  是保护还是侵犯?圈内和圈外各执一词。而最先走出去的那一批人,正在试图为整个行业寻找一种更为清晰的存在感和方法论。

  当天下午4点,爱迪走进茶歇室,短暂休息。巨大的落地窗内,灯管和显示屏的光把室内照得通亮,日夜显得没什么区别。

  这里更像是一间网吧。一排排电脑和它们的使用者整齐划一,粗算下来至少有几百台机子,连着几百号人。每桌一副耳机,人均配两个显示屏,手边的饮料和零食随意取用。

  只是似乎又少了点网吧的轻松气氛。一个小时前,爱迪坐在电脑前,眼神在左右显示屏前游走,忽地停在了某个页面。大屏上出现的,是一个模糊的女性身体画面……

  “这是一个用户头像,用模糊效果规避了机审。部位敏感,按暴露面积判断,是色情,不是性感。”他高速地点击鼠标,刷新,于是满屏的截图又开始了新一轮的弹跳,永远无法预知下一刻会弹出什么“惊喜”。

  “现在没有一家互联网企业不重视内容安全的。未来只会越来越重视,因为这是个底线。”爱迪所做的确实是一道难题。内容安全,可以理解为基于一定的技术和算法,精准识别、筛查、规避互联网海量数据中的特殊信息。重点监控涉政、涉黄、涉暴、垃圾广告等信息。当然,涉黄是个重灾区。

  “文字、图片、直播、短视频,都要全覆盖。不仅得有技术,还要有大量的审核员在一线小时不间断地进行信息筛查。”于是,几百号人和爱迪一起,面对大屏,点击鼠标,与违规信息拉开一场追逐战。

  此刻正是下午最炎热的时候。窗外的施工车队一字排开,这里是佛山广东金融高新技术服务区。BIGO音视频社交网络平台的内容安全团队就在这里办公。

  2010年,他从广东财经大学的校门走出来,没和同学选同一条路,摇摇手转头走了。“在学校里,人人都像CEO,都想当巴菲特、香港小鱼儿心水论坛,比尔·盖茨。”读的是工商管理,却对游戏情有独钟,大学刚毕业的Chris,第一份工作选择了一家互联网公司。

  最开始做的是社区运营。“大家都觉得,这玩意就是删帖、回帖,像个贴吧吧主一样,其实没那么简单。”网络社区、论坛正火的那几年,Chris的主要工作就是做网络社区运维,对违规内容进行处理,维护基本的社区沟通环境。

  “其实从那个时候开始,国内互联网产品背后,就都有一个这样的拦截团队了。只是规模大小的区别。”一次偶然机会,Chris接触到了某个直播平台。“用户最多的时候也只有400人,但它一直活着,不温不火的。”打一场游戏,如果用视频直播形式代替图文直播,用户量会不会有变化?Chris和团队开始尝试内容切换,用户激增,尝到了直播的甜头,问题也随之显现。

  做社区运营的Chris,熟知违规的“套路”——来来回回就是那几招,在他看来颇为小儿科。“但是直播一出来,很多东西都变了。”他从未见过的违规操作开始涌现,不断冲击应对防守机制,见招拆招远赶不上翻新速度,Chris感受到了前所未有的被动。

  他把眼光望向同时期的几家直播平台,才发现家家都是一副“囧相”。“什么是内容安全?怎么做好内容安全?那个时候你才发现,随便一个行业都能找到一本《从零到一》的指南,内容安全不行。它在市面上根本找不到任何指导,因为这个行业太新、太隐秘了。”

  没有行业,但有需求,内容安全要先行,这场“防守战”也要一个稳得住的人来做。“我性格稳,做事踏实负责些。”2016年,中国互联网直播元年,85后Chris离开这家互联网公司,加入BIGO旗下的内容安全团队,拉起一支“突围队”,担任团队总负责人。

  每晚9点,夜色初起,一线审核员爱迪正式到岗,开始一天的工作。2017年,24岁的爱迪以一名一线审核员的角色加入BIGO。

  这是一个直播间的实时截图画面。“每天几十万个主播在直播,一个个地看根本来不及。”于是他们想了一个办法,固定间隔时间抓取直播间画面,传送机器过审,再送人工二次审核,以保证直播间的“清洁”。

  于是,无数张图片跳送入爱迪的电脑,夜越深,跳得越猛。12点,深夜主播的上线数量渐趋峰值,爱迪脑袋里的神经越绷越紧——某主播穿着暴露,胸部袒露面积超过1/2,违规;某主播发言的暗示过于明显,恶意诱导,违规;某直播间人数瞬时暴涨,不是明星来了,估计又有人想违规。

  “这哪里是什么鉴黄师,就是个网络警察。”夜深人静的夜晚,无数个小时,爱迪和成千上万张截图一起度过。次日6点,天将明,一夜战役悄然收场。

  有点虚,身体被掏空,24岁的爱迪发现自己的体重在一点点下降。原来是130斤的小伙,一称重,变成了120斤。

  Chris比谁都清楚自己的工作性质,打开搜索引擎,关于“鉴黄师”的话题铺天盖地,他也只得一遍遍地告诉员工,我们是站在暗处的英雄,做的是一件有尊严、有正义感的事。

  半年后,爱迪凭借突出表现升到小组长,专攻文字领域巡查,又过半年升任大组长。2019年,他顺利担任内容安全团队的国内业务负责人。

  “快、准、全,这个行业看中的就是这三个字。”论快,一个违规信息从出现到消失,3分钟是底线%是下限,大家争的就是小数点的差距;论全,底线内容一个不能漏,出了问题就问责到人。

  说到底,这是一场人工和机器的配合战。打得好不好,要看技术精不精。怎么精?Chris把目光放在了后台筛选。根据“人气”、“等级”、“举报量”、“注册方式”等条件进行用户筛选,找出区别于“正常用户”的“高危用户”并在后台罗列、监控。

  同时展开用户行为追踪,“有些人很喜欢看一些‘违规内容’,但本身无违规行为。我们可以把这批用户找出来,让他们帮我们去发现一些漏洞。这就是‘用户行为的追踪’,也是基于大数据。”

  冲着一条没人走过的路,Chris顾不了太多,他更在意的是该怎么把脚下的每一步踏稳、踏牢,能走远一点。

  “这个岗位和家人离得比较远,所以聊得不多。和朋友就当个笑话讲。社会层面对我们行业的了解太少,得到的反馈也太稀少。

  互联网时代,大家看到的很多内容都是积极、阳光、向上的,因为不好的内容都被类似我们的团队过滤了。

  这个行业的前景是可见的。互联网发展势不可挡,政策管理将不断严格。未来只会更专业、更完善。

  “我想,从小的角度说,我们守的是产品的底线、公司的底线;从大的角度来说,我们守的是整个社会和国家的底线。”

  说这句线后Chris穿着一件普普通通的灰色T恤,典型的程序员装扮,表情平静,云淡风轻。

  出品:南都采编指挥中心 统筹:南都人物新闻工作室 采写:南都记者 董晓妍 摄影:南都记者 谭庆驹