听运营者们分享背后的故事 2017网易易盾成就内容安全王道

  1. 云栖社区>
  2. 博客>
  3. 正文

听运营者们分享背后的故事 2017网易易盾成就内容安全王道

云栖大讲堂 2017-08-01 13:23:00 浏览1483
展开阅读全文

【51CTO.com原创稿件】2017年1月8日,天公作美吹散了漫天雾霾,网易大厦在周末的下午迎来了一百多位互联网运营小伙伴,共聚“亿级互联网产品背后的故事”线下沙龙,一起讨论互联网内容安全运营的话题。

谈及举办这场活动的初衷,网易易盾总经理周森表示,随着国内互联网的蓬勃发展,网民数量的激增,互联网的运营工作越来越难:例如对用户上传内容尺度难以把握、海量垃圾信息骚扰难清理、垃圾样本变化多端难过滤、人力审核成本不堪重负……

那么这些问题该如何解决?不同阶段的运营会遇到哪些典型问题?互联网安全的真实现状又是怎样一番场景?未来该往什么方向发展?为了解答这一连串的疑问,周森领导的网易易盾团队邀请了美拍、畅游游戏,以及网易自身的资深运营专家予以解答,通过他们的讲述,我们不仅可以听到运营者们背后的故事,对于互联网内容安全的未来发展更是有了更清晰的判断。

网易易盾

网易跟贴:让用户遇见另一个自己

孙媛媛是沙龙第一位发言嘉宾,身为网易跟帖运营主管的她,从自己工作的角度,向大家介绍了网易跟帖背后的运营故事。

网易易盾

孙媛媛先介绍到,网易跟贴是网易门户新闻下的网友评论,内容以犀利有才著称,是网易新闻的特色,也是中国网民智慧和社会生态的集中反映。目前网易跟贴累计注册用户数达到3亿+,日均参与顶、踩的用户数近9000万,日均发贴条数120万+,日均发贴用户数30万+,已经成为国内最活跃、最有深度的新闻评论社区。

“我们的工作就是要保证优质的跟贴内容能够凸显出现,同时保持观点的多样性,吸引大家评论。”孙媛媛透露,跟帖越踊跃,运营工作者的工作就繁重,网易的运营人员平均每天要审核6000-8000条跟贴,内容包括政治敏感、广告、低俗、色情、刷屏五花八门。

正如孙媛媛所强调的,建立的人与人之间的关系是以内容为前提,在优化用户的阅读体验、探索互动运营的过程中,内容的健康非常重要,也是互联网社交类产品的立足根本。

美拍:谈谈社区产品反作弊与内容监控

网易易盾

美拍安全产品经理田孟月的发言非常接地气儿,她不仅列举了大量实际社区运营案例,更是从运营者的角度出发,对社区产品运营给出非常多有效的建议。

她率先谈到了大家经常遇到的作弊行为,其中既有针对电商的刷单行为,也有针对广告文章刷阅读数刷赞行为,还有针对社交的刷粉丝行为。这些作弊行为以营利为目的,既伤害了用户体验,也影响了社区/产品氛围。

她以美拍为例,介绍社区产品常见的作弊形态,如SEO营销、广告骚扰、色情、上热门等。那么该如何发现作弊行为呢?她给出了五个建议:一是通过产品统计数据监控,二是通过业务数据例行评估、三是通过举报数据分析、四是进行产品前端巡查,最后是依靠群众的力量,从用户反馈中发现端倪。

当谈到如何进行高效的内容监控时,田孟月认为,内容审核不仅仅局限于文字,还包括图片、视频、音频,人工审核已经渐渐无法完成海量的审核任务,应该充分发挥技术优势,提高审核效率,减少人工审核成为。除此之外,敏感词的词库需要及时更新,违规的内容要上报,与上级主管单位保持联系,确保内容审核工作与时俱进。

畅游游戏:一夫当关 竖游戏安全之盾

邢哲源是畅游游戏安全工程师,他表示在游戏安全领域内,每天都会面临着不同的威胁,其中以盗号、作弊和垃圾信息最为常见。目前随着个人电脑和安全软件的普及、硬件密保和手机密保的推广,账号安全问题已经得到的极大的改善,反作弊与反垃圾信息就成为了工作的重点。

这些作弊行为和发送垃圾信息的行为,对内影响游戏内商城收益,扰乱游戏内经济系统,更关键的是,外挂账号发送大量无用的数据包,影响服务器性能并占用带宽资源;对外而言,对于游戏玩家来说,大量明显的“非人”账号堆积在一起容易影响玩家情绪和感官,可以说是百害无一利,人人欲诛之。

邢哲源表示,在最初,他们采取的措施是技术对抗,通过技术手段“发现”游戏客户端可能存在的外挂程序;随后发展成数据分析,他们根据用户的集群性和行为相似性,带入合理的模型进行分析,从而发现目标。“现在我们已经可以两者结合在一起,根据不同项目不同时期需求进行调整。”

在邢哲源看来,处罚规则是整个反作弊&反垃圾体系中最重要的环节,他认为,以维护游戏环境和谐为职责的他们,不仅需要打击罪恶,同时也需要“引人向善”,于作弊者,每一次的处罚都是一次试错过程,简单的处罚规则更容易破解。“中间的度一定要把握好。”

  网易易盾:内容优化运营实战策略及企业级产品经验交流

网易易盾

网易易盾高级产品经理饶晓艳一上台,底下听众的议论就不绝于耳,在大家看来,毕竟前面几位发言嘉宾珠玉在前,看上去这么年轻的一个女士,能聊出什么新料呢?可饶晓艳发言结束后,台下报以热烈持久的掌声,这是对她发言的肯定,也是对网易易盾做了大量幕后工作的敬意与认同。

饶晓艳首先表示,这是一个内容为王的时代,从流量到场景,从产品到人,都在围绕着内容做文章。那究竟为什么在内容运营中要专门做反垃圾呢?饶晓艳以音乐评论举了一个例子,目前我国云音乐的用户数突破2个亿,在UGC方面,用户自主创建歌单超过8000万,大约有50%的用户会边听歌边看评论,音乐评论总量已经超过2亿条。“在这些评论中,掺杂着大量广告、低俗信息,极大地影响了评论者的使用感受和评论积极性。” 饶晓艳谈到,对运营者而言,大量违规的垃圾信息的存在,也违反了国家规定,给运营工作带来了极大的风险。

她将发垃圾的不法分子称之为“垃圾虫”,并将这类人群的特点归纳成六类,那就是占领热门、不分昼夜、持续对抗、分工协作、利益明确、法律边缘。

那么究竟该如何对症下药呢?饶晓艳表示,网易易盾的做法是首先明确产品主要的垃圾分类,是属于网友普通的情绪谩骂,还是专业团队打擦边球打广告,还是明知法律令行禁止发布反动内容?

做好分类之后,就要根据内容的形式进行过滤,看用户是通过文字内容、图片内容、视频内容还是音频内容进行传播?文字内容的过滤大家往往都比较了解,但是像图片过滤就需要用到机器学习、鲁棒图片特征检测、人脸识别这些技术了。而视频过滤则用到视频转码压缩、视频流分析、截图分析、视频特征识别等技术。

“以图片识别为例,网易易盾的服务目前可以支持人脸识别、色情图片检测、动漫识别、相似匹配、水印识别等多种识别方式。” 饶晓艳还表示,在语音过滤领域,网易积累多年经验,语音MD5库实时过滤有害语音,可以同时将语音转成文字进一步过滤。

正所谓“眼见为实”,饶晓艳在现场打开网易易盾的官网,在产品界面,向大家演示了图片、文字的过滤识别,如此简便易操作的方式赢得了大家的认可。

在线下会议结束时,还有听众针对她所介绍的网易易盾产品不断提问,追问细节,可见众人对网易易盾产品的兴趣浓厚。

也有的听众问,为什么网易如此关注互联网内容安全话题?其实这位听众有所不知,网易可能是国内最有发言权的互联网权威之一了,从关键词、黑白名单到过滤器这些反垃圾技术应用之日起,网易的反垃圾团队经过了19年的技术积累,并且早已将大数据分析、人机识别、人工智能这些新兴技术应用到反垃圾实践中。2017年,记者希望中国互联网内容安全可以吸引越来越多的人参与,网易易盾也能充分发挥技术优势,帮助更多的互联网客户实现全面的内容安全。


作者:周雪

来源:51CTO

网友评论

登录后评论
0/500
评论
云栖大讲堂
+ 关注