Reddit 事实核查新方法,人为劝导和智能算法结合

  1. 云栖社区>
  2. 博客>
  3. 正文

Reddit 事实核查新方法,人为劝导和智能算法结合

boxti 2017-06-08 10:34:00 浏览1040
展开阅读全文

为了控制假新闻传播,新闻机构和平台究竟应该依赖算法排除,还是靠受众自己分辨?最近,一项试验结果表明,这两者办法是可以被结合起来的。

image

人工智能微调:将人为劝导和智能算法相结合

Reddit 论坛的 “/r/worldnews” 板块和麻省理工大学的研究者通过合作调研发现,鼓励用户对潜在的假新闻和耸人听闻的报道进行事实核查,不但能让用户评论数量翻倍,同时还能让这些假新闻的 “得分(Reddit score)” 降低(即将权重被刷到页面底部),调查报告表示:“这项数据能显著影响文章在子板块(subreddit)里的排名。”

image

调研组组长、博士生内森-马提亚斯表示,这项研究证明了所谓 “人工智能微调(AI nudge)” 的能力,这种技术把人为劝导和智能算法结合起来实现理想的结果,同时也不增加任何影响用户习惯的规则。这个想法的灵感来源于理查德-泰勒和凯斯-桑斯坦的研究,他们相信,“微调”可适用于政府和其他机构。

image

马提亚斯说:“研究结果显示,我们关注的很多问题,比如假新闻泛滥,是由一系列人为和算法因素的综合作用造成的。通过劝导受众改变行为模式,我们甚至都不需要去控制算法系统。”

用户“怀疑+反对”新闻信息源

他们的试验是这样进行的:子板块的版主提供了一系列 “总被举报” 的 ”标题党、不实信息” 新闻消息源,名单们大部分是英国和澳大利亚的八卦小报(有趣的是,《纽约邮报》也在名单之中)。

这些在两个月的时间里被提交到子板块的网站链接要么无监管;要么有用户评论表示怀疑、需要事实核查,如果无法独立证实,还会给文章点 “反对(downvote)”。

报告中表示:置顶评论带有怀疑倾向,往往会让评论区内包含至少一个链接的概率提升 1.28%;置顶评论中带有怀疑倾向同时还点反对的概率提升则为 1.47%。这两项的影响都是很显著的。

image

讨论 “r/worldnews” 板块里的小报内容如果鼓励事实核查链接,能把评论带链接的平均概率提升到 201%;如果鼓励怀疑真实性并点反对,可以把平均概率提升到 203%。

总体来说,小报文章若有鼓励事实核查的置顶评论,其得分占到了没有置顶评论文章的 49.1%,效果显著。但置顶评论中包含鼓励反对的内容,却没有发现明显的数据改变。鼓励怀疑能让小报文章的得分增长放缓,鼓励怀疑和反对则能稍微主张这些文章流量的增长。

事实核查给向用户放权

马提亚斯和合作伙伴梅瑞-莫的研究项目名叫 “CivilServant”,就是为了帮助和引导网络社区进行各种试验,议题包括管理、骚扰等等。马提亚斯选择 Reddit 的原因,也是因为这家论坛 “给了用户很大权力”,不管是自上而下的社区管理,还是自我监管。

因此,Reddit 是个理想的研究对象,论坛内容有其重要性,每天都影响着数百万人如何获取新闻信息。在其新用户的板块中,注册人数就超过 1500 万,每天文章发布量达到 450 篇,算得上是英文互联网上规模最大的世界新闻讨论单组了。所以如果能处理好不靠谱的新闻源,绝对能控制假新闻的传播。

反作用:或反助长假消息传播

试验结果是乐观的,但研究者依然有他们的担忧。比如在事实核查的过程中,“/r/worldnews” 的用户不自觉就助长了这些信息的传播。因为 Reddit 网站的算法是受文章评论活跃度影响的,无法分辨这些评论的意图是什么。所以,事实核查评论突增,反而会让该文章更流行。

image

这就是所谓的反作用了。早在 2010 年布伦丹-尼汉和杰森-雷弗勒发表的论文中就提到了这个概念,在某些情况下,修正虚假信息的举措反而会助长虚假信息的传播。去年还有一篇论文,则表示虽然这种反作用出现的频率并不高,但依然值得担忧。比如唐纳德-特朗普关于选举骗局的言论虽然引来了媒体疯狂的事实核查,但却导致更多人相信他的话。马提亚斯说:“这就是算法引发的结果。”

另外,建议用户点反对,效果并不明显。马蒂亚斯发现这些文章被点反对后,事实核查所造成的效果反而会被抹去,但因为缺乏相关数据,还很难寻找出原因。一个可能的理由,就是心理学上讲的 “逆反”——或许有用户不喜欢版主这样鼓励他人点反对的做法,反而去点赞了。

这项试验的很多结果都只适用于 Reddit 一家网站,马提亚斯也表示,有些结果也值得其他网站和新闻机构借鉴。

“我希望这项试验能够激发新闻机构去思索受众的力量,跟他们合作,以应对像假新闻这样的挑战。”他说,“Reddit 的版主们完全可以选择找团队人工审查的办法,但我们还是找到了新办法,邀请规模更广的受众群体来一起处理这个问题。”

文章转载自 开源中国社区 [http://www.oschina.net]

网友评论

登录后评论
0/500
评论