维基百科要用人工智能防止恶意篡改词条

简介:

维基传媒基金会正在对软件进行训练,使之可以区分无心错误和恶意篡改之间的差异,从而降低人们编辑维基百科时所遭受的心理伤害。

该项目的一大动机在于,英语版维基百科的活跃贡献者数量出现了大幅下滑:过去8年间,这一数字萎缩了40%,目前仅为3万人。研究表明,该问题源自维基百科复杂的官僚体系,以及他们对新人所犯错误的苛刻态度——由于半自动工具的存在,使得删除新的改动变得非常容易。

维基传媒基金会高级研究员阿隆·哈尔法克(Aaron Halfaker)帮助该组织发现了这一问题,他目前还在领导一个算法开发项目,以应对这一问题。这套名为“客观修正评估服务”(ORES)的系统可以通过训练对维基百科上新增的改动进行评估,并判断某项改动究竟是善意还是恶意。

维基百科的编辑有很多工具可以查看最近的修改,并且只需要点击一下即可驳回这些修改。这些工具的初衷是希望在维基百科广受欢迎后,能够更好地控制内容质量。但却引发了很多意想不到得后果。例如,新编辑发现自己贡献的第一条内容被删除了,但却得不到任何解释。哈尔法克之所以发明ORES,就是希望能够改进这些工具。

ORES可以引导人们去评估最具破坏性的修改。该软件还可以帮助编辑用更加得体的方式对待一些无心的错误。“我认为,维基百科的员工之所以在控制质量时采取偏激的措施,是因为他们下判断的速度太快,而且没有通过人性化方式展开互动。”哈尔法克说,“这款工具可能会提醒编辑,‘如果你要驳回这项修改,或许应该谨慎一些,并向进行修改的人发送一条消息。’”

ORES正在英语、葡萄牙语、土耳其语和波斯语等多个版本中进行测试。想要判断内容的质量,并区分破坏性编辑和无心的错误,就必须从维基百科编辑之前使用的工具中收集数据。负责维护编辑工具的维基百科员工已经开始测试该系统。




原文出处:科技行者
转载请与作者联系,同时请务必标明文章原始出处和原文链接及本声明。
目录
相关文章
|
1月前
|
人工智能 安全 网络安全
欧盟《人工智能法案》对通用AI模型的监管要求
【2月更文挑战第24天】欧盟《人工智能法案》对通用AI模型的监管要求
78 1
欧盟《人工智能法案》对通用AI模型的监管要求
|
2月前
|
Web App开发 人工智能 自然语言处理
【人工智能时代】AI赋能编程 | 自动化工具助力高效办公
【人工智能时代】AI赋能编程 | 自动化工具助力高效办公
【人工智能时代】AI赋能编程 | 自动化工具助力高效办公
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
2023年度AI盘点 AIGC|AGI|ChatGPT|人工智能大模型
2023年度AI盘点 AIGC|AGI|ChatGPT|人工智能大模型
|
1月前
|
人工智能 安全 数据挖掘
Pandas AI:Pandas与人工智能的结合,让你不再拘泥于如何使用pandas方法及处理语法
Pandas AI:Pandas与人工智能的结合,让你不再拘泥于如何使用pandas方法及处理语法
|
3月前
|
SQL 存储 人工智能
探索语义解析技术和AI人工智能大模型的关系
探索语义解析技术和AI人工智能大模型的关系
74 1
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能(AI)之计算机视觉和自然语言训练文件
人工智能(AI)之计算机视觉和自然语言训练文件
45 0
|
25天前
|
机器学习/深度学习 人工智能 运维
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)(二)
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)
58 1
|
25天前
|
机器学习/深度学习 人工智能 自然语言处理
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)(一)
【人工智能技术专题】「入门到精通系列教程」打好AI基础带你进军人工智能领域的全流程技术体系(机器学习知识导论)
65 1
|
11天前
|
机器学习/深度学习 人工智能 自然语言处理
|
11天前
|
机器学习/深度学习 数据采集 人工智能

热门文章

最新文章