《中国人工智能学会通讯》——12.35 众包工人的领域差异性

简介: 本节书摘来自CCAI《中国人工智能学会通讯》一书中的第12章,第12.35节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。

12.35 众包工人的领域差异性

与简单的众包任务(如图片标注、实体识别)不同,众包工人在知识补全任务中会存在领域差异性。例如,篮球迷擅长回答与 NBA 相关的知识元组,而电影爱好者则更容易答对电影相关的任务。我们通过实验说明这种领域差异性。图 2 给出了工人在不同领域完成任务的准确率(具体数据集描述和众包任务收集见文献 [34]),其中每一行表示一个工人,用匿名的工人 ID 标识;每一列表示一个领域,如 Hunting、Philosophy 等;每个格子中柱的长短表示工人在相应领域的准确率高低,柱旁边的数字表示准确率数值。image
通过图 2 可以明显地看到众包工人的领域差异性:从行的角度看,同一工人在不同领域的准确率差别很大。例如,第一个工人在 Book & Author 领域准确率高达 0.875,而在 FIFA 领域准确率低至0.176。另一方面,从列的角度看,不同领域的“专家”(即准确率最高的工人)差异性也很大。例如,Hunting 和 FIFA 领域的前 3 名专家有很大不同。

众包工人的领域差异性给任务分配和众包答案的聚合带来了更大的挑战。现有工作侧重研究众包任务分配与众包结果聚合,先后提出了多数投票策略[35]和众包工人准确率估计[36-38] 。然而,领域差异性使单一的准确率不能反映工人在不同领域不同的准确率,可能带来以下结果,首先,在某一领域表现出色的工人,在另一领域可能表现平平,甚至提供很差的结果;其次,传统众包质量控制的重要手段考试(Qualification Test)可能不再有效。

相关文章
|
机器学习/深度学习 人工智能 自然语言处理
搜狗翻宝Pro机再次开挂,智能翻译硬件成中国人工智能的新风口
第五届世界互联网大会正在如火如荼的举行。
搜狗翻宝Pro机再次开挂,智能翻译硬件成中国人工智能的新风口
|
机器学习/深度学习 人工智能 自然语言处理
阳过→阳康,数据里的时代侧影;谷歌慌了!看各公司如何应对ChatGPT;两份优质AI年报;本周技术高光时刻 | ShowMeAI每周通讯 #003-12.24
这是ShowMeAI每周通讯的第3期。本期内容关键词:新冠、ChatGPT、2022 AI 报告、腾讯·绝悟、阿里·AliceMind、小红书·全站智投、OpenAI·Point-E、Google·CALM、Wayve·MILE、AI2·MemPrompt、Stanford x MosaicML·PubMed GPT、腾讯全员大会、特斯拉裁员、图森未来裁员、AI 应用与工具大全。
463 0
阳过→阳康,数据里的时代侧影;谷歌慌了!看各公司如何应对ChatGPT;两份优质AI年报;本周技术高光时刻 | ShowMeAI每周通讯 #003-12.24
|
机器学习/深度学习 人工智能 自然语言处理
与世界同行 2017中国人工智能大会有感
与世界同行 2017中国人工智能大会有感
1540 0
与世界同行 2017中国人工智能大会有感
|
人工智能 自动驾驶
2019年上半年收集到的中国人工智能发展详情文章
2019年上半年收集到的中国人工智能发展详情文章
|
人工智能 芯片
中国人工智能计划,我来说几句
中国人工智能计划,我来说几句
|
机器学习/深度学习 人工智能 自然语言处理
2022 年中国人工智能行业发展现状与市场规模分析 市场规模超 3000 亿元
人工智能产业是智能产业发展的核心,是其他智能科技产品发展的基础,近年来,中国人工智能产业在政策与技术双重驱动下呈现高速增长态势。
1564 0
2022 年中国人工智能行业发展现状与市场规模分析 市场规模超 3000 亿元
|
数据采集 人工智能 智能设计
Nat. Biotechnol. | 人工智能药物研发在中国蓬勃发展
Nat. Biotechnol. | 人工智能药物研发在中国蓬勃发展
631 0
Nat. Biotechnol. | 人工智能药物研发在中国蓬勃发展
|
机器学习/深度学习 人工智能 安全
利用人工智能众包数据,加速药物发现
利用人工智能众包数据,加速药物发现
92 0
|
机器学习/深度学习 人工智能 监控
中国95后流行色是什么?人工智能给出的答案是它
中国 95 后的流行色是什么?人工智能说是 RGB 值为 22/20/24 的「黑色」。
507 0
中国95后流行色是什么?人工智能给出的答案是它
|
机器学习/深度学习 人工智能 自然语言处理
机器之心选出全球最值得关注的100家人工智能公司(中国27家),同时这是一个开源项目
机器之心和 Comet Labs 联合发布了影响全球人工智能公司的榜单。我们选取了基础研究、技术和产品、行业潜力、公司运营能力、资本实力等五个维度,甄选出了全球范围内最具前途的 100 家人工智能公司,它们包括那些我们已经熟知的科技巨头,垂直行业独角兽,也有尚在萌芽的初创公司。 当然,这份榜单肯定没有做到尽善尽美,也存在 100 家的名额限制,但我们坚信,这份基于我们诚意、内容经验和专业判断的不存在任何商业利益的榜单可以为大家总结和精炼出一些有价值的信息,带给大家灵感和启发。
440 0
机器之心选出全球最值得关注的100家人工智能公司(中国27家),同时这是一个开源项目

热门文章

最新文章