《大规模元搜索引擎技》—导读

简介:

‖前 言

近年来,万维网(World Wide Web,简称Web)已经成为最大的信息源, 开发先进的搜索工具一直是因特网(Internet)技术的一项关键研究和开发工作。由于Google和Yahoo!等主流搜索引擎的普及,目前在Web上的搜索工具中,搜索引擎是人们最为熟知的。虽然这些主流搜索引擎非常成功,但也存在许多严重的局限性。例如,每个搜索引擎仅能覆盖Web上全部可用内容的一小部分;其基于爬虫的技术很难完全达到所谓的深层网(deep Web,也称为深网),虽然这方面最近取得了很大的进展并且紧跟Web内容的变化和扩展而发展。
本书所介绍的大规模元搜索引擎技术具有克服这些主流搜索引擎局限性的潜力。元搜索引擎是一个支持统一访问一些现有搜索引擎的搜索系统。本质上,元搜索引擎将接收到的查询发送给其他的搜索引擎,当这些被调用的搜索引擎返回结果之后,元搜索引擎将这些结果聚集为一个排序列表并展现给用户。虽然开发元搜索引擎的最初动力是其结合多个搜索引擎的搜索范围的能力,但它还有更多的益处,如可以获得更好、更新的结果,能够访问深层网。
本书重点关注大规模元搜索引擎(large-scale metasearch engine)的概念。这种元搜索引擎连接成千上万个搜索引擎。构建和维护大规模元搜索引擎需要先进的元搜索引擎技术,使其一些关键部件具有高度可扩展性和自动化解决方案。本书的目的就是广泛而深入地介绍大规模元搜索引擎技术,对作为Web搜索的竞争技术的大规模元搜索引擎技术的可行性进行了强有力的论证。本书将详细讨论大规模元搜索引擎的主要部件:搜索引擎选择,这一部件用于识别最有可能为任何给定查询提供有用结果的各个搜索引擎;搜索引擎加入,这一部件与各个搜索引擎进行交互,包括从元搜索引擎发送查询给本地搜索引擎以及从不同的搜索引擎返回的响应页面中提取搜索结果;结果合并,这一部件将不同搜索引擎返回的结果合并为一个排序列表。大规模元搜索引擎技术包括高度准确和可扩展的搜索引擎选择算法、高度自动化的搜索引擎加入技术和高效的结果合并方法。
本书可作为Web数据管理和信息检索等Web技术相关课程的部分内容,也可作为Web搜索领域的研究人员和开发人员的参考书。
致谢
对数据管理系列丛书编辑M. Tamer zsu博士表示衷心的感谢,他仔细阅读了全部书稿,并提出了非常有价值及建设性的建议,这些建议对改进本书有很大的帮助。感谢Hongkun Zhao和Can Lin,他们阅读了部分书稿并提出宝贵意见。还要感谢本书的编辑Diane Cerra在写作过程中给予的帮助。

Meng Weiyi和Clement T.Yu
2010年11月

‖目 录
丛书前言
译者序
前 言
作者简介
[第1章 绪言
  1.1 Web上查找信息
    1.1.1 浏览
    1.1.2 搜索](https://yq.aliyun.com/articles/90216)
  [1.2 文本检索概述
    1.2.1 系统体系结构
    1.2.2 文档表示
    1.2.3 文档-查询匹配
    1.2.4 查询处理
    1.2.5 检索有效性度量](https://yq.aliyun.com/articles/90221)
   [ 1.3 搜索引擎技术概述
    1.3.1 Web的专门特性
    1.3.2 Web爬虫
    1.3.3 利用标签信息
    1.3.4 利用链接信息
    1.3.5 结果组织](https://yq.aliyun.com/articles/90230)
  1.4 本书概述
[第2章 元搜索引擎体系结构
  2.1 系统体系结构](https://yq.aliyun.com/articles/90238)
  2.2 为什么使用元搜索引擎技术
  [2.3 挑战环境
    2.3.1 异构及其影响
    2.3.2 规范化研究](https://yq.aliyun.com/articles/90244)
第3章 搜索引擎选择
  3.1 粗糙表记方法
  3.2 基于学习的方法
  3.3 基于样本文档的方法
  3.4 统计表记方法
    3.4.1 D-WISE
    3.4.2 CORI Net
    3.4.3 gGlOSS
    3.4.4 潜在有用文档数目
    3.4.5 最相似文档的相似度
    3.4.6 搜索引擎表记生成
第4章 搜索引擎加入
  4.1 搜索引擎连接
    4.1.1 搜索引擎的HTML表单标签
    4.1.2 搜索引擎自动连接
  4.2 搜索结果抽取
    4.2.1 半自动包装器生成
    4.2.2 自动包装器生成
第5章 结果合并
  5.1 基于完全文档内容的合并
  5.2 基于搜索结果记录的合并
  5.3 基于结果本地排序的合并
    5.3.1 基于轮转的方法
    5.3.2 基于相似度转换的方法
    5.3.3 基于投票的方法
    5.3.4 基于机器学习的方法
第6章 总结与后续研究
参考文献

相关文章
|
机器学习/深度学习 人工智能 算法
阿里公开自研AI集群细节:64个GPU,百万分类训练速度提升4倍
从节点架构到网络架构,再到通信算法,阿里巴巴把自研的高性能AI集群技术细节写成了论文,并对外公布。
阿里公开自研AI集群细节:64个GPU,百万分类训练速度提升4倍
|
2月前
|
弹性计算 NoSQL 关系型数据库
2024年阿里云又开始大规模降价,意味着什么?
2024年阿里云又开始大规模降价,意味着什么?百款产品直降,平均降幅20%,阿里云希望通过此次大规模降价,让更多企业和开发者用上先进的公共云服务,加速云计算在中国各行各业的普及和发展。这次降价包括云服务器ECS、对象存储OSS、云数据库都降价了,真降价,直降价:百款产品直降,平均降幅20%,阿里云百科分享阿里云2024年降价信息汇总表
|
Web App开发 机器学习/深度学习 人工智能
|
搜索推荐 大数据
《大规模元搜索引擎技》——2.1 系统体系结构
本节书摘来自华章出版社《大数据管理丛书》一书中的第2章,第2.1节,作者 [美]孟卫一(Weiyi Meng), 纽约州立大学, 宾汉姆顿分校於德(Clement T.Yu),伊利诺伊大学芝加哥分校,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
1558 0
|
搜索推荐 大数据
《大规模元搜索引擎技(1)》一导读
当下大数据技术发展变化日新月异,大数据应用已经遍及工业和社会生活的方方面面,原有的数据管理理论体系与大数据产业应用之间的差距日益加大,而工业界对于大数据人才的需求却急剧增加。大数据专业人才的培养是新一轮科技较量的基础,高等院校承担着大数据人才培养的重任。
922 0
|
搜索推荐 算法 大数据
《大规模元搜索引擎技》——1.4 本书概述
本节书摘来自华章出版社《大数据管理丛书》一书中的第1章,第1.4节,作者 [美]孟卫一(Weiyi Meng), 纽约州立大学, 宾汉姆顿分校於德(Clement T.Yu),伊利诺伊大学芝加哥分校,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
1144 0
|
Web App开发 数据采集 搜索推荐
《大规模元搜索引擎技》——1.3 搜索引擎技术概述
本节书摘来自华章出版社《大数据管理丛书》一书中的第1章,第1.3节,作者 [美]孟卫一(Weiyi Meng), 纽约州立大学, 宾汉姆顿分校於德(Clement T.Yu),伊利诺伊大学芝加哥分校,更多章节内容可以访问云栖社区“华章计算机”公众号查看。
1176 0