实例学习Bloom Filter-阿里云开发者社区

实例学习Bloom Filter

2017-11-08 1230

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

简介：

0. 科普
1. 为什么需要Bloom Filter
2. 基本原理
3. 如何设计Bloom Filter
4. 实例操作
5. 扩展

0. 科普

Bloom Filter是由Bloom在1970年提出的一种多哈希函数映射的快速查找算法。通常应用在一些需要快速判断某个元素是否属于集合，但是并不严格要求100%正确的场合。

1. 为什么需要Bloom Filter

举例说明：假设有2000万个url，现在判断一个新的url是否在这2000万个之中。可以有的思路：

分析

思路1：当数据量很大时，查询数据库变得效率底下

思路2：太消耗内存，还得把字符串全部储存起来

思路3：字符串经过MD5处理后有128个bit,比思路2省了很多空间

思路4：一个字符串仅用一位来表示，比思路3还节省空间

当然前提是会出现误判（哈希后表示相同），为了继承这么好的思路，同时减少误判的情况，可以来个折衷：一个哈希函数生成一个位，用多个哈希函数生成多个位来存储一个字符串。这样比Bit-Map多用了些空间，但是减少了误判率。

2. 基本原理

这样把大量的字符串存起来。查找时，用同样的哈希处理待查串，如果对应的各位上都为1，说明该字符串可能在这些字符串中，否则一定不在其中。

3. 如何设计Bloom Filter

如何降低误判率是关键，这需要

直接利用前人的结论：

其中f'是自己期望的误判率，m是总共开辟的存储空间位数，n是待存储字符串的个数，k是哈希函数的个数，f是真正的误判率。

4. 实例操作

需求：2000万个已知url，100个待查url

设计：

1. 设定误判率为0.1， n=2000万，计算

m = n * 1.44 * math.log(1/f)/math.log(2)=287014588
k = 0.693 * m / n= 10
f = (1 - math.exp(-1 * k * n / m)) ** k = 0.00101298781512

哈希函数的选取看这里

参考代码(c++)

makefile

 
  
 View Code 

main.cc

 
  
 View Code 

bloomfilter.h

 
  
 View Code 

bloomfilter.cc

 
  
 View Code 

hash.h

 
  
 View Code 

hash.cc

 
  
 View Code 

5. 扩展

如何删除存储数组中的元素？

思路：把存储数组的每一个元素扩展一下（原来是1b）用来存储该位置被置1的次数。存储是，计数次数加一；删除的时候，计数次数减一。

本文转自jihite博客园博客，原文链接：http://www.cnblogs.com/kaituorensheng/p/3669140.html，如需转载请自行联系原作者

实例学习Bloom Filter