什么是布隆過(guò)濾器?如何實(shí)現(xiàn)布隆過(guò)濾器?
布隆過(guò)濾器(Bloom Filter)是一種空間效率極高的概率型數(shù)據(jù)結(jié)構(gòu),用于判斷一個(gè)元素是否在一個(gè)集合中。它基于位數(shù)組和多個(gè)哈希函數(shù)的原理,可以高效地進(jìn)行元素的查詢,而且占用的空間相對(duì)較小,如下圖所示:
根據(jù) key 值計(jì)算出它的存儲(chǔ)位置,然后將此位置標(biāo)識(shí)全部標(biāo)識(shí)為 1(未存放數(shù)據(jù)的位置全部為 0),查詢時(shí)也是查詢對(duì)應(yīng)的位置是否全部為 1,如果全部為 1,則說(shuō)明數(shù)據(jù)是可能存在的,否則一定不存在。
也就是說(shuō),如果布隆過(guò)濾器說(shuō)一個(gè)元素不在集合中,那么它一定不在這個(gè)集合中;但如果它說(shuō)一個(gè)元素在集合中,則有可能是不存在的(存在誤差)。
1、布隆執(zhí)行過(guò)程
布隆過(guò)濾器的具體執(zhí)行步驟如下:
- 在 Redis 中創(chuàng)建一個(gè)位數(shù)組,用于存儲(chǔ)布隆過(guò)濾器的位向量。
- 初始化多個(gè)哈希函數(shù),并將每個(gè)哈希函數(shù)的計(jì)算結(jié)果對(duì)應(yīng)的位數(shù)組位置設(shè)置為 1。
- 添加元素到布隆過(guò)濾器時(shí),對(duì)元素進(jìn)行多次哈希計(jì)算,并將對(duì)應(yīng)的位數(shù)組位置設(shè)置為 1。
- 查詢?cè)厥欠翊嬖跁r(shí),對(duì)元素進(jìn)行多次哈希計(jì)算,并檢查對(duì)應(yīng)的位數(shù)組位置是否都為 1。
2、布隆使用場(chǎng)景
布隆過(guò)濾器的主要使用場(chǎng)景有以下幾個(gè):
- 大數(shù)據(jù)量去重:可以用布隆過(guò)濾器來(lái)進(jìn)行數(shù)據(jù)去重,判斷一個(gè)數(shù)據(jù)是否已經(jīng)存在,避免重復(fù)插入。
- 緩存穿透:可以用布隆過(guò)濾器來(lái)過(guò)濾掉惡意請(qǐng)求或請(qǐng)求不存在的數(shù)據(jù),避免對(duì)后端存儲(chǔ)的頻繁訪問(wèn)。
- 網(wǎng)絡(luò)爬蟲(chóng)的 URL 去重:可以用布隆過(guò)濾器來(lái)判斷 URL 是否已經(jīng)被爬取,避免重復(fù)爬取。
3、如何實(shí)現(xiàn)布隆過(guò)濾器?
在 Redis 中不能直接使用布隆過(guò)濾器,但我們可以通過(guò) Redis 4.0 版本之后提供的 modules (擴(kuò)展模塊) 的方式引入,它的實(shí)現(xiàn)步驟如下。
(1)打包RedisBloom插件
“
git clone https://github.com/RedisLabsModules/redisbloom.git
cd redisbloom
make # 編譯redisbloom
”
編譯正常執(zhí)行完,會(huì)在根目錄生成一個(gè) redisbloom.so 文件。
(2)啟用RedisBloom插件
重新啟動(dòng) Redis 服務(wù),并指定啟動(dòng) RedisBloom 插件,具體命令如下:
“
redis-server redis.conf --loadmodule ./src/modules/RedisBloom-master/redisbloom.so
”
(3)創(chuàng)建布隆過(guò)濾器
創(chuàng)建一個(gè)布隆過(guò)濾器,并設(shè)置期望插入的元素?cái)?shù)量和誤差率,在 Redis 客戶端中輸入以下命令:
“
BF.RESERVE my_bloom_filter 0.01 100000
”
(4)添加元素到布隆過(guò)濾器
在 Redis 客戶端中輸入以下命令:
“
BF.ADD my_bloom_filter leige
”
(5)檢查元素是否存在
在 Redis 客戶端中輸入以下命令:
“
BF.EXISTS my_bloom_filter leige
”
課后思考
以上我們介紹了什么是布隆過(guò)濾器?它的使用場(chǎng)景和執(zhí)行流程,以及在 Redis 中它的使用,那么問(wèn)題來(lái)了,在日常開(kāi)發(fā)中,也就是在 Java 開(kāi)發(fā)中,我們又將如何操作布隆過(guò)濾器呢?