當(dāng)你對(duì) Redis 說(shuō)你中意的女孩是 Mia
一、Redis
眾所周知,Redis = Remote Dictionary Server,即遠(yuǎn)程字典服務(wù)。
是一個(gè)開(kāi)源的使用ANSI C語(yǔ)言編寫(xiě)、支持網(wǎng)絡(luò)、可基于內(nèi)存亦可持久化的日志型、Key-Value數(shù)據(jù)庫(kù),并提供多種語(yǔ)言的API。
二、當(dāng)你對(duì) redis 說(shuō)你中意的女孩是 Mia 時(shí)
1、set myLove Mia
redis 會(huì)將 key:myLove value:Mia
包裝成一個(gè) dictEntry 對(duì)象、一個(gè) redisObject 對(duì)象,如下圖所示:
?dictEntry:眾所周知,Redis是Key-Value數(shù)據(jù)庫(kù),因此對(duì)每個(gè)鍵值對(duì)都會(huì)有一個(gè)dictEntry,里面存儲(chǔ)了指向Key和Value的指針;next指向下一個(gè)dictEntry,與本Key-Value無(wú)關(guān)。
?Key:圖中右上角可見(jiàn),Key("myLove")并不是直接以字符串存儲(chǔ),而是存儲(chǔ)在SDS結(jié)構(gòu)中。
?redisObject:Value("Mia")既不是直接以字符串存儲(chǔ),也不是像Key一樣直接存儲(chǔ)在SDS中,而是存儲(chǔ)在redisObject中。實(shí)際上,不論Value是5種類(lèi)型的哪一種,都是通過(guò)redisObject來(lái)存儲(chǔ)的;而redisObject中的type字段指明了Value對(duì)象的類(lèi)型,ptr字段則指向?qū)ο笏诘牡刂?。不過(guò)可以看出,字符串對(duì)象雖然經(jīng)過(guò)了redisObject的包裝,但仍然需要通過(guò)SDS存儲(chǔ)。
1.1、對(duì) myLove 進(jìn)行對(duì)象封裝
1.1.1、dictEntry
redis內(nèi)部整體的存儲(chǔ)結(jié)構(gòu)是一個(gè)大的hashmap,內(nèi)部是數(shù)組實(shí)現(xiàn)的hash,key沖突通過(guò)掛鏈表去實(shí)現(xiàn),每個(gè)dictEntry為一個(gè)key/value對(duì)象,value為定義的redisObject。
結(jié)構(gòu)圖如下:
dictEntry是存儲(chǔ)key->value的地方,再讓我們看一下dictEntry結(jié)構(gòu)體
/*
* 字典
*/
typedef struct dictEntry {
// 鍵
void *key;
// 值
union {
// 指向具體redisObject
void *val;
//
uint64_t u64;
int64_t s64;
} v;
// 指向下個(gè)哈希表節(jié)點(diǎn),形成鏈表
struct dictEntry *next;
} dictEntry;
1.1.2、對(duì)象封裝 redisObject
我們接著再往下看redisObject究竟是什么結(jié)構(gòu)的
/*
* Redis 對(duì)象
*/
typedef struct redisObject {
// 類(lèi)型 4bits
unsigned type:4;
// 編碼方式 4bits
unsigned encoding:4;
// LRU 時(shí)間(相對(duì)于 server.lruclock) 24bits
unsigned lru:22;
// 引用計(jì)數(shù) Redis里面的數(shù)據(jù)可以通過(guò)引用計(jì)數(shù)進(jìn)行共享 32bits
int refcount;
// 指向?qū)ο蟮闹?64-bit
void *ptr;
} robj;
*ptr指向具體的數(shù)據(jù)結(jié)構(gòu)的地址;type表示該對(duì)象的類(lèi)型,即String,List,Hash,Set,Zset中的一個(gè),但為了提高存儲(chǔ)效率與程序執(zhí)行效率,每種對(duì)象的底層數(shù)據(jù)結(jié)構(gòu)實(shí)現(xiàn)都可能不止一種,encoding 表示對(duì)象底層所使用的編碼。
redis對(duì)象底層的八種數(shù)據(jù)結(jié)構(gòu):
REDIS_ENCODING_INT(long 類(lèi)型的整數(shù))
REDIS_ENCODING_EMBSTR embstr (編碼的簡(jiǎn)單動(dòng)態(tài)字符串)
REDIS_ENCODING_RAW (簡(jiǎn)單動(dòng)態(tài)字符串)
REDIS_ENCODING_HT (字典)
REDIS_ENCODING_LINKEDLIST (雙端鏈表)
REDIS_ENCODING_ZIPLIST (壓縮列表)
REDIS_ENCODING_INTSET (整數(shù)集合)
REDIS_ENCODING_SKIPLIST (跳躍表和字典)
查看 redisObject 詳細(xì)信息 :
# 查看 key對(duì)應(yīng)value的 redisObject 類(lèi)型
type key
type myLove
# 查看 key對(duì)應(yīng)value的redisObject 詳細(xì)信息
debug object key
debug object myLove
value 為 string 、int 類(lèi)型是 redisObject 中的 type、encoding 不同表現(xiàn)形式
Value 為 string 類(lèi)型時(shí):
Value 為 int類(lèi)型時(shí):
以上兩種不同 value 類(lèi)型,type 相同,encoding 不同
1.2、對(duì) myLove 進(jìn)行持久化
1.2.1、rdb 文件寫(xiě)入
1.2.2、aof 緩存寫(xiě)入 文件保存
默認(rèn)情況下 沒(méi)有開(kāi)啟 AOF ( append only file)
開(kāi)啟 AOF 持久化后,每執(zhí)行一條會(huì)更改 redis 數(shù)據(jù)的命令,redis就會(huì)將寫(xiě)入、修改、刪除命令寫(xiě)入到硬盤(pán)中的 AOF 文件(當(dāng)然并不是立即寫(xiě)入文件,而是立即寫(xiě)入aof緩存中,再根據(jù)aof配置的數(shù)據(jù)持久化條件進(jìn)行寫(xiě)入),這一過(guò)程顯然會(huì)降低 redis 的性能,但大部分情況下這個(gè)影響是能夠接受的,
另外使用快的硬盤(pán)可以提高 AOF 的性能。
配置 redis.conf
# 可以通過(guò)修改redis.conf配置文件中的appendonly參數(shù)開(kāi)啟
appendonly yes
# AOF文件的保存位置和RDB文件的位置相同,都是通過(guò)dir參數(shù)設(shè)置的。 dir ./
# 默認(rèn)的文件名是appendonly.aof,可以通過(guò)appendfilename參數(shù)修改 appendfilename appendonly.aof
AOF文件中存儲(chǔ)的是redis的命令原理
Redis 將所有對(duì)數(shù)據(jù)庫(kù)進(jìn)行過(guò)寫(xiě)入的命令(及其參數(shù))記錄到 AOF 文件, 以此達(dá)到記錄數(shù)據(jù)庫(kù)狀態(tài)的 目的, 為了方便起見(jiàn), 我們稱(chēng)呼這種記錄過(guò)程為同步。
- 同步命令到 AOF 文件的整個(gè)過(guò)程可以分為三個(gè)階段:
命令傳播:Redis 將執(zhí)行完的命令、命令的參數(shù)、命令的參數(shù)個(gè)數(shù)等信息發(fā)送到 AOF 程序中。 緩存追 加:AOF 程序根據(jù)接收到的命令數(shù)據(jù),將命令轉(zhuǎn)換為網(wǎng)絡(luò)通訊協(xié)議 RESP 的格式,然后將協(xié)議內(nèi)容追加到服務(wù)器的 AOF 緩存中。 文件寫(xiě)入和保存: AOF 緩存中的內(nèi)容被寫(xiě)入到 AOF 文件末尾,如果設(shè)定的 AOF 保存條件被滿(mǎn)足的話(huà), fsync 函數(shù)或者 fdatasync 函數(shù)會(huì)被調(diào)用,將寫(xiě)入的內(nèi)容真正地保存到磁盤(pán)中。
- 命令傳播:
當(dāng)一個(gè) Redis 客戶(hù)端需要執(zhí)行命令時(shí), 它通過(guò)網(wǎng)絡(luò)連接, 將協(xié)議文本發(fā)送給 Redis 服務(wù)器。服務(wù)器在 接到客戶(hù)端的請(qǐng)求之后, 它會(huì)根據(jù)協(xié)議文本的內(nèi)容, 選擇適當(dāng)?shù)拿詈瘮?shù), 并將各個(gè)參數(shù)從字符串文 本轉(zhuǎn)換為 Redis 字符串對(duì)象( StringObject )。每當(dāng)命令函數(shù)成功執(zhí)行之后, 命令參數(shù)都會(huì)被傳播到 AOF 程序。
- 緩存追加:
當(dāng)命令被傳播到 AOF 程序之后, 程序會(huì)根據(jù)命令以及命令的參數(shù), 將命令從字符串對(duì)象轉(zhuǎn)換回原來(lái)的 協(xié)議文本。協(xié)議文本生成之后, 它會(huì)被追加到 redis.h/redisServer 結(jié)構(gòu)的 aof_buf 末尾。
redisServer 結(jié)構(gòu)維持著 Redis 服務(wù)器的狀態(tài), aof_buf 域則保存著所有等待寫(xiě)入到 AOF 文件的協(xié) 議文本。
- RESP 協(xié)議:
Redis客戶(hù)端使用RESP(Redis的序列化協(xié)議)協(xié)議與Redis的服務(wù)器端進(jìn)行通信。 雖然該協(xié)議是專(zhuān)門(mén)為 Redis設(shè)計(jì)的,但是該協(xié)議也可以用于其他 客戶(hù)端-服務(wù)器 (Client-Server)軟件項(xiàng)目。
可以通過(guò)特殊符號(hào)來(lái)區(qū)分出數(shù)據(jù)的類(lèi)型:
單行回復(fù):以+號(hào)開(kāi)頭。
錯(cuò)誤回復(fù):以-號(hào)開(kāi)頭。
整數(shù)回復(fù):以:號(hào)開(kāi)頭。
批量回復(fù):以$號(hào)開(kāi)頭。
多條批量回復(fù):以*號(hào)開(kāi)頭。
1)間隔符號(hào),在Linux下是\r\n,在Windows下是\n
2)簡(jiǎn)單字符串 Simple Strings, 以 "+"加號(hào) 開(kāi)頭
3)錯(cuò)誤 Errors, 以"-"減號(hào) 開(kāi)頭
4)整數(shù)型 Integer, 以 ":" 冒號(hào)開(kāi)頭
5)大字符串類(lèi)型 Bulk Strings, 以 "$"美元符號(hào)開(kāi)頭,長(zhǎng)度限制512M 6、數(shù)組類(lèi)型 Arrays,以 "*"星號(hào)開(kāi)頭 用SET命令來(lái)舉例說(shuō)明RESP協(xié)議的格式。
實(shí)際發(fā)送的請(qǐng)求數(shù)據(jù):
redis> SET myLove "Mia"
"OK"
*3\r\n$3\r\nSET\r\n$6\r\nmyLove\r\n$3\r\nMia\r\n
*3
$3
SET
$5
mykey
$5
Hello
實(shí)際收到的響應(yīng)數(shù)據(jù):
+OK\r\n
文件寫(xiě)入和保存:
每當(dāng)服務(wù)器常規(guī)任務(wù)函數(shù)被執(zhí)行、 或者事件處理器被執(zhí)行時(shí), aof.c/flushAppendOnlyFile 函數(shù)都會(huì)被 調(diào)用, 這個(gè)函數(shù)執(zhí)行以下兩個(gè)工作:
WRITE:根據(jù)條件,將 aof_buf 中的緩存寫(xiě)入到 AOF 文件。 SAVE:根據(jù)條件,調(diào)用 fsync 或 fdatasync 函數(shù),將 AOF 文件保存到磁盤(pán)中。
給你的愛(ài)一個(gè)期限 expire myLove 999999999
從圖可知,在redis的數(shù)據(jù)庫(kù)中,redisDb結(jié)構(gòu)中的expires字典中保存了數(shù)據(jù)庫(kù)中所有鍵的過(guò)期時(shí)間,所以叫過(guò)期字典。
過(guò)期字典的key是一個(gè)指針,指向鍵空間的某個(gè)鍵對(duì)象(就是數(shù)據(jù)庫(kù)鍵)
過(guò)期字典的value是一個(gè)long類(lèi)型的整數(shù),這個(gè)整數(shù)保存了鍵所指向的數(shù)據(jù)庫(kù)鍵的過(guò)期時(shí)間,一個(gè)毫秒精度的UNIX時(shí)間戳
過(guò)期鍵判定
通過(guò)過(guò)期字典,我們可以得到一個(gè)key是否過(guò)期:
判斷key是否存在于過(guò)期字典中
通過(guò)過(guò)期字典拿到key的過(guò)期時(shí)間,判斷當(dāng)前UNIX時(shí)間戳是否大于key時(shí)間
過(guò)期key如何刪除
惰性刪除策略
過(guò)期鍵的惰性刪除策略由db.c/expireIfNeeded函數(shù)實(shí)現(xiàn),所有讀寫(xiě)數(shù)據(jù)庫(kù)的Redis命令在執(zhí)行之前都會(huì)調(diào)用expireIfNeeded函數(shù)對(duì)輸入鍵進(jìn)行檢查:
如果輸入鍵已經(jīng)過(guò)期,那么expireIfNeeded函數(shù)將輸入鍵從數(shù)據(jù)庫(kù)中刪除。
如果輸入鍵未過(guò)期,那么expireIfNeeded函數(shù)不做動(dòng)作。
expireIfNeeded函數(shù)就像一個(gè)過(guò)濾器,它可以在命令真正執(zhí)行之前,過(guò)濾掉過(guò)期的輸入鍵,從而避免命令接觸到過(guò)期鍵。
另外,因?yàn)槊總€(gè)被訪(fǎng)問(wèn)的鍵都可能因?yàn)檫^(guò)期而被expireIfNeeded函數(shù)刪除,所以每個(gè)命令的實(shí)現(xiàn)函數(shù)都必須能同時(shí)處理鍵存在以及鍵不存在這兩種情況:
當(dāng)鍵存在時(shí),命令按照鍵存在的情況執(zhí)行。
當(dāng)鍵不存在或者鍵因?yàn)檫^(guò)期而被expireIfNeeded函數(shù)刪除時(shí),命令按照鍵不存在的情況執(zhí)行。
定期刪除策略的實(shí)現(xiàn)
過(guò)期鍵的定期刪除策略由redis.c/activeExpireCycle函數(shù)實(shí)現(xiàn),每當(dāng)Redis的服務(wù)器周期性操作redis.c/serverCron函數(shù)執(zhí)行時(shí),activeExpireCycle函數(shù)就會(huì)被調(diào)用,它在規(guī)定的時(shí)間內(nèi),分多次遍歷服務(wù)器中的各個(gè)數(shù)據(jù)庫(kù),從數(shù)據(jù)庫(kù)的expires字典中隨機(jī)檢查一部分鍵的過(guò)期時(shí)間,并刪除其中的過(guò)期鍵。
3、del myLove
不好意思,哥們的愛(ài)無(wú)法刪除!