Cache-Aside模式一種常用的緩存方式，通常是把數(shù)據(jù)從主存儲(chǔ)加載到KV緩存中，加速后續(xù)的訪問。在存在重復(fù)度的場(chǎng)景，Cache-Aside可以提升服務(wù)性能，降低底層存儲(chǔ)的壓力，缺點(diǎn)是緩存和底層存儲(chǔ)會(huì)存在不一致。

業(yè)務(wù)場(chǎng)景和面臨問題

在開發(fā)應(yīng)用時(shí)，使用緩存被多次訪問的數(shù)據(jù)是常見的操作。但是，緩存和底層存儲(chǔ)的數(shù)據(jù)完全一致是一種不切實(shí)際的想法。我們需要一種策略，來保證緩存里的數(shù)據(jù)盡量及時(shí)更新，同時(shí)也要能夠檢測(cè)并應(yīng)對(duì)緩存數(shù)據(jù)過期的情況。

解決方案

很多商業(yè)化的緩存訪問提供了 read-throgh 和write-through/write-behind 的操作。這種模式下，讀寫都要先經(jīng)過緩存，操作流程是這樣的：

• 讀取數(shù)據(jù)：如果緩存miss，應(yīng)用層就從底層存儲(chǔ)讀取數(shù)據(jù)，然后寫入緩存。
• 更新數(shù)據(jù)：涉及數(shù)據(jù)修改時(shí)，直接修改緩存里的數(shù)據(jù)即可，緩存服務(wù)會(huì)自動(dòng)將修改同步到底層存儲(chǔ)。

如果緩存不提供數(shù)據(jù)同步能力，應(yīng)用層就要負(fù)責(zé)數(shù)據(jù)在緩存和底層存儲(chǔ)的同步。

使用cache-aside策略，應(yīng)用層能夠模擬read-through緩存的能力。這種策略會(huì)要求應(yīng)用層按需把數(shù)據(jù)加載進(jìn)緩存，下圖給出了存儲(chǔ)數(shù)據(jù)的過程：

如果應(yīng)用層更新了數(shù)據(jù)，就可以采用write-through策略。做法也比較簡(jiǎn)單：1）修改底層存儲(chǔ)的數(shù)據(jù)；2）將緩存里的這條數(shù)據(jù)置為失效（刪除/過期）。

下一次這條數(shù)據(jù)被請(qǐng)求時(shí)，使用cache-aside策略：1）應(yīng)用層從底層存儲(chǔ)獲取更新后的數(shù)據(jù)；2）寫入緩存。

存在問題和注意事項(xiàng)

在此用這個(gè)模式時(shí)，需要考慮以下幾點(diǎn)：

緩存數(shù)據(jù)的生命周期。很多緩存實(shí)現(xiàn)方案會(huì)設(shè)置過期時(shí)間，如果數(shù)據(jù)在一段時(shí)間內(nèi)沒有被訪問，緩存中置為失效并逐出這條數(shù)據(jù)。為了保證cache-aside模式有效，需要保證緩存失效機(jī)制與數(shù)據(jù)的訪問模式是一致的。如果緩存失效時(shí)間太短，可能會(huì)導(dǎo)致應(yīng)用層反復(fù)從底層存儲(chǔ)獲取數(shù)據(jù)寫入緩存。如果緩存過期時(shí)間太長(zhǎng)，緩存的數(shù)據(jù)很可能是過期的，與底層存儲(chǔ)不一致。對(duì)于半靜態(tài)的數(shù)據(jù)（更新頻次低）或讀取頻繁的數(shù)據(jù)進(jìn)行緩存，能達(dá)到最好的效果。

逐出數(shù)據(jù)。相對(duì)于底層存儲(chǔ)，緩存的容量一般是有限的，必須要是需要逐出數(shù)據(jù)。很多緩存采用LRU機(jī)制，當(dāng)然我們也可以自己定制逐出機(jī)制。通常為了保證緩存的性價(jià)比，所有數(shù)據(jù)都會(huì)被配置一個(gè)全局的緩存過期屬性。有個(gè)別例外的情況，比如從底層存儲(chǔ)中獲取一份數(shù)據(jù)項(xiàng)效率非常低（讀取頻率一般），另一份數(shù)據(jù)項(xiàng)從底層存儲(chǔ)獲取效率高（讀取頻率也高），那么緩存獲取效率低的數(shù)據(jù)收益可能更大。

服務(wù)啟動(dòng)時(shí)填充緩存。一些場(chǎng)景下，服務(wù)啟動(dòng)時(shí)，會(huì)把存量數(shù)據(jù)加載到緩存里。這種情況下如果有數(shù)據(jù)過期或被逐出的情況，同樣可以采用cache-aside模式。

數(shù)據(jù)一致性。cache-aside模式并不能保證緩存和底層存儲(chǔ)的數(shù)據(jù)一致性。存儲(chǔ)里的數(shù)據(jù)任何時(shí)候都可能被更改，如果是外部服務(wù)，緩存可能感知不到數(shù)據(jù)更新。如果一個(gè)系統(tǒng)中，多個(gè)存儲(chǔ)都存了數(shù)據(jù)的備份，頻繁發(fā)生數(shù)據(jù)同步的情況下，數(shù)據(jù)不一致的情況會(huì)更嚴(yán)重。

本地緩存，也叫內(nèi)存緩存。數(shù)據(jù)緩存在服務(wù)實(shí)例的內(nèi)存中，是有該實(shí)例能訪問。如果服務(wù)實(shí)例頻繁訪問同樣的數(shù)據(jù)，也可以使用Cache-Aside模式。但是本地緩存是允許本服務(wù)實(shí)例訪問，不同的服務(wù)實(shí)例都在本地內(nèi)存存儲(chǔ)了一份數(shù)據(jù)。不同實(shí)例的緩存很快變得不一致，這就需要更頻繁地刷新緩存中的數(shù)據(jù)。在這類場(chǎng)景中，可以考慮使用分片或分布式緩存方案。

應(yīng)用場(chǎng)景

適用場(chǎng)景：

• 緩存并不提供原生的 read-through 或 write-through 的能力。
• 資源需求無(wú)法預(yù)估的場(chǎng)景。cache-aside模式允許應(yīng)用按需加載數(shù)據(jù)到緩存，不需要提前對(duì)數(shù)據(jù)的需求量進(jìn)行評(píng)估。

不適用場(chǎng)景：

• 緩存數(shù)據(jù)是靜態(tài)的。如果緩存空間能容納這些數(shù)據(jù)，可以在服務(wù)啟動(dòng)時(shí)填充緩存，并采用一些策略避免其過期。
• Web農(nóng)場(chǎng)托管的大量Web應(yīng)用，如果Web應(yīng)用支持親和性調(diào)度（client傾向于找上次服務(wù)過的server），client/server之間盡量不要引入額外依賴，比如session信息緩存。