分布式之redis復(fù)習(xí)精講

1、 WORD 8/8 HYPERLINK s:/ cnblogs /rjzheng/p/9096228.html 分布式之redis復(fù)習(xí)精講為什么寫這篇文章?博主的 HYPERLINK :/ cnblogs /rjzheng/p/8994962.html 分布式之消息隊列復(fù)習(xí)精講得到了大家的好評，心誠惶誠恐，想著再出一篇關(guān)于復(fù)習(xí)精講的文章。但是還是要說明一下，復(fù)習(xí)精講的文章偏面試準(zhǔn)備，真正在開發(fā)過程中，還是腳踏實地，一步一個腳印，不要投機取巧。考慮到絕大部分寫業(yè)務(wù)的程序員，在實際開發(fā)中使用redis的時候，只會setvalue和getvalue兩個操作，對redis整體缺乏一個認知。又恰逢博主某

2、個同事下周要去培訓(xùn)redis，所以博主斗膽以redis為題材，對redis常見問題做一個總結(jié)，希望能夠彌補大家的知識盲點。復(fù)習(xí)要點?本文圍繞以下幾點進行闡述1、為什么使用redis2、使用redis有什么缺點3、單線程的redis為什么這么快4、redis的數(shù)據(jù)類型，以與每種數(shù)據(jù)類型的使用場景5、redis的過期策略以與存淘汰機制6、redis和數(shù)據(jù)庫雙寫一致性問題7、如何應(yīng)對緩存穿透和緩存雪崩問題8、如何解決redis的并發(fā)競爭問題正文1、為什么使用redis分析:博主覺得在項目中使用redis，主要是從兩個角度去考慮:性能和并發(fā)。當(dāng)然，redis還具備可以做分布式鎖等其他功能，但是如果只是

3、為了分布式鎖這些其他功能，完全還有其他中間件(如zookpeer等)代替，并不是非要使用redis。因此，這個問題主要從性能和并發(fā)兩個角度去答?；卮?如下所示，分為兩點（一）性能如下圖所示，我們在碰到需要執(zhí)行耗時特別久，且結(jié)果不頻繁變動的SQL，就特別適合將運行結(jié)果放入緩存。這樣，后面的請求就去緩存中讀取，使得請求能夠迅速響應(yīng)。題外話：忽然想聊一下這個迅速響應(yīng)的標(biāo)準(zhǔn)。其實根據(jù)交互效果的不同，這個響應(yīng)時間沒有固定標(biāo)準(zhǔn)。不過曾經(jīng)有人這么告訴我:在理想狀態(tài)下，我們的頁面跳轉(zhuǎn)需要在瞬間解決，對于頁操作則需要在剎那間解決。另外，超過一彈指的耗時操作要有進度提示，并且可以隨時中止或取消，這樣才能給用戶最好

4、的體驗。那么瞬間、剎那、一彈指具體是多少時間呢？根據(jù)摩訶僧祗律記載一剎那者為一念，二十念為一瞬，二十瞬為一彈指，二十彈指為一羅預(yù)，二十羅預(yù)為一須臾，一日一夜有三十須臾。那么，經(jīng)過周密的計算，一瞬間為0.36 秒,一剎那有 0.018 秒.一彈指長達 7.2 秒。（二）并發(fā)如下圖所示，在大并發(fā)的情況下，所有的請求直接訪問數(shù)據(jù)庫，數(shù)據(jù)庫會出現(xiàn)連接異常。這個時候，就需要使用redis做一個緩沖操作，讓請求先訪問到redis，而不是直接訪問數(shù)據(jù)庫。2、使用redis有什么缺點分析:大家用redis這么久，這個問題是必須要了解的，基本上使用redis都會碰到一些問題，常見的也就幾個。回答:主要是四個問題

5、(一)緩存和數(shù)據(jù)庫雙寫一致性問題(二)緩存雪崩問題(三)緩存擊穿問題(四)緩存的并發(fā)競爭問題這四個問題，我個人是覺得在項目中，比較常遇見的，具體解決方案，后文給出。3、單線程的redis為什么這么快分析:這個問題其實是對redis部機制的一個考察。其實根據(jù)博主的面試經(jīng)驗，很多人其實都不知道redis是單線程工作模型。所以，這個問題還是應(yīng)該要復(fù)習(xí)一下的?；卮?主要是以下三點(一)純存操作(二)單線程操作，避免了頻繁的上下文切換(三)采用了非阻塞I/O多路復(fù)用機制題外話：我們現(xiàn)在要仔細的說一說I/O多路復(fù)用機制，因為這個說法實在是太通俗了，通俗到一般人都不懂是什么意思。博主打一個比方：小曲在S城開

6、了一家快遞店，負責(zé)同城快送服務(wù)。小曲因為資金限制，雇傭了一批快遞員，然后小曲發(fā)現(xiàn)資金不夠了，只夠買一輛車送快遞。經(jīng)營方式一客戶每送來一份快遞，小曲就讓一個快遞員盯著，然后快遞員開車去送快遞。慢慢的小曲就發(fā)現(xiàn)了這種經(jīng)營方式存在下述問題幾十個快遞員基本上時間都花在了搶車上了，大部分快遞員都處在閑置狀態(tài)，誰搶到了車，誰就能去送快遞隨著快遞的增多，快遞員也越來越多，小曲發(fā)現(xiàn)快遞店里越來越擠，沒辦法雇傭新的快遞員了快遞員之間的協(xié)調(diào)很花時間綜合上述缺點，小曲痛定思痛，提出了下面的經(jīng)營方式經(jīng)營方式二小曲只雇傭一個快遞員。然后呢，客戶送來的快遞，小曲按送達地點標(biāo)注好，然后依次放在一個地方。最后，那個快遞員依次

7、的去取快遞，一次拿一個，然后開著車去送快遞，送好了就回來拿下一個快遞。對比上述兩種經(jīng)營方式對比，是不是明顯覺得第二種，效率更高，更好呢。在上述比喻中:每個快遞員每個線程每個快遞每個socket(I/O流)快遞的送達地點socket的不同狀態(tài)客戶送快遞請求來自客戶端的請求小曲的經(jīng)營方式服務(wù)端運行的代碼一輛車CPU的核數(shù)于是我們有如下結(jié)論1、經(jīng)營方式一就是傳統(tǒng)的并發(fā)模型，每個I/O流(快遞)都有一個新的線程(快遞員)管理。2、經(jīng)營方式二就是I/O多路復(fù)用。只有單個線程(一個快遞員)，通過跟蹤每個I/O流的狀態(tài)(每個快遞的送達地點)，來管理多個I/O流。下面類比到真實的redis線程模型，如圖所示參

8、照上圖，簡單來說，就是。我們的redis-client在操作的時候，會產(chǎn)生具有不同事件類型的socket。在服務(wù)端，有一段I/0多路復(fù)用程序，將其置入隊列之中。然后，文件事件分派器，依次去隊列中取，轉(zhuǎn)發(fā)到不同的事件處理器中。需要說明的是，這個I/O多路復(fù)用機制，redis還提供了select、epoll、evport、kqueue等多路復(fù)用函數(shù)庫，大家可以自行去了解。4、redis的數(shù)據(jù)類型，以與每種數(shù)據(jù)類型的使用場景分析：是不是覺得這個問題很基礎(chǔ)，其實我也這么覺得。然而根據(jù)面試經(jīng)驗發(fā)現(xiàn)，至少百分八十的人答不上這個問題。建議，在項目中用到后，再類比記憶，體會更深，不要硬記?；旧?，一個合格的程

9、序員，五種類型都會用到。回答：一共五種(一)String這個其實沒啥好說的，最常規(guī)的set/get操作，value可以是String也可以是數(shù)字。一般做一些復(fù)雜的計數(shù)功能的緩存。(二)hash這里value存放的是結(jié)構(gòu)化的對象，比較方便的就是操作其中的某個字段。博主在做單點登錄的時候，就是用這種數(shù)據(jù)結(jié)構(gòu)存儲用戶信息，以cookieId作為key，設(shè)置30分鐘為緩存過期時間，能很好的模擬出類似session的效果。(三)list使用List的數(shù)據(jù)結(jié)構(gòu)，可以做簡單的消息隊列的功能。另外還有一個就是，可以利用lrange命令，做基于redis的分頁功能，性能極佳，用戶體驗好。(四)set因為set堆

10、放的是一堆不重復(fù)值的集合。所以可以做全局去重的功能。為什么不用JVM自帶的Set進行去重？因為我們的系統(tǒng)一般都是集群部署，使用JVM自帶的Set，比較麻煩，難道為了一個做一個全局去重，再起一個公共服務(wù)，太麻煩了。另外，就是利用交集、并集、差集等操作，可以計算共同喜好，全部的喜好，自己獨有的喜好等功能。(五)sorted setsorted set多了一個權(quán)重參數(shù)score,集合中的元素能夠按score進行排列?？梢宰雠判邪駪?yīng)用，取TOP N操作。另外，參照另一篇 HYPERLINK s:/ cnblogs /rjzheng/p/8972725.html 分布式之延時任務(wù)方案解析，該文指出了so

11、rted set可以用來做延時任務(wù)。最后一個應(yīng)用就是可以做圍查找。5、redis的過期策略以與存淘汰機制分析:這個問題其實相當(dāng)重要，到底redis有沒用到家，這個問題就可以看出來。比如你redis只能存5G數(shù)據(jù)，可是你寫了10G，那會刪5G的數(shù)據(jù)。怎么刪的，這個問題思考過么？還有，你的數(shù)據(jù)已經(jīng)設(shè)置了過期時間，但是時間到了，存占用率還是比較高，有思考過原因么?回答:redis采用的是定期刪除+惰性刪除策略。為什么不用定時刪除策略?定時刪除,用一個定時器來負責(zé)監(jiān)視key,過期則自動刪除。雖然存與時釋放，但是十分消耗CPU資源。在大并發(fā)請求下，CPU要將時間應(yīng)用在處理請求，而不是刪除key,因此沒有

12、采用這一策略.定期刪除+惰性刪除是如何工作的呢?定期刪除，redis默認每個100ms檢查，是否有過期的key,有過期key則刪除。需要說明的是，redis不是每個100ms將所有的key檢查一次，而是隨機抽取進行檢查(如果每隔100ms,全部key進行檢查，redis豈不是卡死)。因此，如果只采用定期刪除策略，會導(dǎo)致很多key到時間沒有刪除。于是，惰性刪除派上用場。也就是說在你獲取某個key的時候，redis會檢查一下，這個key如果設(shè)置了過期時間那么是否過期了？如果過期了此時就會刪除。采用定期刪除+惰性刪除就沒其他問題了么?不是的，如果定期刪除沒刪除key。然后你也沒即時去請求key，也就

13、是說惰性刪除也沒生效。這樣，redis的存會越來越高。那么就應(yīng)該采用存淘汰機制。在redis.conf中有一行配置# maxmemory-policy volatile-lru該配置就是配存淘汰策略的(什么，你沒配過？好好反省一下自己)1）noeviction：當(dāng)存不足以容納新寫入數(shù)據(jù)時，新寫入操作會報錯。應(yīng)該沒人用吧。2）allkeys-lru：當(dāng)存不足以容納新寫入數(shù)據(jù)時，在鍵空間中，移除最近最少使用的key。推薦使用，目前項目在用這種。3）allkeys-random：當(dāng)存不足以容納新寫入數(shù)據(jù)時，在鍵空間中，隨機移除某個key。應(yīng)該也沒人用吧，你不刪最少使用Key,去隨機刪。4）volat

14、ile-lru：當(dāng)存不足以容納新寫入數(shù)據(jù)時，在設(shè)置了過期時間的鍵空間中，移除最近最少使用的key。這種情況一般是把redis既當(dāng)緩存，又做持久化存儲的時候才用。不推薦5）volatile-random：當(dāng)存不足以容納新寫入數(shù)據(jù)時，在設(shè)置了過期時間的鍵空間中，隨機移除某個key。依然不推薦6）volatile-ttl：當(dāng)存不足以容納新寫入數(shù)據(jù)時，在設(shè)置了過期時間的鍵空間中，有更早過期時間的key優(yōu)先移除。不推薦ps：如果沒有設(shè)置 expire 的key, 不滿足先決條件(prerequisites); 那么 volatile-lru, volatile-random 和 volatile-ttl

15、 策略的行為, 和 noeviction(不刪除) 基本上一致。6、redis和數(shù)據(jù)庫雙寫一致性問題分析:一致性問題是分布式常見問題，還可以再分為最終一致性和強一致性。數(shù)據(jù)庫和緩存雙寫，就必然會存在不一致的問題。答這個問題，先明白一個前提。就是如果對數(shù)據(jù)有強一致性要求，不能放緩存。我們所做的一切，只能保證最終一致性。另外，我們所做的方案其實從根本上來說，只能說降低不一致發(fā)生的概率，無法完全避免。因此，有強一致性要求的數(shù)據(jù)，不能放緩存。回答: HYPERLINK s:/ cnblogs /rjzheng/p/9041659.html 分布式之?dāng)?shù)據(jù)庫和緩存雙寫一致性方案解析給出了詳細的分析，在這里

16、簡單的說一說。首先，采取正確更新策略，先更新數(shù)據(jù)庫，再刪緩存。其次，因為可能存在刪除緩存失敗的問題，提供一個補償措施即可，例如利用消息隊列。7、如何應(yīng)對緩存穿透和緩存雪崩問題分析:這兩個問題，說句實在話，一般中小型傳統(tǒng)軟件企業(yè)，很難碰到這個問題。如果有大并發(fā)的項目，流量有幾百萬左右。這兩個問題一定要深刻考慮?；卮?如下所示緩存穿透，即黑客故意去請求緩存中不存在的數(shù)據(jù)，導(dǎo)致所有的請求都懟到數(shù)據(jù)庫上，從而數(shù)據(jù)庫連接異常。解決方案:(一)利用互斥鎖，緩存失效的時候，先去獲得鎖，得到鎖了，再去請求數(shù)據(jù)庫。沒得到鎖，則休眠一段時間重試(二)采用異步更新策略，無論key是否取到值，都直接返回。value值

17、中維護一個緩存失效時間，緩存如果過期，異步起一個線程去讀數(shù)據(jù)庫，更新緩存。需要做緩存預(yù)熱(項目啟動前，先加載緩存)操作。(三)提供一個能迅速判斷請否有效的攔截機制，比如，利用布隆過濾器，部維護一系列合法有效的key。迅速判斷出，請求所攜帶的Key是否合法有效。如果不合法，則直接返回。緩存雪崩，即緩存同一時間大面積的失效，這個時候又來了一波請求，結(jié)果請求都懟到數(shù)據(jù)庫上，從而導(dǎo)致數(shù)據(jù)庫連接異常。解決方案:(一)給緩存的失效時間，加上一個隨機值，避免集體失效。(二)使用互斥鎖，但是該方案吞吐量明顯下降了。(三)雙緩存。我們有兩個緩存，緩存A和緩存B。緩存A的失效時間為20分鐘，緩存B不設(shè)失效時間。自

18、己做緩存預(yù)熱操作。然后細分以下幾個小點I 從緩存A讀數(shù)據(jù)庫，有則直接返回II A沒有數(shù)據(jù)，直接從B讀數(shù)據(jù)，直接返回，并且異步啟動一個更新線程。III 更新線程同時更新緩存A和緩存B。8、如何解決redis的并發(fā)競爭key問題分析:這個問題大致就是，同時有多個子系統(tǒng)去set一個key。這個時候要注意什么呢？大家思考過么。需要說明一下，博主提前百度了一下，發(fā)現(xiàn)答案基本都是推薦用redis事務(wù)機制。博主不推薦使用redis的事務(wù)機制。因為我們的生產(chǎn)環(huán)境，基本都是redis集群環(huán)境，做了數(shù)據(jù)分片操作。你一個事務(wù)中有涉與到多個key操作的時候，這多個key不一定都存儲在同一個redis-server上。因此，redis的事務(wù)機制，十分雞肋?；卮?如下所示(1)如果對這個key操作，不要求順序這種情況下，準(zhǔn)備一個分布式鎖，大家去搶鎖，搶到鎖就做set操作即可，比較簡單。(2)如果對這個key操作，要求順序假設(shè)有一個key1,系統(tǒng)A需要將key1設(shè)置為valueA,系統(tǒng)B需要將key1設(shè)置為valueB,系統(tǒng)C需要將key1設(shè)置為valueC.期望按照key1的value值按照 valueA-valueB-valueC的順序變化。這種時候我們在數(shù)據(jù)寫入數(shù)據(jù)庫的時候，需要保存一個