zookeeper學(xué)習(xí)筆記

1、2022-7-6zookeeperzookeeper學(xué)習(xí)筆記學(xué)習(xí)筆記2014-10-29Page 2 我們都知道，想要打敗一個(gè)強(qiáng)悍的對(duì)手，那你就要尋找他的弱點(diǎn)，而要知道他弱點(diǎn)，你就得了解他，也許他的弱點(diǎn)只是一個(gè)很小的點(diǎn)，但為此你得付出更多。就像一個(gè)黑客，為了找到一個(gè)漏洞，他必須嘗試著用各種方式去嗅探，直到達(dá)到目的。做技術(shù)也是一樣，當(dāng)你遇到一個(gè)問題時(shí)，比如程序運(yùn)行時(shí)出現(xiàn)異常，你可能要打個(gè)斷點(diǎn)，跟蹤這個(gè)程序的運(yùn)行邏輯。也許你可以直接將異常信息復(fù)制到網(wǎng)上搜索答案，但實(shí)際上，只不過(guò)是別人替你去做了那個(gè)工作。 而我關(guān)于zookeeper的學(xué)習(xí)是從dubbo的一個(gè)bug開始的，按照下面的任務(wù)順序去學(xué)習(xí)并解

2、決問題： 1.dubbo bug ，zkclient共存； 2.zookeeper API的使用； 3.使用zookeeper進(jìn)行配置管理，修改配置不用重啟應(yīng)用。Page 3目錄n簡(jiǎn)單介紹簡(jiǎn)單介紹dubbo+zookeeperl 概念概念l zookeeper在在dubbo中的角色中的角色l dubbo使用使用zookeeper客戶端的一個(gè)客戶端的一個(gè)bugl dubbo同時(shí)使用兩套同時(shí)使用兩套client的解決辦法（沒有什么意義）的解決辦法（沒有什么意義）l 扯一下使用扯一下使用maven插件修復(fù)開源應(yīng)用插件修復(fù)開源應(yīng)用bug的技巧的技巧nZookeepern 概述概述n 典型應(yīng)用場(chǎng)景典型應(yīng)

3、用場(chǎng)景n 數(shù)據(jù)模型數(shù)據(jù)模型n 操作操作n 實(shí)現(xiàn)實(shí)現(xiàn)n 一致性一致性n 會(huì)話會(huì)話n 安裝與配置安裝與配置n Zookeeper客戶端客戶端curator l Page 4簡(jiǎn)單介紹dubbo+zookeeperl概念概念lDubbo：是一個(gè)分布式服務(wù)框架，致力于提供高性能和透明化的是一個(gè)分布式服務(wù)框架，致力于提供高性能和透明化的RPC(Remote Procedure Call Protocol)遠(yuǎn)程服務(wù)調(diào)用方案，以及遠(yuǎn)程服務(wù)調(diào)用方案，以及SOA(Service-Oriented Architecture )服務(wù)治理方案。服務(wù)治理方案。lzookeeper：是一個(gè)分布式協(xié)調(diào)服務(wù)。：是一個(gè)分布式協(xié)調(diào)

4、服務(wù)。Page 5簡(jiǎn)單介紹dubbo+zookeeperl zookeeper在在dubbo中的角色中的角色l 節(jié)點(diǎn)角色說(shuō)明：節(jié)點(diǎn)角色說(shuō)明： Provider: 暴露服務(wù)的服務(wù)提供方。暴露服務(wù)的服務(wù)提供方。 Consumer: 調(diào)用遠(yuǎn)程服務(wù)的服務(wù)消費(fèi)方。調(diào)用遠(yuǎn)程服務(wù)的服務(wù)消費(fèi)方。 Registry: 服務(wù)注冊(cè)與發(fā)現(xiàn)的注冊(cè)中心。服務(wù)注冊(cè)與發(fā)現(xiàn)的注冊(cè)中心。 Monitor: 統(tǒng)計(jì)服務(wù)的調(diào)用次調(diào)和調(diào)用時(shí)間的監(jiān)控中心。統(tǒng)計(jì)服務(wù)的調(diào)用次調(diào)和調(diào)用時(shí)間的監(jiān)控中心。 Container: 服務(wù)運(yùn)行容器。服務(wù)運(yùn)行容器。l調(diào)用關(guān)系說(shuō)明：調(diào)用關(guān)系說(shuō)明： 0. 服務(wù)容器負(fù)責(zé)啟動(dòng)，加載，運(yùn)行服務(wù)提供者。服務(wù)容器負(fù)責(zé)啟動(dòng)

5、，加載，運(yùn)行服務(wù)提供者。 1. 服務(wù)提供者在啟動(dòng)時(shí)，向注冊(cè)中心注冊(cè)自己提供的服務(wù)。服務(wù)提供者在啟動(dòng)時(shí)，向注冊(cè)中心注冊(cè)自己提供的服務(wù)。 2. 服務(wù)消費(fèi)者在啟動(dòng)時(shí)，向注冊(cè)中心訂閱自己所需的服務(wù)。服務(wù)消費(fèi)者在啟動(dòng)時(shí)，向注冊(cè)中心訂閱自己所需的服務(wù)。 3. 注冊(cè)中心返回服務(wù)提供者地址列表給消費(fèi)者，如果有變更，注冊(cè)中心將基于長(zhǎng)連接推送變更數(shù)據(jù)給消費(fèi)者。注冊(cè)中心返回服務(wù)提供者地址列表給消費(fèi)者，如果有變更，注冊(cè)中心將基于長(zhǎng)連接推送變更數(shù)據(jù)給消費(fèi)者。 4. 服務(wù)消費(fèi)者，從提供者地址列表中，基于軟負(fù)載均衡算法，選一臺(tái)提供者進(jìn)行調(diào)用，如果調(diào)用失敗，再選另一臺(tái)調(diào)用。服務(wù)消費(fèi)者，從提供者地址列表中，基于軟負(fù)載均衡算法，

6、選一臺(tái)提供者進(jìn)行調(diào)用，如果調(diào)用失敗，再選另一臺(tái)調(diào)用。 5. 服務(wù)消費(fèi)者和提供者，在內(nèi)存中累計(jì)調(diào)用次數(shù)和調(diào)用時(shí)間，定時(shí)每分鐘發(fā)送一次統(tǒng)計(jì)數(shù)據(jù)到監(jiān)控中心。服務(wù)消費(fèi)者和提供者，在內(nèi)存中累計(jì)調(diào)用次數(shù)和調(diào)用時(shí)間，定時(shí)每分鐘發(fā)送一次統(tǒng)計(jì)數(shù)據(jù)到監(jiān)控中心。Page 6簡(jiǎn)單介紹dubbo+zookeeperl zookeeper在在dubbo中的角色中的角色l zookeeper的角色：注冊(cè)中心的角色：注冊(cè)中心 1.注冊(cè)中心負(fù)責(zé)服務(wù)地址的注冊(cè)與查找，相當(dāng)于目錄服務(wù)，服務(wù)提供者和消費(fèi)者只在啟動(dòng)時(shí)與注冊(cè)中心交互，注冊(cè)中心不轉(zhuǎn)發(fā)請(qǐng)注冊(cè)中心負(fù)責(zé)服務(wù)地址的注冊(cè)與查找，相當(dāng)于目錄服務(wù)，服務(wù)提供者和消費(fèi)者只在啟動(dòng)時(shí)與注冊(cè)中心

7、交互，注冊(cè)中心不轉(zhuǎn)發(fā)請(qǐng)求，壓力較小求，壓力較小 2.監(jiān)控中心負(fù)責(zé)統(tǒng)計(jì)各服務(wù)調(diào)用次數(shù)，調(diào)用時(shí)間等，統(tǒng)計(jì)先在內(nèi)存匯總后每分鐘一次發(fā)送到監(jiān)控中心服務(wù)器，并以報(bào)表展示監(jiān)控中心負(fù)責(zé)統(tǒng)計(jì)各服務(wù)調(diào)用次數(shù)，調(diào)用時(shí)間等，統(tǒng)計(jì)先在內(nèi)存匯總后每分鐘一次發(fā)送到監(jiān)控中心服務(wù)器，并以報(bào)表展示 服務(wù)提供者向注冊(cè)中心注冊(cè)其提供的服務(wù)，并匯報(bào)調(diào)用時(shí)間到監(jiān)控中心，此時(shí)間不包含網(wǎng)絡(luò)開銷服務(wù)提供者向注冊(cè)中心注冊(cè)其提供的服務(wù)，并匯報(bào)調(diào)用時(shí)間到監(jiān)控中心，此時(shí)間不包含網(wǎng)絡(luò)開銷 3.服務(wù)消費(fèi)者向注冊(cè)中心獲取服務(wù)提供者地址列表，并根據(jù)負(fù)載算法直接調(diào)用提供者，同時(shí)匯報(bào)調(diào)用時(shí)間到監(jiān)控中心，此時(shí)間包服務(wù)消費(fèi)者向注冊(cè)中心獲取服務(wù)提供者地址列表，并根據(jù)

8、負(fù)載算法直接調(diào)用提供者，同時(shí)匯報(bào)調(diào)用時(shí)間到監(jiān)控中心，此時(shí)間包含網(wǎng)絡(luò)開銷含網(wǎng)絡(luò)開銷 4.注冊(cè)中心，服務(wù)提供者，服務(wù)消費(fèi)者三者之間均為長(zhǎng)連接，監(jiān)控中心除外注冊(cè)中心，服務(wù)提供者，服務(wù)消費(fèi)者三者之間均為長(zhǎng)連接，監(jiān)控中心除外 5.注冊(cè)中心通過(guò)長(zhǎng)連接感知服務(wù)提供者的存在，服務(wù)提供者宕機(jī)，注冊(cè)中心將立即推送事件通知消費(fèi)者注冊(cè)中心通過(guò)長(zhǎng)連接感知服務(wù)提供者的存在，服務(wù)提供者宕機(jī)，注冊(cè)中心將立即推送事件通知消費(fèi)者 6.注冊(cè)中心和監(jiān)控中心全部宕機(jī)，不影響已運(yùn)行的提供者和消費(fèi)者，消費(fèi)者在本地緩存了提供者列表注冊(cè)中心和監(jiān)控中心全部宕機(jī)，不影響已運(yùn)行的提供者和消費(fèi)者，消費(fèi)者在本地緩存了提供者列表 7.注冊(cè)中心和監(jiān)控中心都

9、是可選的，服務(wù)消費(fèi)者可以直連服務(wù)提供者注冊(cè)中心和監(jiān)控中心都是可選的，服務(wù)消費(fèi)者可以直連服務(wù)提供者 其他可扮演注冊(cè)中心的技術(shù)：其他可扮演注冊(cè)中心的技術(shù)：redisPage 7簡(jiǎn)單介紹dubbo+zookeeperldubbo使用使用zookeeper客戶端的一個(gè)客戶端的一個(gè)bug dubbo目前支持使用的目前支持使用的zookeeper客戶端有兩個(gè)：客戶端有兩個(gè)：Zkclient和和curator，Zkclient是其默認(rèn)是其默認(rèn)的客戶端。的客戶端。 bug描述：描述：dubbo在在ZookeeperRegistry這個(gè)類中顯示依賴了這個(gè)類中顯示依賴了Zkclient的異常類，導(dǎo)致在的異常類，導(dǎo)

10、致在缺失缺失Zkclient包的時(shí)候使用包的時(shí)候使用zookeeper注冊(cè)中心報(bào)錯(cuò)。解決辦法是去掉這個(gè)顯示依賴，注冊(cè)中心報(bào)錯(cuò)。解決辦法是去掉這個(gè)顯示依賴，或者在使用或者在使用curator的時(shí)候也引入的時(shí)候也引入Zkclient包。包。 指定使用指定使用curator需要使用需要使用client屬性，如下：屬性，如下： Page 8簡(jiǎn)單介紹dubbo+zookeeperldubbo同時(shí)使用兩套同時(shí)使用兩套client的解決辦法（沒有什么意義）的解決辦法（沒有什么意義）l問題描述：如果在一個(gè)服務(wù)中同時(shí)指定用問題描述：如果在一個(gè)服務(wù)中同時(shí)指定用Zkclient和和curator,則實(shí)際上只會(huì)用則實(shí)

11、際上只會(huì)用到一個(gè)。到一個(gè)。l解決辦法：增加解決辦法：增加key值判斷。值判斷。AbstractRegistryFactory.getRegistry方法。方法。Page 9簡(jiǎn)單介紹dubbo+zookeeperl扯一下使用扯一下使用maven修復(fù)開源應(yīng)用修復(fù)開源應(yīng)用bug的技巧的技巧 當(dāng)我們修改了一個(gè)開源應(yīng)用的當(dāng)我們修改了一個(gè)開源應(yīng)用的bug,怎么把修改后的文件合到怎么把修改后的文件合到j(luò)ar包里面去？一個(gè)比較靠包里面去？一個(gè)比較靠譜的方式就是使用譜的方式就是使用maven的的maven-shade-plugin插件，在打包是過(guò)濾掉原有插件，在打包是過(guò)濾掉原有jar包中要包中要替換的文件。替換

12、的文件。 可參考：可參考：/plugins/maven-shade-plugin/shade-mojo.html maven的另外一個(gè)打包插件：的另外一個(gè)打包插件：maven-assembly-plugin，可參考：，可參考： /plugins/maven-assembly-plugin/ 最后，關(guān)于最后，關(guān)于dubbo,提供一篇很好的文章：提供一篇很好的文章：http:/ （ 這篇文章對(duì)于這篇文章對(duì)于dubbo的性能優(yōu)化是很不錯(cuò)的參看）的性能優(yōu)化是很不錯(cuò)的參看）Page 10簡(jiǎn)單介紹dubbo+zooke

13、eperl問題問題ldubbo為什么要使用注冊(cè)中心？為什么要使用注冊(cè)中心？l點(diǎn)對(duì)點(diǎn)直連方式：點(diǎn)對(duì)點(diǎn)直連方式：http:/ 11Zookeeperl概述概述 Zookeeper作為注冊(cè)中心的概念其實(shí)是抽象的，官方說(shuō)明：作為注冊(cè)中心的概念其實(shí)是抽象的，官方說(shuō)明：ZooKeeper is a high-performance coordination service for distributed applications.其實(shí)它的核心是一個(gè)精簡(jiǎn)其實(shí)它的核心是一個(gè)精簡(jiǎn)的文件系統(tǒng)，提供基于目錄節(jié)點(diǎn)樹方式的數(shù)據(jù)存儲(chǔ)，以及一些額外的抽象操作，如的文件系統(tǒng)，提供基于目錄節(jié)點(diǎn)樹方式的數(shù)據(jù)存儲(chǔ)，以及一些額外的抽

14、象操作，如排序，通知和監(jiān)控。排序，通知和監(jiān)控。 節(jié)點(diǎn)存儲(chǔ)的數(shù)據(jù)主要包括：節(jié)點(diǎn)存儲(chǔ)的數(shù)據(jù)主要包括：status information, configuration, location information, etc.Page 12Zookeeperl典型應(yīng)用場(chǎng)景典型應(yīng)用場(chǎng)景l(fā) 統(tǒng)一命名服務(wù)（統(tǒng)一命名服務(wù)（Name Service）l 配置管理（配置管理（Configuration Management）l Leader Electionl 共享鎖（共享鎖（Locks）l 隊(duì)列管理隊(duì)列管理l 組成員關(guān)系（組成員關(guān)系（Group Membership）Page 13Zookeeperl數(shù)據(jù)模型數(shù)

15、據(jù)模型 前面提到前面提到Zookeeper的核心就是文件系統(tǒng)，所以掌握的核心就是文件系統(tǒng)，所以掌握Z(yǔ)ookeeper就必須了解它的數(shù)據(jù)模型。類就必須了解它的數(shù)據(jù)模型。類似于似于unix的文件系統(tǒng)，它維護(hù)著一個(gè)屬性層次結(jié)構(gòu)，樹中的節(jié)點(diǎn)被稱為的文件系統(tǒng)，它維護(hù)著一個(gè)屬性層次結(jié)構(gòu)，樹中的節(jié)點(diǎn)被稱為znode,znode可以用來(lái)存可以用來(lái)存儲(chǔ)數(shù)據(jù)，并且與之關(guān)聯(lián)一個(gè)儲(chǔ)數(shù)據(jù)，并且與之關(guān)聯(lián)一個(gè)ACL（Access Control List）。）。 一一.和標(biāo)準(zhǔn)文件系統(tǒng)的區(qū)別：和標(biāo)準(zhǔn)文件系統(tǒng)的區(qū)別： 1.一個(gè)一個(gè)znode既可以是文件也可以是目錄；既可以是文件也可以是目錄； 2.每個(gè)每個(gè)znode存儲(chǔ)的數(shù)據(jù)有

16、限，不超過(guò)存儲(chǔ)的數(shù)據(jù)有限，不超過(guò)1M（zookeeper有內(nèi)置的檢查）。有內(nèi)置的檢查）。 3.Zookeeper中的文件系統(tǒng)路徑是絕對(duì)路徑，必須以中的文件系統(tǒng)路徑是絕對(duì)路徑，必須以“/”開頭，而且路徑必須是標(biāo)準(zhǔn)的，即開頭，而且路徑必須是標(biāo)準(zhǔn)的，即不能包含像不能包含像unix那樣可以表示當(dāng)前路徑或者當(dāng)前路徑上一級(jí)目錄的符合那樣可以表示當(dāng)前路徑或者當(dāng)前路徑上一級(jí)目錄的符合“.”或或“.”Page 14Zookeeperl數(shù)據(jù)模型數(shù)據(jù)模型 二二.znode的一些性質(zhì)的一些性質(zhì) 1.znode的兩種類型：短暫的和持久的。該類型在創(chuàng)建時(shí)確定，之后不能再修改。短暫的兩種類型：短暫的和持久的。該類型在創(chuàng)建時(shí)

17、確定，之后不能再修改。短暫znode不能有子節(jié)點(diǎn)。（短暫不能有子節(jié)點(diǎn)。（短暫znode應(yīng)用：需要知道特定時(shí)刻有哪些分布式資源可用的應(yīng)用，如應(yīng)用：需要知道特定時(shí)刻有哪些分布式資源可用的應(yīng)用，如組成員管理服務(wù)。）組成員管理服務(wù)。） 2.順序號(hào)：在創(chuàng)建順序號(hào)：在創(chuàng)建znode的時(shí)候，我們可以設(shè)置順序標(biāo)識(shí)，這樣創(chuàng)建的的時(shí)候，我們可以設(shè)置順序標(biāo)識(shí)，這樣創(chuàng)建的zonde名稱后面會(huì)附名稱后面會(huì)附加一個(gè)值（單調(diào)遞增），這個(gè)值便是順序號(hào)，由其父節(jié)點(diǎn)維護(hù)。（順序加一個(gè)值（單調(diào)遞增），這個(gè)值便是順序號(hào)，由其父節(jié)點(diǎn)維護(hù)。（順序znode的應(yīng)用：共享的應(yīng)用：共享鎖。）鎖。） 3.觀察（觀察（watch）：當(dāng)）：當(dāng)zno

18、de以某種方式發(fā)生改變時(shí)，這種機(jī)制可以讓客戶端得到通知。以某種方式發(fā)生改變時(shí)，這種機(jī)制可以讓客戶端得到通知。（應(yīng)用：配置管理，后面將配置管理的時(shí)候，具體去講）（應(yīng)用：配置管理，后面將配置管理的時(shí)候，具體去講）Page 15Zookeeperl實(shí)現(xiàn)實(shí)現(xiàn)lzookeeper支持單機(jī)模式，也支持集群（復(fù)制）模式。支持單機(jī)模式，也支持集群（復(fù)制）模式。l兩個(gè)注意點(diǎn)：兩個(gè)注意點(diǎn)：l1.只要集群中半數(shù)以上的機(jī)器處于可用狀態(tài)，它就能提供服務(wù)；只要集群中半數(shù)以上的機(jī)器處于可用狀態(tài)，它就能提供服務(wù)；l2.它確保最它確保最znode樹中的每一個(gè)修改都會(huì)被復(fù)制到集群中半數(shù)以上的機(jī)器。因此能確保在可用狀樹中的每一個(gè)修

19、改都會(huì)被復(fù)制到集群中半數(shù)以上的機(jī)器。因此能確保在可用狀態(tài)下，至少有一個(gè)機(jī)器保存最新的狀態(tài)，其余副本也會(huì)更新到這個(gè)最新狀態(tài)。態(tài)下，至少有一個(gè)機(jī)器保存最新的狀態(tài)，其余副本也會(huì)更新到這個(gè)最新狀態(tài)。l如何實(shí)現(xiàn)：如何實(shí)現(xiàn)：Zab協(xié)議協(xié)議l階段一：領(lǐng)導(dǎo)者選舉階段一：領(lǐng)導(dǎo)者選舉l階段二：原子廣播階段二：原子廣播Page 16Zookeeperl會(huì)話會(huì)話l故障切換故障切換l時(shí)間：時(shí)間：tick time，用于設(shè)置交互時(shí)間表，其他設(shè)置基本上依賴這個(gè)參數(shù)，用于設(shè)置交互時(shí)間表，其他設(shè)置基本上依賴這個(gè)參數(shù)Page 17Zookeeperl一致性一致性lZab協(xié)議導(dǎo)致了協(xié)議導(dǎo)致了Zookeeper的一致性問題。的一致性

20、問題。l解決一致性：每一個(gè)對(duì)解決一致性：每一個(gè)對(duì)znode的樹的更新狀態(tài)都被賦予一個(gè)全局唯一的樹的更新狀態(tài)都被賦予一個(gè)全局唯一zxid,zookeeper對(duì)其進(jìn)行排序，越小，則發(fā)生越早。對(duì)其進(jìn)行排序，越小，則發(fā)生越早。lzookeeper的幾點(diǎn)考慮：順序一致性，原子性，單一系統(tǒng)映象，持久性，的幾點(diǎn)考慮：順序一致性，原子性，單一系統(tǒng)映象，持久性，及時(shí)性及時(shí)性l注：使用注：使用sync來(lái)解決跨過(guò)來(lái)解決跨過(guò)Zookeeper的機(jī)制進(jìn)行通信導(dǎo)致的數(shù)據(jù)不一致。的機(jī)制進(jìn)行通信導(dǎo)致的數(shù)據(jù)不一致。Page 18Zookeeperl操作操作lZookeeper中有九種基本操作。中有九種基本操作。Page 19Z

21、ookeeperl操作操作lapil對(duì)于對(duì)于Zookeeper的客戶端來(lái)說(shuō)，主要有兩種語(yǔ)言綁定：的客戶端來(lái)說(shuō)，主要有兩種語(yǔ)言綁定：Java和和C,也可以使用其他的語(yǔ)言，如也可以使用其他的語(yǔ)言，如Perl,Pythod等。對(duì)于各種語(yǔ)言的綁定使用，可參考：等。對(duì)于各種語(yǔ)言的綁定使用，可參考：/confluence/display/ZOOKEEPER/ZKClientBindingslapi的調(diào)用有同步和異步兩種方式。異步操作的結(jié)果使用回調(diào)來(lái)傳送。的調(diào)用有同步和異步兩種方式。異步操作的結(jié)果使用回調(diào)來(lái)傳送。l如：同步方式：如：同步方式：public voi

22、d exists(String path,Watcher watcher;l異步方式：異步方式：public void exists(String path,Watcher watcher,StatCallback cb,Object ctx);Page 20Zookeeperl操作操作l觀察觸發(fā)器觀察觸發(fā)器l在讀操作在讀操作 exists、getChildren和和getData上可以設(shè)置觀察，這些觀察可以被寫操作上可以設(shè)置觀察，這些觀察可以被寫操作create、delete和和setData觸發(fā)。觸發(fā)。注：注：ACL的相關(guān)操作不參與任何觀察。下表是設(shè)置觀察的操作及其對(duì)應(yīng)的觸發(fā)器：的相關(guān)操作不參與任何觀察。下表是設(shè)置觀察的操作及其對(duì)應(yīng)的觸發(fā)器：Page 21Zookeeperl操作操作l安裝與配置安裝與配置 略略lweb界面界面 node-zk-browserl圖形化界面圖形化界面 ZooInspectorlzookeeper監(jiān)控監(jiān)控 taokeeper (運(yùn)維關(guān)注運(yùn)維關(guān)注) 63/taokeeper-monitor/zooKeeperStatus.do?method=showZooKeeperStatusPAGEPage 22Zookeeperl操作操作lACLl每個(gè)每