海量日志平臺(tái)構(gòu)建elastics集群腦裂

1、大講臺(tái)科技ES 集群腦裂，怎么辦？什么是"腦裂"現(xiàn)象？由于某些節(jié)點(diǎn)的失效，部分節(jié)點(diǎn)的網(wǎng)絡(luò)連接會(huì)斷開，并形成一個(gè)與原集群一樣名字的集群，這種情況稱為集群腦裂（split-brain）現(xiàn)象。這個(gè)問題非常，因?yàn)閮蓚€(gè)新形成的集群會(huì)同時(shí)索引和修改集群的數(shù)據(jù)。產(chǎn)生"腦裂"的？1：網(wǎng)絡(luò)內(nèi)網(wǎng)一般出現(xiàn)此問題，可以內(nèi)網(wǎng)流量狀態(tài)。的網(wǎng)絡(luò)出現(xiàn)問題的可能性大些。- 1 -大講臺(tái)科技2：節(jié)點(diǎn)負(fù)載由于 master 節(jié)點(diǎn)與 data 節(jié)點(diǎn)都是混合在一起的，所以當(dāng)工作節(jié)點(diǎn)的負(fù)載較大（確實(shí)也較大）時(shí)，導(dǎo)致對(duì)應(yīng)的 ES 實(shí)例停止響應(yīng)，而這臺(tái)服務(wù)器如果正充當(dāng)著 master 節(jié)點(diǎn)的，那么一部

2、分節(jié)點(diǎn)就會(huì)認(rèn)為這個(gè)master 節(jié)點(diǎn)失效了，故重新新的節(jié)點(diǎn)，這時(shí)就出現(xiàn)了腦裂；3：回收內(nèi)存由于data 節(jié)點(diǎn)上 ES 進(jìn)程占用的內(nèi)存較大，較大規(guī)模的內(nèi)存回收操作也能造成 ES 進(jìn)程失去響應(yīng)。應(yīng)對(duì)"腦裂"的解決辦法1、推測(cè)出應(yīng)該是由于節(jié)點(diǎn)負(fù)載導(dǎo)致了 master 進(jìn)程停止響應(yīng)，繼而導(dǎo)致了部分節(jié)點(diǎn)對(duì)于 master 的選擇出現(xiàn)了。為此，一個(gè)直觀的解決方案便是將 master 節(jié)點(diǎn)與 data 節(jié)點(diǎn)分離。為此，我們添加了三臺(tái)服務(wù)器進(jìn)入 ES 集群，不過它們的只是 master 節(jié)點(diǎn)，不擔(dān)任和搜索的，故它們是相對(duì)輕量級(jí)的進(jìn)程?？梢酝ㄟ^以下配置來限制其：node.master: tr

3、uenode.data: false當(dāng)然，其它的節(jié)點(diǎn)就不能再擔(dān)任 master 了，把上面的配置反過來即可。這樣就做到了將 master 節(jié)點(diǎn)與data 節(jié)點(diǎn)分離。- 2 -大講臺(tái)科技當(dāng)然，為了使新加入的節(jié)點(diǎn)快速確定 master 位置，可以將 data 節(jié)點(diǎn)的默認(rèn)的master 發(fā)現(xiàn)方式有 multicast 修改為 unicast：discovery.zen.ping.multicast.enabled: falsediscovery.zen.ping.unicast.hosts: "master1", "master2", "master

4、3"elasticsearch 的集群是內(nèi)嵌自動(dòng)發(fā)現(xiàn)功能的。elasticsearch 的集群是內(nèi)嵌自動(dòng)發(fā)現(xiàn)功能的。你只需要在每個(gè)節(jié)點(diǎn)配置好了集群名稱，節(jié)點(diǎn)名稱，互相通信的節(jié)點(diǎn)會(huì)根據(jù) es 自定義的服務(wù)發(fā)現(xiàn)協(xié)議去按照多播的方式來尋找網(wǎng)絡(luò)上配置在同樣集群內(nèi)的節(jié)點(diǎn)。和其他的服務(wù)發(fā)現(xiàn)功能一樣，es 是支持多播和單播的。多播是需要看服務(wù)器是否支持的，由于其安全性，其實(shí)現(xiàn)在基本的云服務(wù)（比如）是不支持多播的，所以即使你開啟了多播模式，你也僅僅只能找到本機(jī)上的節(jié)點(diǎn)。單播模式安全，也高效，但是缺點(diǎn)就是如果增加了一個(gè)新的的話，就需要每個(gè)節(jié)點(diǎn)上進(jìn)行配置才生效了。- 3 -大講臺(tái)科技2、discover

5、y.zen.ping_timeout（默認(rèn)值是 3 秒）：默認(rèn)情況下，一個(gè)節(jié)點(diǎn)會(huì)認(rèn)為，如果 master 節(jié)點(diǎn)在 3 秒之內(nèi)沒有應(yīng)答，那么這個(gè)節(jié)點(diǎn)就是死掉了，而增加這個(gè)值，會(huì)增加節(jié)點(diǎn)等待響應(yīng)的時(shí)間，從一定程度上會(huì)減少誤判。3、discovery.zen.minimum_master_nodes（默認(rèn)是 1）：這個(gè)參數(shù)的是，一個(gè)節(jié)點(diǎn)需要看到的具有 master 節(jié)點(diǎn)資格的最小數(shù)量，然后才能在集群中做操作。的推薦值是(N/2)+1（向下取整），其中 N是具有master 資格的節(jié)點(diǎn)的數(shù)量（我們的情況是 3，因此這個(gè)參數(shù)設(shè)置為 2，但對(duì)于只有 2 個(gè)節(jié)點(diǎn)的情況，設(shè)置為 2 就有些問題了，一個(gè)節(jié)點(diǎn) DOWN 掉后，你肯定連不上 2 臺(tái)服務(wù)器了，這點(diǎn)需要注意）?？偨Y(jié)ElasticSearch 腦裂問題依然是一個(gè)比較難以