大數(shù)據(jù)架構(gòu)混合部署系統(tǒng)

琥珀混合部署系統(tǒng)接入層邏輯層存儲(chǔ)層QQ空間手機(jī)接入PC接

入QQ相冊(cè)手機(jī)接入PC接

入業(yè)務(wù)邏輯

存儲(chǔ)微云手機(jī)接入PC接

入用戶產(chǎn)品業(yè)務(wù)架構(gòu)業(yè)務(wù)邏輯業(yè)務(wù)邏輯

優(yōu)勢(shì)：1.方便核算產(chǎn)品的成本

2.用戶爆發(fā)式增長，擴(kuò)容流程簡便。3.業(yè)務(wù)邏輯清晰

缺點(diǎn)：1.產(chǎn)品核心鏈路要留有足夠富余的buffer

，外加部分長尾業(yè)務(wù)，機(jī)器利用率低。2.節(jié)假日前后批量擴(kuò)容與批量縮容，部分核心鏈路需要人工干預(yù)驗(yàn)證，浪費(fèi)人力成本。業(yè)務(wù)架構(gòu)的優(yōu)化思路Hadoop集群

轉(zhuǎn)碼業(yè)務(wù)

buffer

時(shí)段低負(fù)載

Storm集群

流量突增系統(tǒng)

長尾業(yè)務(wù)

部分非核心在

線業(yè)務(wù)

重新定義IP關(guān)系

核算成本

資源任意調(diào)度

資源充分利用(波峰填波谷)環(huán)境（docker）快速上下線核心內(nèi)存存儲(chǔ)5案例1（資源任意調(diào)度）案例2（資源充分利用）琥珀混合部署系統(tǒng)如何充分利用資源？

Etcd

調(diào)度邏輯Clip(名字服務(wù))

數(shù)據(jù)分析系統(tǒng)

cmdb

容量系統(tǒng)

IP<->

名字服務(wù)低負(fù)載

|

長尾業(yè)務(wù)…琥珀系統(tǒng)架構(gòu)

離線業(yè)務(wù)

Haproxy

<-

(confd)

Docker

Buffer

環(huán)境

開發(fā)/運(yùn)維/測(cè)試工具優(yōu)勢(shì)Haproxy

(負(fù)載均衡)支持8種負(fù)載算法，成本低廉，簡潔的報(bào)表系統(tǒng)。Confd(一個(gè)輕量級(jí)配置管理工具)，它從

etcd，

consul，

dynamodb，

redis

zookeeper

或env獲取最新的數(shù)據(jù)更新本地模板文件；Etcd(是一款高可用的鍵/儲(chǔ)存儲(chǔ)系統(tǒng))簡單、安全、快速、可靠Clip

(名字服務(wù)系統(tǒng))簡化架構(gòu)復(fù)雜度、見名識(shí)意Docker(容器)快速環(huán)境的部署；資源隔離15/10/27琥珀架構(gòu)細(xì)節(jié)

Clip名字系統(tǒng)思路(/read.php?7)

IP數(shù)字不容易記憶，所以聰明的人類發(fā)明了DNS。DNS把不容易記憶的數(shù)字，改為容易記憶的一串有規(guī)則的域名，域名又可以解析相應(yīng)的IP，基于此思路，我們開發(fā)了近似DNS的名字服務(wù)系統(tǒng)。而在公司內(nèi)部希望通過名字服務(wù)系統(tǒng)在cmdb基礎(chǔ)之上把不同的業(yè)務(wù)(cpu、內(nèi)存、磁盤和網(wǎng)卡)夾在一起，對(duì)于上層可以實(shí)現(xiàn)資源互補(bǔ)，對(duì)于下層可以方便核算業(yè)務(wù)成本。所以我們將這名字服務(wù)系統(tǒng)命名為“Clip”（夾子）。

借鑒DNSDNS借鑒Puppet

思路結(jié)構(gòu)案例借鑒DNS思路VSIP格式：IDC

--‐

Product

--‐

Modules

--‐

Group

–port

示例：sh

--‐

bu?er--‐

face

--‐

group1

--‐

19941

SDK

API

增|刪|查

遍歷string對(duì)應(yīng)IP

#

clip

cstring

-q

*-buffer-*-*87888990Cstring|

sacn|ssh|scp

解析IP對(duì)應(yīng)string

#

clip

cstring

-i

87

sh-buffer-teg-weiyun_tag-28188sh-tags-low-cpu-80借鑒DNS思路

sh-weiyun-access-group1-80

sh-qq-access-group1-80

sh-qzone-access-group1-80

ctaskresenvversionnice?ag.mestampsh-tags-low-cpu-80100Hadoop--‐*0.0.1112015--‐10--‐24node

/^(bj|sh)-mysqld-\d\.example\.com$/{

package

{

"mysql-server":

ensure

=>

present，

}}借鑒Puppet思路節(jié)點(diǎn)資源節(jié)點(diǎn)資源

Etcd

調(diào)度邏輯Clip(名字服務(wù))

數(shù)據(jù)分析系統(tǒng)

Cmdb琥珀系統(tǒng)架構(gòu)

String交互

容量系統(tǒng)

IP<->

名字服務(wù)低負(fù)載

|

長尾業(yè)務(wù)…

離線業(yè)務(wù)

Haproxy

<-

(confd)Docker(環(huán)境)

Buffer

IP交互15/10/27?

資源審計(jì)：

1.使用CPUACCT功能對(duì)每個(gè)業(yè)務(wù)的CPU使用時(shí)間進(jìn)行精確記錄。

2.使用Linux本身對(duì)cpu性能衡量的bogomips指標(biāo)