運維趨勢第28期運維_第1頁
運維趨勢第28期運維_第2頁
運維趨勢第28期運維_第3頁
運維趨勢第28期運維_第4頁
運維趨勢第28期運維_第5頁
已閱讀5頁,還剩30頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

1、主編的話,議高考、談分?jǐn)?shù),有人歡喜有人憂的季節(jié),無數(shù)莘莘學(xué)子揮淚告別往日同窗,奔赴主編黃丹封面制作蒼旭屬于的下一個起點。或許是美好的征程,亦或許是歷練的開始,得好好努力了。審閱趨勢評審團(tuán)回到本期主題:集群,這一詞對于運維工程師來說,應(yīng)該業(yè)都會用到吧。希望本期 際工作中有所幫助。陌生,很多企的內(nèi)容在您的實方 51CTO系統(tǒng)頻道()下一期主題暫定為OpenStack,不知道大家是否感?如果您有更好的想法,歡迎給我留言額!投稿、反饋! 竭誠為您服日期的最后一個務(wù)!每五黃丹(理想狀態(tài))郵件訂閱art/201011/233915.htmRSS訂閱(最早發(fā)布)php/rss.php?typeid=777i

2、Pad訂閱讀覽天下客戶端-8136投稿郵箱huangdanLinux運維趨勢是由51CTO系統(tǒng)頻道策劃、Linux/Unix系統(tǒng)運維制作的一份開放的, 內(nèi)容從基礎(chǔ)的技巧心得、實際操作案例到中、高端的運維技術(shù)趨勢與理念等均有覆蓋。我們的所有內(nèi)容均收集整理自國內(nèi)外互聯(lián)網(wǎng),每篇文章都會嚴(yán)格標(biāo)注出處與作者,同時編輯也會盡力每一篇文章的原作者進(jìn)行確認(rèn)。如果您認(rèn)雜志的內(nèi)容到了您的,可發(fā)信至huangdan進(jìn)行投訴。目錄專題技巧&經(jīng)驗04運維工程師必備之負(fù)載均衡集群及18細(xì)看運維85條軍規(guī),是否觸動了你LVS詳解內(nèi)心深處那根弦?文/李明朝文/oschina 編譯/桔子/Khiyuan/fbm/拋出異

3、常的愛08用通過LVS實現(xiàn)WEB站點的mysql高可22如何開發(fā)一套服務(wù)器管理系統(tǒng)文/Slaytanic文/阿里噶濤24手五款應(yīng)用讓Linux桌面變成工作好幫12MySQL集群性能優(yōu)化指南文/Agileload 編譯/核子可樂文/Jack Wallen 編譯/Vivian譯觀察26系統(tǒng)管理員需知:25個Linux服務(wù)器安全技巧14況怒火攻心:惹惱系統(tǒng)管理員的九種狀文/oschina 編譯/桔子/echoyou/Khiyuan/Linux- Queen文/Rikk Endsley 編譯/核子可樂30IIS日志:運維的16IT應(yīng)該具備的10項軟技能文/李奇峰文/劉羽飛34過程CentOS 6.4

4、中 Vsftpd解決中文亂碼文/解寶琦/荊斌專題運維工程師必備之負(fù)載均衡集群及LVS詳解文/李明朝此博文主要介紹集群和負(fù)載均衡的基本理論和類別,內(nèi)容比較枯燥、無味的,但是要想成為一個好的linux運維工程師,這些基本理論是必須理解透徹,才會在后來的系統(tǒng)調(diào)優(yōu)和集群架構(gòu)中得心應(yīng)手,所以想成為linux運維工程師的我們必須承受得住寂寞,努力學(xué)習(xí)吧!一、集群簡介集群并不是一個全新的概念,其實早在七十年代計算機廠商和研究機構(gòu)就開始了對集群系統(tǒng)的研究和開發(fā)。由于主要用于科學(xué)工程計算,所以這些系統(tǒng)并不為大家所熟知。直到Linux集群的出現(xiàn),集群的概念才得以廣為。集群系統(tǒng)主要分為高可用(High Availa

5、bility)集群,簡稱 HA 集群,和高性能計算(High Perfermance Computing)集群,簡稱 HPC 集群。計算機集群簡稱集群是一種計算機系統(tǒng), 它通過一組松散集成的計算機軟件或硬件連接起來高度緊密地協(xié)作完成計算工作。在某種意義上, 他們可以被看作是一臺計算機。集群系統(tǒng)中的單個計算機通常稱為節(jié)點,通常通過局域網(wǎng)連接, 但也有其它的可能連接方式。集群計算機通常用來改進(jìn)單個計算機的計算速度和/或可靠性。一般情況下集群計算機比單個計算機,比如工作站或超級計算機性能價格比要高得多。二、集群分類集群分為同構(gòu)與異構(gòu)兩種,它們的區(qū)別在于:組成集群系統(tǒng)的計算機之間的體系結(jié)構(gòu)是否相同。集

6、群計算機按功能和結(jié)構(gòu)可以分成以下幾類:負(fù)載均衡集群LB:Loadbalancingclusters高可用性集群HA:High-availability(HA)clusters 高性能計算集群HP:High-performance(HPC)clusters網(wǎng)格計算Gridcomputing三、各種集群定義詳解負(fù)載均衡集群-LB負(fù)載均衡集群運行時,一般通過一個或者多個前端負(fù)載均衡器,將工作負(fù)載分發(fā)到后端的一組服務(wù)器上,從而達(dá)到整個系統(tǒng)的高性能和高可用性。這樣的計算機集群有時也被稱為服務(wù)器群(Server Farm)。 一般高可用性集群和負(fù)載均衡集群會使用類似的技術(shù),或同時具有高可用性與負(fù)載均衡的特

7、點。linux虛擬服務(wù)器(LVS)項目在linux操作系統(tǒng)上提供了最常見的負(fù)載均衡軟 件。LB在提供負(fù)載均衡的時候,如果提供的是DNS負(fù)載均衡,由于DNS緩存服務(wù)存在的機制, 造成負(fù)載均衡的效果會大打折扣。所以在此出現(xiàn)了調(diào)度方法,常用的有兩個調(diào)度。方法:RR:Round Robin 論調(diào)WRR:Weight Round Robin論調(diào)負(fù)載均衡:以提高服務(wù)的并發(fā)能力為集群的重點的集群衡量標(biāo)準(zhǔn):并發(fā)處理能力高可用性集群-HA一般是指當(dāng)集群中有某個節(jié)點失效的情況下,其上的任務(wù)會自動轉(zhuǎn)移到其他正常的節(jié)點上。還指可以將集群中的某節(jié)點進(jìn)行離線維護(hù)再上線,該過程并不影響整個集群的運行。高可用集群:為了保證服

8、務(wù)一直用能力的集群的高可衡量標(biāo)準(zhǔn):可用性= 障處理時間)高性能計算集群-HP時間/(時間+故04專題專欄Linux運維趨勢 2013年6月號 總第28期“高性能處理集群:利用的是分布式:分布式文件系統(tǒng),分布式文件系統(tǒng)把一個大任務(wù)切割為小任務(wù)、分別進(jìn)行處理?!备咝阅苡嬎慵翰捎脤⒂嬎闳蝿?wù)分配到集群 的不同計算節(jié)點而提高計算能力,因而主要應(yīng)用在科學(xué)計算領(lǐng)域。比較流行的HPC采用Linux操作系統(tǒng)和其它一些軟件來完成并行運算。這一集群配置通常被稱為Beowulf集群。這類集群通 常運行特定的程序以發(fā)揮HPC cluster的并行能力。這類程序一般應(yīng)用特定的運行庫, 比如專為科學(xué)計算設(shè)計的MPI庫。H

9、PC集群特別適合于在計算中各計算節(jié)點之間發(fā)生大量數(shù)據(jù)通訊的計算作業(yè),比如一個節(jié)點的中間結(jié)果或影響到其它節(jié)點計算結(jié)果的情況。軟件:分為基于四層和七層的兩種類型四層:lvs是一個開源的軟件,由畢業(yè)于國防科技大學(xué)的章文嵩博士于1998年5月創(chuàng)立的,可以實現(xiàn)LINUX平臺下的簡單負(fù)載均衡。LVS是Linux Virtual Server的縮寫,意思是Linux虛擬服務(wù)器。七層:反向 Nginx:支持http,pop3,smtp,imap haproxy:支持http,tcp(mysql,smtp) 五、LVS詳解由于硬件設(shè)備價格比較高,動則上萬、幾十萬刀,所以一般的小公司所使用的還是基于軟件的架構(gòu)方式

10、來實現(xiàn)集群的。當(dāng)然,只要掌握了linux下基于軟件的集群架 構(gòu),其他基于硬件的架構(gòu)配置也都大同小異,由于硬件的缺乏,目前還是小菜鳥一個,公司內(nèi)部的設(shè)備還沒見過是神馬模樣!所以在此就著重介紹一下我們linux系統(tǒng)下基于LVS架構(gòu)的集群的搭建,當(dāng)然,這也是我們作為linux運維必須掌握的重中之重,下面我們進(jìn)入正題吧!理 解,錯誤還望各位大神們不吝賜教LVS基本解釋 lvs是一個開源的軟件,由畢業(yè)于國防科技大學(xué)的章文嵩博士于1998年5月創(chuàng)立的,可以實現(xiàn)LINUX平臺下的簡單負(fù)載均衡。LVS是Linux Virtual Server的縮寫,意思是Linux虛擬服務(wù)器。這是國人在開源上作出的最大貢獻(xiàn)我

11、們?yōu)?此驕傲、自豪!嘿嘿說多了,中國在開源上面的貢獻(xiàn)好像還真是少之又少啊望各位大神 們多做貢獻(xiàn),還是可以出現(xiàn)大神的!-嘮多了,下面接著咱們的LVS。LVS是linux系統(tǒng)上的一種機制,類似于iptables似,其相關(guān)屬性也是通過與iptables命令類似的方式定義的,等會會詳細(xì)介紹。高性能處理集群:利用的是分布式:分布式文件系統(tǒng),分布式文件系統(tǒng)把一個大任務(wù)切割為小任務(wù)、分別進(jìn)行處理。網(wǎng)格計算網(wǎng)格計算或網(wǎng)格集群是一種與集群計算非常相關(guān)的技術(shù)。網(wǎng)格與傳統(tǒng)集群的主要差別是網(wǎng)格是連接一組相關(guān)并不信任的計算機,它的更像一個計算公共設(shè)施而不是一個的計算機。還有,網(wǎng)格通常比集群支持不同類型的計算機集合。網(wǎng)格

12、計算是有許多作業(yè)的工作任務(wù)作優(yōu)化,在計算過程中作業(yè)間無需共享數(shù)據(jù)。網(wǎng)格主要服務(wù)于管理在 執(zhí)行工作的計算機間的作業(yè)分配。 如 可以被所有結(jié)點共享,但作業(yè)的中間結(jié)果 影響在其他網(wǎng)格結(jié)點上作業(yè)的進(jìn)展。四、LB集群詳解 1、負(fù)載均衡器設(shè)備類型:分為硬件和軟件兩種:硬件設(shè)備:F5的BIG IP負(fù)載均衡器Citrix的Netscaler負(fù)載均衡器A10投稿信箱:huangdan05“每個Real Server上都有兩個IP:VIP和RIP,但是VIP是隱藏的,就是不能提高等功能,只是用來做請求回復(fù)的源IP的,Director上只需要一個網(wǎng)卡, 然后利用別名來配置兩個IP:VIP和DIP。"LVS

13、是工作于內(nèi)核上的,通過內(nèi)核來提供工作,其工作空間在iptables的INPUT鏈上,當(dāng)客戶端請求到達(dá)INPUT鏈上以后,通過LVS的驗證如果是關(guān)于lvs的請求,則在此直接修改目標(biāo)地址, 然后通過postrouting鏈傳送給其定義的server!注意:上面提到LVS其實是工作在iptables的INPUT和鏈上的,所以在此系統(tǒng)上iptables和LVS不能同時存在。LVS的組成:2、內(nèi)網(wǎng)的Real Server主機的IP必須和DIP在同一網(wǎng)絡(luò)中,并且其網(wǎng)關(guān)需要指向DIP的地址3、RIP地址都是私有IP地址,僅用于各個集節(jié)點之間通信4、Director位于client和Real Server之間

14、,并負(fù)責(zé)處理所有進(jìn)站、出戰(zhàn)的通信。5、Real Server必須將網(wǎng)關(guān)指向DIP 6、支持端口7、通常應(yīng)用在較大規(guī)模應(yīng)用場景中,但是Director易成為整個架構(gòu)的瓶頸。、 DR:DIRECT ROUTE,直接路由1、架構(gòu)組成:每個Real Server上都有兩個IP:VIP和RIP,但是VIP是隱藏的,就是不能提高等功能,只是用來做請求回復(fù)的源IP的,Director上只需要一個網(wǎng)卡,然后利用別名來配置兩個IP:VIP和 DIP。2、Director在接受到外部主機的請求的時候轉(zhuǎn)發(fā)給Real Server的時候并不更改目標(biāo)地址,只是通過arp的MAC地址進(jìn)行封裝然后轉(zhuǎn)給Real Server

15、,Real Server在接受到信息以后拆除MAC幀封裝,然后直接回復(fù)給CIP。3、企業(yè)中最常用的就是DR 特點和要求:1、各個集群節(jié)點必須和Director在同一個物理網(wǎng)絡(luò)中2、RIP地址不能為私有地址,可以實現(xiàn)便捷的管理和3、Director僅僅負(fù)責(zé)處理入站請求,響應(yīng)報文則由Real Server直接發(fā)往客戶端4、集群節(jié)點Real Server 的網(wǎng)關(guān)一定不能指向DIP,而是指向外部路由ipvsadm:管理集群服務(wù)于用戶空間令行工具,工作ipvs:為lvs提供服務(wù)的內(nèi)核模塊,工作于內(nèi)核空間在linux內(nèi)核2.4.23之前的內(nèi)核中模塊默認(rèn)是不存在的,需要 手動打補丁,然后把此模塊編譯進(jìn)內(nèi)核才

16、可以正常使用。LVS類型為了便于表述下面的內(nèi)容,在此插幾句關(guān)于相關(guān)服務(wù)和名詞的定義:Director:調(diào)度集群的主機VIP:Virtual IP,向外提供服務(wù)的IP RIP:real IP,內(nèi)部真的提供服務(wù)的主機IPDIP:向內(nèi)部的IP通信的IP,在Director主機上CIP:客戶端IP、 NAT:地址轉(zhuǎn)換類型,主要是做目標(biāo)地址轉(zhuǎn)換,類似于iptables的DNAT。優(yōu)點:多目標(biāo)的NAT轉(zhuǎn)換,能夠?qū)崿F(xiàn)負(fù)載均衡,一個Director最多額可以提供10個Real Server 主機。特點和要求: 1、LVS上面需要雙網(wǎng)卡:DIP和VIP06專題專欄Linux運維趨勢 2013年6月號 總第28期

17、“ 輪叫調(diào)度算法假設(shè)所有服務(wù)器處理性能均相同,不管服務(wù)器的當(dāng)前連接數(shù)和響應(yīng)速度。該算法相對簡單,不適用于服務(wù)器組中處理性能不一的情況?!?、Director不支持端口6、Director能夠支持比NAT多很多的Real Server、TUN:隧道1、架構(gòu)Director必須有兩個IP:VIP和DIP,在向外部進(jìn)行轉(zhuǎn)發(fā)的時候CIP和VIP不能更改,而是在數(shù)據(jù)報文的外面加層封裝(S:DIP,D:RIP),然后通過Internet傳送給外部的Real Server,Real Server接收到請求以后,先拆除第一層封裝后拆除第二層封裝,然后把響應(yīng)數(shù)據(jù)直接傳輸給Client。2、特性:2、輪叫調(diào)度(W

18、eighted Round-Robin集群節(jié)點可以InternetScheduling),輪叫,簡稱WRR。該算法可以解決服務(wù)器間性能不一的情況,它用相應(yīng)的權(quán)值表示服務(wù)器的處理性能,服務(wù)器的缺省權(quán)值為1。假設(shè)服務(wù)器A的權(quán)值為1,B的權(quán)值為2,則表示服務(wù)器B的處理性能是A的兩倍。輪叫調(diào)度算法是按權(quán)值的高低和輪叫方式分配請求到各服務(wù)器。權(quán)值高的服務(wù)器先收到的連接,權(quán)值高的服務(wù)器比權(quán)值低的服務(wù)器處理的連接,相同權(quán)值的服務(wù)器處理相同數(shù)目的連接數(shù)。Director的VIP和RIP必須為公網(wǎng)IPDirector僅處理入站請求,響應(yīng)報文則由Real Server直接發(fā)往客戶端Real Server的網(wǎng)關(guān)不能

19、指向Director只有支持隧道協(xié)議功能的OS才能作為Real Server不支持端口六、LVS的調(diào)度方法:分為靜態(tài)和動態(tài)調(diào)度靜態(tài)調(diào)度:1、輪叫調(diào)度: Round-Robin Scheduling,簡稱RR,輪叫調(diào)度就是以輪叫的方式請求不同的服務(wù)器,算法的優(yōu)點是其簡潔性,它無需當(dāng)前所有連接的狀態(tài),所以它是一種無狀態(tài)調(diào)度。輪叫調(diào)度算法假設(shè)所有服務(wù)器處理性能均相同,不管服務(wù)器的當(dāng)前連接數(shù)和響應(yīng)速度。該算法相對簡單,不適用于服務(wù)器組中處理性能不一的情 況,而且當(dāng)請求服務(wù)時間變化比較大時,輪叫調(diào)度算法容易導(dǎo)致服務(wù)器間的負(fù)載不平衡。 (未完內(nèi)容請查看原文。)原文:投稿信箱:huangdan07通過LVS

20、實現(xiàn)WEB站點的mysql高可用文/阿里噶濤在一個架構(gòu)中,只要有服務(wù)器的存在就2、vim /etc/httpd/conf/httpd.conf必須要在確定架構(gòu)的安全,在企業(yè)和中 數(shù)據(jù)庫的作用是的,因此對數(shù)據(jù)庫的兩個重要的操作就是備份和提升其性能備份有mysql自帶的mysqldump 在有優(yōu)點的同時也存在著缺點,就是讀寫的差異,由于大多數(shù)的數(shù)據(jù)庫是多于寫入,所以這里做了一個的從屬服務(wù)器的LVS對寫入數(shù)據(jù)庫的操作讓它去找主服務(wù)器 然后主從服務(wù)器做一個AB同步 在這里還要在apache搭建一個用來測試。實驗環(huán)境:vmware 9.0 RHEL5.5實驗所需軟件包:mysql-w-r.tar.gz

21、Discuz_7.2_ FULL_SC_UTF8.zip為避免干擾實驗開始前關(guān)閉selinux功能 配置好IP地址和本地Yum源,實驗所需最少7臺實驗的拓?fù)鋱D如下:3、開啟apache 服務(wù): service httpd restart 4 這里我們不做DNS的配置只是在客戶機的hosts文件中手動輸入所對應(yīng)的IP:分別給三個用戶安裝三個關(guān)聯(lián)三個數(shù)據(jù)庫每一個用戶只對一個數(shù)據(jù)庫有操作權(quán)限 對別的數(shù)據(jù)庫沒有操作權(quán)限APACHE服務(wù)器的配置1、安裝httpd服務(wù) php服務(wù)這樣在瀏覽器中輸入就可以正常了做完了apache準(zhǔn)備部分再去做mysql 然后再去裝discuz關(guān)聯(lián)數(shù)據(jù)庫。 yum y ins

22、tall httpd php php-mysqlLinux運維趨勢 2013年6月號 總第28期08專題專欄“因為在本機數(shù)據(jù)庫進(jìn)行操作所以不需要輸入用戶名和,在輸入命令的時候只需要輸入mysql就可以進(jìn)入數(shù)據(jù)庫?!痹趍ysql主服務(wù)器A上設(shè)置1、yum y install mysql-server mysql 2、初始化mysql數(shù)據(jù)庫service mysqld restart3、因為在本機數(shù)據(jù)庫進(jìn)行操作所以不需要輸入用戶名和 ,在輸入命令的時候只需要輸入mysql就可以進(jìn)入數(shù)據(jù)庫: #mysql mysql的數(shù)據(jù)庫文件存放在/var/lib/mysql目錄下4、新建三個庫分別為a,b,c6

23、、在三個表中mysql>use a;輸入:這時再做mysql的主從服務(wù)器。在A服務(wù)器上需要做如下配置:1、vim /etc/f5、在a,b,c庫下分別新建三個表a,b,c投稿信箱:huangdan09server_id = 1log-bin=binloglog-bin-index=binlog.index“最后一步數(shù)據(jù)庫表,記住這個Position號碼和File名字 一會要用到。”編輯完成之后重啟服務(wù)讓配置生效。3 mysql> flush privileges;#mysqldump -A -x > /tmp/full.sql 數(shù)據(jù)庫備份到/tmp下4 #scp /tmp/f

24、ull.sql rootslaveip:/tmp/-這里slaveip是01 所以IP寫01就可以了。5 這時如果數(shù)據(jù)庫有寫操作要對數(shù)據(jù)庫加鎖: mysql> flush tables with read lock; 如果沒有寫操作可以省掉這一步6 mysql> show master status; 顯示主數(shù)據(jù)庫服務(wù)器的狀態(tài)4 重啟服務(wù)使配置生效5 進(jìn)入mysql數(shù)據(jù)庫(在這里要注意的是master的IP地址和端口還有文件名和Position)只要有這兩個模塊處于YES狀態(tài)就表示從屬服務(wù)器就了。這時我們再去配置另一個從屬服務(wù)器 這次要最

25、后一步數(shù)據(jù)庫表,記住這個Position號碼和File名字 一會要用到。在BMain服務(wù)器中的操作1 安裝mysql-server yum y install mysql-server 2 啟動服務(wù) service mysqld restart3 編輯配置文件用另式。1、前面安裝和啟動方式都同BMain一樣 修改配置文件在server_id = 3即可;再從BMain中拷貝full.sql和mysql目錄下的 需要說明的是文件著連接上述主服務(wù)器的配置信息。10專題專欄Linux運維趨勢 2013年6月號 總第28期vim /etc/fserver_i

26、d = 2relay_log = /var/lib/mysql/mysql-relay-bin relay_log_index=/var/lib/mysql/mysql-relay-bin.mysql> start slave;啟動slavemysql> show slave status G Slave_IO_Running: Yes Slave_SQL_Running: Yesmysql> change master to master_ host=00, master_port=3306, master_ user=kyo, master_pass

27、word=123, master_ log_file=binlog.000001,master_log_pos=366;service mysqld restart#mysql < /tmp/full.sql“做完了mysql的主從服務(wù)再對兩個從屬服務(wù)器做一個負(fù)載均衡,如果要做mysql的負(fù)載均衡的話要知道它的端3306?!鄙蠄D中,第三行就是position位置 由于我刪除表操作使position位置發(fā)生變化 具體以實驗為標(biāo)準(zhǔn)。如果要做mysql的負(fù)載均衡的話要知道它的端3306由于文件不具限需要賦權(quán)在BMain中和BBak中分別做如下配置重啟服務(wù)后開啟slave。

28、做好之后再來看LVS做好LVS之后就應(yīng)該反過來開始測試在apache上做如下操作解壓mysql-w-r.tar.gz文件tar fxzv mysql-w-r.tar.gz 拷貝文件到html目錄在apache瀏覽器中輸入LVS做完了mysql的主從服務(wù)再對兩個從屬服務(wù)器做一個負(fù)載均衡。在LVS上做如下配置。 (未完內(nèi)容請查看原文。)原文:投稿信箱:huangdan11mount /dev/cdrom /mnt#rpm -ivh /mnt/Cluster/ipvsadm-1.24-10.i386. rpm#ifconfig lo:1 00 netmask 255.255.2

29、55.255 broadcast 55 upain#echo 1 > /proc/sys/net/ipv4/conf/all/ arp_ignoreBMain#echo 2 > /proc/sys/net/ipv4/conf/all/ arp_announcechown mysql.mysql /var/lib/mysql/R#mysql < /tmp/full.sql2 scp root01:/var/lib/mysql/master. info /var/lib/mysql/scp r

30、oot01:/tmp/full.sql /tmp/full.sqlLVS#ipvsadm -A -t 00:3306 -s rrLVS#ipvsadm -a -t 00:3306 -r 01 -gLVS#ipvsadm -a -t 00:3306 -r 02 gLVS#ifconfig eth0:1 00做一個虛擬網(wǎng)卡VIPMySQL集群性能優(yōu)化指南文/Agileload編譯/核子可樂MySQL集群是一款實時、可擴展的事務(wù)性數(shù)據(jù)庫。其設(shè)計初衷

31、在于為對實時性能要求較高的MYSQL集群在數(shù)據(jù)庫層處理表格劃分,這就避免了對應(yīng)用程序?qū)拥挠绊憽_@一特性能夠大大簡化應(yīng)用程序的開發(fā)與維護(hù)工作。在事務(wù)性工作負(fù)載方面,MySQL集群還能提供非常強大的數(shù)據(jù)吞吐能力。另外,這套集群可以利用多個并行SQL節(jié)點,且每個節(jié)點都提供多個連接。最適合MySQL集群的應(yīng)用程序包括:應(yīng)用程序打造一套電信數(shù)據(jù)庫,并實現(xiàn)運營商級別的可用性。不過MySQL集群也可以通過擴展實現(xiàn)諸多企業(yè)級解決方案,例如移動支付系統(tǒng)、實時分析、數(shù)據(jù)流與分析以及內(nèi)容管理等事務(wù)。MySQL集群的橫向擴展能力足以滿足密集型工作負(fù)載的需求,其集群架構(gòu)如下圖所示:平臺/系統(tǒng);支付網(wǎng)關(guān);用戶配置管理;多

32、人網(wǎng)絡(luò)IMS服務(wù);DHCP寬帶接入;VoIP及會議。識別性能問題建議大家對延遲及事務(wù)數(shù)據(jù)吞吐量等性能指標(biāo)進(jìn)行重復(fù)檢測方針。另一大關(guān)注重點在于考量數(shù)據(jù)庫的特定變更及其可用性。大家應(yīng)該在變更實際部署前進(jìn)行性能測試,并在優(yōu)化技術(shù)安置完畢后再次進(jìn)試。在某些情況下,我們可能無意中遇上必須滿足的特殊需求。通過迭代流程,大家可以追蹤目標(biāo)的當(dāng)前進(jìn)展。除了檢測應(yīng)用程序的整體性能, 大家還應(yīng)該考慮個別事務(wù)的性能表現(xiàn)。某些請求可能需要很長時間才能執(zhí)行完畢。如果大家利用SQL對接入MySQL Enterprise Monitor的數(shù)據(jù)庫進(jìn)行,那么不妨試試Query Analyzer-它能追蹤所有負(fù)載較高的事務(wù)。如果大

33、家沒有接入Enterprise Monitor,那么MySQL慢速日志也足以幫助我們找出處理過程過長的事務(wù)。我們可以通過對long_query_time變量的設(shè)定選擇日志中到底應(yīng)該保留哪些慢速(即慢到何種程度)。整信集群由三類節(jié)點:數(shù)據(jù)節(jié)點、應(yīng)用程序節(jié)點以及管理節(jié)點。數(shù)據(jù)節(jié)點通常負(fù)責(zé)數(shù)據(jù)與事務(wù)。應(yīng)用程序節(jié)點提供由應(yīng)用程序邏輯層及應(yīng)用API指向數(shù)據(jù)節(jié)點的。管理節(jié)點在集群配置體系中的作用至關(guān)重要,并在網(wǎng)絡(luò)分區(qū)環(huán)境下負(fù)責(zé)負(fù)載指派。在本文中,共同探討提升MySQL集群性能的最佳實踐方案。通過這些方案,大家將能在各類工作負(fù)載中實現(xiàn)游刃有余的分配效 果。最適合MySQL集群的應(yīng)用程序 MySQL集群能確保

34、來自應(yīng)用程序或者SQL節(jié)點的更新立即被用于集群體系中的每一個節(jié)點。表格被劃分至一系列節(jié)點當(dāng)中,從而實現(xiàn)數(shù)據(jù)庫的橫向可擴展性。Linux運維趨勢 2013年6月號 總第28期12專題專欄“MySQL集群在數(shù)據(jù)節(jié)點內(nèi)保留著全部細(xì)節(jié)信息。這部分?jǐn)?shù)據(jù)可由名為NDBINFO的虛擬數(shù)據(jù)庫直接使用?!弊兞繑?shù)值的是”秒”,將該數(shù)值設(shè)如果需要多次網(wǎng)絡(luò)跳轉(zhuǎn),例如由服務(wù)器為”0”則代表在日志中下所有請求。由于對long_query_time變量所做出的變更馬上體現(xiàn)在活動連接當(dāng)中,因此大家需要刪除當(dāng)前連接然后重新建立。MySQL集群在數(shù)據(jù)節(jié)點內(nèi)保留著全部細(xì)節(jié)信息。這部分?jǐn)?shù)據(jù)可由名為NDBINFO的虛擬數(shù)據(jù)庫直接使用。

35、舉例來說,NDBINFO能夠顯示磁盤頁面緩沖區(qū)的使用信息。所謂磁盤頁面緩沖 區(qū),其實是各個數(shù)據(jù)節(jié)點根據(jù)表格進(jìn)行磁盤操作向數(shù)據(jù)節(jié)點或者在不同數(shù)據(jù)節(jié)點之間,那么性能與可擴展性都可能受到影響。因此,要想讓MySQL集群獲得最佳性能表現(xiàn),我們必須盡量減少網(wǎng)絡(luò)跳轉(zhuǎn)次數(shù)。表格劃分基于主鍵散列,但我們可以對其進(jìn)行重寫以提高性能。簡單的模式是創(chuàng)建可擴展且高性能解決方案的關(guān)鍵。網(wǎng)絡(luò)跳轉(zhuǎn)的必要次數(shù)取決于來自各分支結(jié)構(gòu)的結(jié)果集與接合深度。如果表格的接合深度過 大,那么指向數(shù)據(jù)節(jié)點的每一次跳轉(zhuǎn)也將耗費更多時間。要想獲得最佳性能,我們需要利用主鍵查找-其完成時間是恒定的,與數(shù)據(jù)庫規(guī)模及數(shù)據(jù)節(jié)點數(shù)目沒有關(guān)系。使用AQL時

36、的緩存。通常情況下,其緩沖越高、則性能表現(xiàn)越好。調(diào)整這部分緩存的大小會對系統(tǒng)產(chǎn)生顯著影響。大家可以通過mysql命令行磁盤頁面緩沖數(shù)據(jù)。性能優(yōu)化模式要想讓MySQL集群部署發(fā)揮出與預(yù)期相符的性能,最重要的一點在于了解數(shù)據(jù)庫結(jié)構(gòu)。有一通過使用AQL(即適應(yīng)性能將體現(xiàn)得更為明顯。本地化),性AQL能夠?qū)⒂蒑ySQL服務(wù)器指派向全部數(shù)據(jù)節(jié)點,且由本地數(shù)據(jù)副本負(fù)責(zé)執(zhí)行。然后它會向MySQL服務(wù)器發(fā)回合并結(jié)果集,從而最終實現(xiàn)減少網(wǎng)絡(luò)跳轉(zhuǎn)、提高性能表現(xiàn)的目的。點需要注意-MySQL集群表格中的數(shù)據(jù)并 被保存在MySQL服務(wù)器當(dāng)中。這些數(shù)據(jù)實際上被劃分至由多個數(shù)據(jù)節(jié)點 的 池當(dāng)中,如下圖所示。表格中的各行將

37、被拆分成多個區(qū)塊,每個數(shù)據(jù)節(jié)點保留一個區(qū)塊的主片段及另一個區(qū)塊的次片段。 (未完內(nèi)容請查看原文。)譯文原文:投稿信箱:huangdan13觀察怒火攻心:惹惱系統(tǒng)管理員的九種狀況文/Rikk Endsley 編譯/核子可樂系統(tǒng)管理員的背景孤獨而落寞,系統(tǒng)管理員的身影永遠(yuǎn)唏噓而寂寥,然而管理員又是如此強大、強大到在我們的日常工作中無處不在。雖然登上報紙頭條的”棱鏡”程序似乎令人畏懼,但其力量卻遠(yuǎn)不如我們身邊看似無害的管理員們。大家可能已經(jīng)發(fā)現(xiàn),系統(tǒng)管理員就是維系我們鍵盤與生產(chǎn)力之間的寶貴生命線,因此惹急他們絕對不是什么明智的舉動。為了避免與系統(tǒng)管理員發(fā)生,以下九種失禮行為一定要被完全杜 絕。前系統(tǒng)

38、管理員John Van Ostrand指出,“即使是經(jīng)常請求管理員幫助的用戶,多年之后可能仍然無法準(zhǔn)確回答技術(shù) 需要的具體細(xì)節(jié):當(dāng)時你打算做什么?在出現(xiàn)問題之前你在做些什么? 問題出現(xiàn)時你做了什么?結(jié)果怎么樣?”系統(tǒng)管理員Amy Rich對此深有同感,并補充了同樣常見的情況:“在遇到互聯(lián)網(wǎng)無法連接時,你能告訴我你到底遇上了什么問題(以及你所嘗試過的故障排查流程),而不要再反復(fù)強調(diào)嗎?”的猜測3.權(quán)限“我曾經(jīng)擔(dān)任過系統(tǒng)管理員,而且每天的大部分工作都是跟開發(fā)們打交道,”Jussi Kekkonen表示。“不滿主要來自那些不理解在干什么卻想要或者已經(jīng)擁有較高權(quán)限的員工。拜托,root系統(tǒng)跟修復(fù)問題完

39、全是兩回事?!?.疏于升級Van Ostrand指出,最讓他抓狂的事態(tài)雖然不常發(fā)生,但卻仍沒有被徹底杜絕。“當(dāng)客戶沒有按照 建議進(jìn)行硬件升級時,往往會很快導(dǎo)致故障的出現(xiàn),”他同時補充稱,“我們不得不大費周章地想辦法從已經(jīng)癱瘓的系統(tǒng)中導(dǎo)出數(shù)據(jù), 并將其導(dǎo)入到新系統(tǒng)當(dāng)中。RAID卡可能被接入早已過時的插槽,磁帶驅(qū)動器也可能配備著極為陳舊的適配器,我最近甚至還見識過有人在使用不具備網(wǎng)絡(luò)功能的操作系統(tǒng)。本應(yīng)輕松愉快的維護(hù)工作變得 四伏,原來可以簡單解決的任務(wù)也因此變得極為復(fù)雜?!?.拖無可拖才上報情況 “我最接受不了的就是員工直到把情況拖成燃眉之急才與我們,這時每位技術(shù)都需要放下手中的一切、全員趕來救

40、場。1.繞開服務(wù)臺系統(tǒng)如果大家認(rèn)為徑直跑到管理員桌前比提早預(yù)約更方便,請務(wù)必三思。Maria Webster目前擔(dān)任工程師一職,但她承認(rèn) 對于那些不愛預(yù)約、喜歡直接提問的同事非常 。”嘿,你有空嗎?這簡直太可怕了,”她坦言。系統(tǒng)分析師Eric Geissinger解釋稱,”這樣一來,整個變更請求將 被 在案,而且我相當(dāng)于中斷了的正常工作、轉(zhuǎn)而幫助那些不按正規(guī)途徑辦事的員工?!?.含糊其辭“雖然一直在發(fā)展,但我們?nèi)匀恍枰獞{借明確的問題報告才完成修復(fù)工作。”14觀察思考Linux運維趨勢 2013年6月號 總第28期“我并不是系統(tǒng)管理員,但我敢肯定那幫一次又一次要求管理員幫讓人怒發(fā)沖冠。”重置的家

41、伙肯定會最后的往往證明,這幫家伙其實早在幾然而一旦出現(xiàn)故障,所有的毛病都被推到了管理員頭上。”前系統(tǒng)管理員Joe Brockmeier道出了他最無法接受的狀況。請記住,系統(tǒng)不可能自動正常工作,在口出惡言之前、大家為那無數(shù)個相安無事的日日夜夜向管理員們道過謝嗎?周甚至幾之前就已經(jīng)發(fā)現(xiàn)了情況,但卻總是在情況無可挽回時才通知系統(tǒng)管理員,” DevOps故障排查:Linux服務(wù)器最佳實踐一文作者兼系統(tǒng)管理員Kyle Rankin抱怨道。6.浪費系統(tǒng)管理員的時間 “我并不是系統(tǒng)管理員,但我敢肯定那幫一次又一次要求管理員幫重置的家伙肯定用戶還有哪些行為會令管理員限入在評論欄中與我們您的所見所聞。熱點文章排

42、行榜 1、RHEL/CentOS系統(tǒng)的社區(qū)維護(hù)?請會讓人怒發(fā)沖冠,”某社區(qū)外聯(lián)Nicholson表示。Deb 整合“關(guān)于這個,我可以講講的故事,”IT生產(chǎn)運營經(jīng)理Linc Fessenden也加入討論?!坝脩粝M軓碾娮余]箱的 箱中恢復(fù)文件,因為他們想把郵件保存在里面有些用戶希望能利用CD驅(qū)動器把光盤清空-后來我發(fā)現(xiàn),他們鼓搗的其實是一張5寸軟盤。唉,我都懶得問他們是怎么把軟盤塞進(jìn)光驅(qū)里的?!?.在生產(chǎn)系統(tǒng)中進(jìn)行代碼測試2、從分布式設(shè)計到自動化運維的演進(jìn)“真的?你想直接把的代碼運行在生產(chǎn)系統(tǒng)當(dāng)中?”系統(tǒng)管理員Kurt von Finck講述他的經(jīng)歷。“我們之所以設(shè)置階段性與試驗性系統(tǒng)正是為了滿

43、足代碼的測試需求。不,測試服務(wù)器中沒有g(shù)cc,真的”8.提出個人請求“嘿,我家里有臺裝著Windows 98的老款筆記本,”系統(tǒng)管理員Charly Kühnast 了這樣的例子?!澳隳軒臀倚抟恍迒?, 拿來玩<孤島驚魂3>?!比绻愕膫€人電腦出現(xiàn)了問題,最好是用個人時間來解決。9.把管理員的工作視為理所當(dāng)然 “當(dāng)一切工作都有條不紊照常運轉(zhuǎn)時,大家根本感受不到管理員的存在。3、恒拓開源CEO解讀恒拓與開源技術(shù)那些事譯文原文:投稿信箱:huangdan15IT應(yīng)該具備的10項軟技能文/劉羽飛現(xiàn)代企業(yè)的IT部門員工在具備技術(shù)能力的同時,還需要掌握一些軟技能。現(xiàn)在來看這些軟技能其實

44、并不是什么新鮮事物,只是IT所需的這些軟技能的范圍與數(shù)量正在不斷增加著。IT需要具備哪些技術(shù)能力,要取決于其就職于哪家企業(yè)。但無論哪家企業(yè)的IT部門員工都需要具備同樣的“軟技能”。這些對IT 的要求很早就已經(jīng)被提出來了。30多年前的時候,就曾有企業(yè)的IT部門專門招聘人文社科專業(yè)的畢業(yè)生來擔(dān)任業(yè)務(wù)系統(tǒng)分析師,希望借助他們的人際 技巧來打破技術(shù) 與最終用戶之間的 隔閡。通常情況下,企業(yè)CIO或多或少都具備人文社科專業(yè)學(xué)歷背景, 就在于其在軟技能方面更具優(yōu)勢。那么,今天的企業(yè)又希望 的IT員工具備哪些軟技能呢?下文將列舉Transworld Data總裁Mary Shacklett總結(jié)的IT 需要具

45、備的最重要的10項軟技能。1、談判與會議技巧IT需要人與技術(shù)相結(jié)合來制造以保證企業(yè)業(yè)務(wù)能繼續(xù)運營下去。項目的實施過程中,只要有“人”的因素包含在其中的時候,出現(xiàn)就成為了必然,但最終所有人必須要達(dá)到某種程度上的團(tuán)隊一致性,以確保實現(xiàn)項目的最終目標(biāo)。這對于IT犧牲自我以求共識的能力有著較高的要求。2、較強的能力IT的表達(dá)、閱讀、編寫能力是必須要加強的。即使在技術(shù)發(fā)達(dá)的今天,對這些能力的培養(yǎng)也顯得過時。因為任何方式的在企業(yè)內(nèi)部都是非常有必要的。每年企業(yè)IT報告上的那些主意不錯卻最終失敗的IT項目,大多都是因為之間缺乏而導(dǎo)致的。3、項目管理第六感有一些課程培訓(xùn)可以幫助IT提高項目管理水平。但是,對于大

46、部分人來說,真正提高IT項目的管理能力需要積累很多年時間的工作經(jīng)驗,而要將這種項目狀況的能力變?yōu)橐环N“直覺”的話,則需要更長的時間。天生的項目管理者擁有項目管理第六感,在很多情況下這樣的天賦甚至是無法后天培養(yǎng)的。假如CIO發(fā)現(xiàn)其手下?lián)碛羞@樣一名能夠“閱讀”項目的員工的話,必定會委以重任。4、換位思考能力IT通常都是與技術(shù)打交道的,因此他們一般不太容易理解一位非技術(shù)型最終用戶在實際應(yīng)用中所的。這就要求IT需要學(xué)會站在他人的角度來技術(shù)問題,了解最終用戶的實際處境,盡量使企業(yè)內(nèi)部IT應(yīng)用更加人性化,易于其他部門的同事學(xué)習(xí)與使用。Linux運維趨勢 2013年6月號 總第28期16觀察思考“基于云計算

47、的解決方案正變得愈發(fā)流行,因此企業(yè)對IT在簽訂服務(wù)合作協(xié)議時的談判技巧與法律意識也有著越來越高的要求?!?、良好的團(tuán)隊精神樂于鉆研的IT很容易陷入孤立的人際交往狀態(tài)。但I(xiàn)T工作永遠(yuǎn)都不可能是一個人的工作,只有當(dāng)成員真正能融入其團(tuán)隊內(nèi),順利地與其他同事些人被列為未來的職位晉升候選人的幾率也更大。6、政治頭腦與合作時,才能體現(xiàn)出其真正的價值,這IT同樣需要具備敏銳的政治頭腦,能夠敏銳的察覺公司內(nèi)部的人際關(guān)系組織,同時還要不斷扶持的支持者,在企業(yè)關(guān)鍵部門中打造屬于的牢固的人際圈子,這樣在工作中就會得到很多便利。7、知識能力IT經(jīng)常需要為其他部門的最終用戶講解如何使用新開發(fā)的應(yīng)用,同時IT也是企業(yè)內(nèi)部

48、IT培訓(xùn)的重要人力 。如果IT 能夠在 就與那些最終用戶協(xié)同工作并提供幫助與支持的話,他們就將變得更有價值因為真正的IT培訓(xùn)最需要在實際的工作中進(jìn)行。更為重要的是,IT 需要具有主動 其知識的意愿,同時還能耐心地 他人講述 遇到的 。8、解決人為因素問題IT大都喜歡在“二進(jìn)制”那種黑白分明的世界里埋頭工作。不幸的是,IT項目實施中的很多問題都是由于人為因素所引起的。在這些問題中往往沒有絕對的正確或錯誤,也就是所謂的“黑白不分明”。但最終,找到一種大家都能接受的解決方案仍然是有必要的。優(yōu)秀的IT 應(yīng)該有能力找到出問題的根源,并準(zhǔn)確的向其他人解釋清楚,最終在大家的面前再將問題解決。此舉必將有助于清

49、除項目實施 ,同時縮短項目周期。9、供應(yīng)商管理某些IT或是管理學(xué)課程會提到供應(yīng)商管理的問題,然而卻很少有IT想要去做這方面的實際工作。鑒于IT外包趨勢正在上升的,擁有管理能力的IT將會與服務(wù)供應(yīng)商建立良好的合作關(guān)系,確保在SLA以及KPI方面能帶來有用的價值。同時這些IT還更容易得到職位晉升的機會。10、合約協(xié)商談判基于云計算的解決方案正變得愈發(fā)流行,因此企業(yè)對IT在簽訂服務(wù)合作協(xié)議時的談判技巧與法律意識也有著越來越高的要求。當(dāng)IT具備這種能力時,通常都會很快就會引起上司的注意并得到賞識,甚至是晉升到薪水更高的行政管理職位。專題推薦:原文:投稿信箱:huangdan17技巧&經(jīng)驗細(xì)看運

50、維85條軍規(guī),是否觸動了你內(nèi)心深處那根弦?文/oschina 編譯/桔子/Khiyuan/fbm/拋出異常的愛這篇文章于 2007年6月,后來我一直都沒8)一直保持N+1。如果N=1,無論任何情況下不要輕易使用+1,這個1只用于當(dāng)N down機情況下。當(dāng)使用冗余服務(wù)器來承載負(fù)載時候,不要讓你的系統(tǒng)超過49%的負(fù)荷。當(dāng)有機會能只用N+2的架構(gòu)時候,使用它。9)數(shù)據(jù)丟失不是任何一個公司所能承擔(dān)的風(fēng)險-這是舉世所知的真理。數(shù)據(jù)丟失造成的損失遠(yuǎn)遠(yuǎn)大于保持?jǐn)?shù)據(jù)不丟失所花的成本。10)無論何時何地盡可能并行化。這是復(fù)路考慮最重要的 。比如,如果利用MogileFS來做位置感知,并且需要實時的 數(shù)據(jù),一個可

51、行的方法是每一臺MogileFS服務(wù)器可以 它的數(shù)據(jù)去MogileFS的負(fù)載均衡中心。盡可能多的啟用多的平行。11)閱讀手冊。至今,我還是堅持要先通讀RAID卡的手冊,以確認(rèn)是否有什么細(xì)微的差別。惡魔都隱藏在細(xì)節(jié)里。做足功課吧!有更新。然而,這個規(guī)則列表至今仍然十分適用。我打算馬上對這篇文章進(jìn)行更新運維85條軍規(guī)1) 承載能力優(yōu)先 隨后再進(jìn)行優(yōu)化 不遵守這條規(guī)則必定帶來故障停機時間。不要在故障停機時間的 下進(jìn)行優(yōu)化要先集中精力提高承載能力。2) 以Postgres為例,一定要確保你的每一個網(wǎng)絡(luò)都能匹配得上你的WAL文件、Slony、快照技術(shù)以及基于磁盤的DB版本化(快照的衍生品)。3) 不要把

52、問題優(yōu)化到你的架構(gòu)之中。為了解決問題而新加進(jìn)來的一些東西往往后來都會變成運維沉重的負(fù)擔(dān)。 要確保在運維工程化中開發(fā)出來的工具交接完整。過后再回頭進(jìn)行進(jìn)一步的開發(fā)往往不靈。更重要的是,變更請求可能會破壞已經(jīng)安排好的工程計劃。4) 保持簡單。保持簡單,因為你很聰明別把事搞的太復(fù)雜,因為你行的。5) 應(yīng)該非常謹(jǐn)慎地使用 緩存 ,為了保護(hù)資源一致性,它很難進(jìn)行水平縮放。如果你作的是一個可以橫向擴展的東西,明智或?qū)徤鞯淖龇ㄊ遣灰砑拥木彺鎸印H绻且褂?,它?yīng)該是為最終用戶獲得性能,不是為了贏得一個的容量。12)知道瓶頸所在,并知道怎么去它,一層層排查,查找是不是硬盤、內(nèi)存或者cpu的阻塞了。通常這個很

53、簡單。13)定期做系統(tǒng)容量管理程序。積極一點。如果沒有容量數(shù)據(jù)的曲線,你很難知道你系統(tǒng)的薄弱之處。14)不要促成失敗,不要害怕改變。15)別挖陷阱給跳。不要認(rèn)為你的工作成果將能作為未來的工作的動力。16 )運維寫的代碼應(yīng)該是運維工具,而不是應(yīng)用軟件。17)在運維團(tuán)隊中,不要低估了項目管理、文檔撰寫以及財務(wù)分析的價值。他們比給予工資更有價值。6) 不要所有代碼都寫; 不要所有東西都外包; 在合適的時間使用合適的工具,完成你的工作。7)協(xié)商-真正有效的談判唯一方式是先作一些調(diào)研,制定一些可行的性方案.這樣你可以挑選你的首席開發(fā)商,如果你真的需要. 別虛張聲勢。18)一切。異常問題。其他部分記錄數(shù)據(jù)用來做趨勢分析信息。18技巧經(jīng)驗Linux運維趨勢 2013年6月號 總第28期“要確保系統(tǒng)簡單到讓公司的每個人都能上手。你可能會很吃驚數(shù)據(jù)指標(biāo)轉(zhuǎn)換成為業(yè)務(wù)指標(biāo)、市場指標(biāo)和銷售等等指標(biāo)有多頻繁?!?3) 你不應(yīng)失敗兩次以上??謶指杏悬c好處。但要知道長期犯錯和無意犯錯的區(qū)別

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論