AIX 5L 磁盤性能優(yōu)化 第 1 部分,磁盤 IO 概述和長期監(jiān)視工具(sar,nmon 和 topas)

1、AIX 5L 磁盤性能優(yōu)化: 第1 部分磁盤I/O 概述和長期監(jiān)視工具(sar、nmon 和topas簡介:了解更多關(guān)于直接I/O、并發(fā)I/O、異步I/O 的內(nèi)容,以及每種I/O 實(shí)現(xiàn)方法的最佳實(shí)踐。本系列教程共有三篇文章,介紹了關(guān)于AIX® 磁盤和I/O 子系統(tǒng)的內(nèi)容,重點(diǎn)關(guān)注于在優(yōu)化磁盤I/O 性能時(shí)的各種挑戰(zhàn)。盡管磁盤優(yōu)化很可能沒有CPU 或者內(nèi)存優(yōu)化那么激動(dòng)人心,但它是優(yōu)化服務(wù)器性能的關(guān)鍵部分。事實(shí)上,其中部分原因是因?yàn)榇疟PI/O 是最薄弱的子系統(tǒng)環(huán)節(jié),與任何其他子系統(tǒng)相比,您可以執(zhí)行更多的操作以提高磁盤I/O 性能。引言磁盤I/O 優(yōu)化的關(guān)鍵部分涉及到在構(gòu)建您的系統(tǒng)之前實(shí)現(xiàn)

2、相關(guān)的最佳實(shí)踐。因?yàn)楫?dāng)您已經(jīng)啟動(dòng)并處于運(yùn)行狀態(tài)時(shí),很難再對數(shù)據(jù)進(jìn)行移動(dòng),所以在規(guī)劃您的磁盤和I/O 子系統(tǒng)環(huán)境時(shí),需要在第一次就正確地完成這項(xiàng)任務(wù),這一點(diǎn)是非常重要的。這包括物理體系結(jié)構(gòu)、邏輯磁盤排列,以及邏輯卷和文件系統(tǒng)配置。當(dāng)系統(tǒng)管理員聽到可能出現(xiàn)了磁盤爭用的問題時(shí),他或她首先將會求助iostat。iostat 等同于使用vmstat 提供有關(guān)內(nèi)存的報(bào)告,它是獲得有關(guān)您的I/O 子系統(tǒng)的當(dāng)前運(yùn)行情況概述的一種快速而原始的方法。盡管運(yùn)行iostat 并不是一種完全不合理的“膝跳反應(yīng)”,但是很早就應(yīng)該著手考慮磁盤I/O 的問題,而不是等到必須進(jìn)行優(yōu)化工作的時(shí)候。如果從一開始就沒有正確地為您的環(huán)

3、境配置磁盤,那么任何優(yōu)化工作都無法提供幫助。而且,有一點(diǎn)非常重要,需要了解磁盤I/O 的詳細(xì)信息,以及它與AIX® 及您的System p硬件之間的關(guān)系。就磁盤I/O 優(yōu)化而言,特定的AIX 工具和實(shí)用工具比通用的UNIX® 命令和工具能夠提供更多的幫助,因?yàn)樗鼈兊娜蝿?wù)就是幫助您優(yōu)化本機(jī)AIX 磁盤I/O 子系統(tǒng)。本文定義和介紹了AIX I/O 棧,并將其與磁盤性能的物理和邏輯方面關(guān)聯(lián)起來。本文介紹了直接、并發(fā)和異步I/O:它們是什么,如何啟用它們,以及如何監(jiān)視和優(yōu)化它們。本文還介紹了一些長期監(jiān)視工具,您應(yīng)該使用它們來幫助優(yōu)化您的系統(tǒng)。聽到iostat 并不是一種推薦的、幫

4、助您長期收集統(tǒng)計(jì)數(shù)據(jù)的工具,您可能會感到奇怪。最后,本文繼續(xù)強(qiáng)調(diào)一點(diǎn),無論您希望優(yōu)化哪個(gè)子系統(tǒng),始終應(yīng)該將系統(tǒng)優(yōu)化看作一個(gè)持續(xù)的過程。開始對系統(tǒng)進(jìn)行監(jiān)視的最佳時(shí)間是當(dāng)您首次將系統(tǒng)應(yīng)用到生產(chǎn)環(huán)境中并且正常運(yùn)行時(shí),而不是等到用戶抱怨系統(tǒng)的性能非常糟糕的時(shí)候。您需要在系統(tǒng)正常運(yùn)行的時(shí)候建立系統(tǒng)運(yùn)行狀態(tài)的基準(zhǔn),以便在可能不正常運(yùn)行的情況下對數(shù)據(jù)進(jìn)行分析。在對您的I/O 子系統(tǒng)進(jìn)行更改時(shí),一次僅進(jìn)行一項(xiàng)更改,以便能夠準(zhǔn)確地評估這項(xiàng)更改所帶來的影響。為了評估其影響,您將使用本文中推薦的一種長期監(jiān)視工具來捕獲數(shù)據(jù)。磁盤I/O 概述這個(gè)部分提供了磁盤I/O 與AIX 之間的關(guān)系的概述。本部分介紹了I/O(設(shè)備

5、驅(qū)動(dòng)器和適配器的物理方面、AIX I/O 棧,以及一些相關(guān)概念(如直接、并發(fā)和異步I/O。還介紹了I/O 處理速率調(diào)整的概念,以及iostat 的一些最新改進(jìn),以便幫助您監(jiān)視AIX 服務(wù)器。您應(yīng)該很清楚,對于運(yùn)行任何程序來說,最慢的操作實(shí)際上是花費(fèi)在檢索磁盤中數(shù)據(jù)上的時(shí)間。這種情況主要是因?yàn)镮/O 的物理組件。實(shí)際的磁臂必須找到正確的柱面,控制部分需要訪問正確的塊,并且磁頭必須等到這些塊旋轉(zhuǎn)到磁頭下面。在對系統(tǒng)進(jìn)行任何優(yōu)化活動(dòng)之前,首先應(yīng)該了解您的I/O 系統(tǒng)的物理體系結(jié)構(gòu),因?yàn)槿绻O(shè)計(jì)的I/O 子系統(tǒng)非常糟糕,并且其中包含慢速磁盤,或者適配器的使用非常低效,那么任何優(yōu)化工作都無法提供幫助

6、。圖1清楚地闡釋了物理I/O 組件與邏輯磁盤及其應(yīng)用程序I/O 之間非常緊密地關(guān)聯(lián)在一起。這正是通常將其稱為AIX I/O 棧的原因。圖1. AIX I/O 棧 在進(jìn)行優(yōu)化工作時(shí),您需要了解所有的層次,因?yàn)樗鼈兎謩e以不同的方式對性能產(chǎn)生影響。在第一次設(shè)置您的系統(tǒng)時(shí),對于磁盤的配置,可以從底層(物理層開始,然后是設(shè)備層、邏輯卷、文件系統(tǒng)、文件和應(yīng)用程序。規(guī)劃您的物理存儲環(huán)境是非常重要的,這一點(diǎn)無論怎樣強(qiáng)調(diào)都不為過。這涉及到確定磁盤的數(shù)量、類型(速度、大小和吞吐量。關(guān)于存儲技術(shù)需要注意的一項(xiàng)重要挑戰(zhàn)是,盡管磁盤存儲功能得到了極大的改進(jìn),但是磁盤的旋轉(zhuǎn)速度卻沒有太大的提高。您必須清楚這樣的一個(gè)事實(shí),

7、RAM 訪問僅需要540 個(gè)CPU 周期,而磁盤訪問則需要花費(fèi)20,000,000 個(gè)CPU 周期。很明顯,系統(tǒng)中最薄弱的環(huán)節(jié)就是磁盤I/O 存儲系統(tǒng),并且作為系統(tǒng)管理員,您的任務(wù)是確保它不會成為更嚴(yán)重的瓶頸。如前所述,與任何可調(diào)整的I/O 參數(shù)相比,糟糕的數(shù)據(jù)布局將會給I/O 性能帶來更大的影響。查看I/O ?？梢詭椭斫膺@一點(diǎn),因?yàn)檫壿嬀砉芾砥?Logical Volume Manager,LVM和磁盤布置要比優(yōu)化參數(shù)(ioo 和vmo更接近于底層。現(xiàn)在,讓我們來介紹數(shù)據(jù)布局的一些最佳實(shí)踐。一個(gè)重要的概念是,請確保您的數(shù)據(jù)均勻地分布在整個(gè)物理磁盤中。如果您的數(shù)據(jù)僅位于幾個(gè)軸,那么使用多個(gè)

8、邏輯單元號(LUN 或者物理磁盤又有什么實(shí)際意義呢?如果您使用了SAN 或者其他類型的存儲陣列,那么您應(yīng)該嘗試在創(chuàng)建陣列時(shí)使它們具有相同的大小和類型。您還應(yīng)該在創(chuàng)建它們時(shí),為每個(gè)陣列使用一個(gè)LUN,然后將所有的邏輯卷分散到您的卷組中所有的物理卷。如前所述,應(yīng)該在首次配置您的系統(tǒng)時(shí)完成這項(xiàng)工作,因?yàn)樾迯?fù)I/O 問題要比內(nèi)存或者CPU 問題更加困難,特別是當(dāng)它涉及到在生產(chǎn)環(huán)境中對數(shù)據(jù)進(jìn)行移動(dòng)時(shí)。您還應(yīng)該確保鏡像位于不同的磁盤和適配器。數(shù)據(jù)庫提出了不同的、獨(dú)特的要求,如果可能,您的索引和重做日志也應(yīng)該位于不同的物理磁盤。對于經(jīng)常用于執(zhí)行排序操作的臨時(shí)表空間,也應(yīng)該這樣。再回到物理設(shè)備方面。使用高速適

9、配器連接磁盤驅(qū)動(dòng)器,這一點(diǎn)是非常重要的,但是您必須確保該總線本身不會成為一個(gè)瓶頸。要防止這種情況發(fā)生,請確保將適配器分散到多個(gè)總線。同時(shí),不要將過多的物理磁盤或者LUN 連接到任何一個(gè)適配器,因?yàn)檫@樣做也會對性能產(chǎn)生極大的影響。您配置的適配器越多越好,特別是在大量磁盤的利用率都很高的情況下。您還應(yīng)該確保設(shè)備驅(qū)動(dòng)程序支持多路徑I/O (MPIO,它支持I/O 子系統(tǒng)的負(fù)載平衡和可用性。直接I/O讓我們回到前面提到的一些概念,如直接I/O。那么,什么是直接I/O?它在AIX Version 4.3 中首次引入,這種I/O 方法不經(jīng)過虛擬內(nèi)存管理器(Virtual Memory Manager,VM

10、M,從用戶緩沖區(qū)直接與磁盤進(jìn)行數(shù)據(jù)傳輸。根據(jù)您的應(yīng)用程序的類型,在實(shí)現(xiàn)這種技術(shù)時(shí)可以提高性能。例如,那些具有糟糕的緩存使用率的文件,是使用直接I/O 的很好的候選對象。直接I/O 還可以提高那些使用同步寫入操作的應(yīng)用程序的效率,因?yàn)檫@些寫入操作的對象是磁盤。直接I/O 降低了CPU 使用率,這是因?yàn)橄穗p重?cái)?shù)據(jù)副本。將磁盤的數(shù)據(jù)復(fù)制到緩沖區(qū)緩存,然后再復(fù)制文件數(shù)據(jù)時(shí)會出現(xiàn)多余的副本。直接I/O 的一個(gè)主要性能開銷是,盡管它可以降低CPU 使用率,但是它可能導(dǎo)致進(jìn)程長時(shí)間等待較小請求的完成。請注意,這種方式適用于在磁盤上具有持久存儲位置的持久段文件。當(dāng)使用IBM Enhanced Journa

11、led File System for AIX 5L (JFS2 不通過直接I/O 訪問文件時(shí),文件作為本地頁面緩存,并且將數(shù)據(jù)復(fù)制到RAM 中。直接I/O 可以在許多方面為您提供與使用原始邏輯卷類似的性能,同時(shí)還保留了使用JFS 文件系統(tǒng)的優(yōu)點(diǎn)(例如,易于管理。在使用直接I/O 裝入文件系統(tǒng)時(shí),您應(yīng)該避免使用支持大文件的JFS 文件系統(tǒng)。并發(fā)I/O并發(fā)I/O 又如何呢?它在AIX Version 5.2 中首次引入,這個(gè)特性調(diào)用了直接I/O,所以它具有與直接I/O 相關(guān)聯(lián)的所有其他性能注意事項(xiàng)。使用標(biāo)準(zhǔn)的直接I/O,會對索引節(jié)點(diǎn)(與文件相關(guān)聯(lián)的數(shù)據(jù)結(jié)構(gòu)加鎖,以防止出現(xiàn)多個(gè)線程試圖同時(shí)更改一個(gè)

12、文件的內(nèi)容的情況。并發(fā)I/O 繞過了索引節(jié)點(diǎn)鎖,這樣可以允許多個(gè)線程并發(fā)地讀寫相同文件的數(shù)據(jù)。這是因?yàn)镴FS2 在實(shí)現(xiàn)時(shí)使用了寫?yīng)氄?write-exclusive 索引節(jié)點(diǎn)鎖,允許多個(gè)用戶同時(shí)讀取相同的文件?？梢韵胂?直接I/O 可能使得不斷地從相同文件讀取數(shù)據(jù)的數(shù)據(jù)庫產(chǎn)生很大的問題。并發(fā)I/O 則解決了這一問題,這正是該特性主要用于關(guān)系數(shù)據(jù)庫的原因。與直接I/O 類似,您可以通過open 系統(tǒng)調(diào)用或者通過裝入文件系統(tǒng)來實(shí)現(xiàn)這種方式,如下所示: 當(dāng)您使用這個(gè)命令裝入文件系統(tǒng)時(shí),其中所有的文件都使用并發(fā)I/O。與使用直接I/O 相比,并發(fā)I/O 幾乎可以提供使用原始邏輯卷的所有優(yōu)點(diǎn),同時(shí)保持文

13、件系統(tǒng)的易管理性。請注意,您不能對JFS(只能對JFS2使用并發(fā)I/O。而且,對于那些受益于文件系統(tǒng)預(yù)讀功能或者較高緩沖區(qū)緩存命中率的應(yīng)用程序,可能會出現(xiàn)性能的降低。異步I/O異步I/O 是什么情況呢?同步和異步I/O 指的是,應(yīng)用程序是否等待I/O 的完成以開始進(jìn)行處理。正確地使用異步I/O 可以極大地提高I/O 子系統(tǒng)寫入操作的性能。其工作方式是,它本質(zhì)上允許應(yīng)用程序在后臺等待I/O 完成的同時(shí),繼續(xù)進(jìn)行處理。這種方式能夠提高性能是因?yàn)樗试SI/O 和應(yīng)用程序處理同時(shí)運(yùn)行。對于數(shù)據(jù)庫環(huán)境,啟用異步I/O 的確可以起到幫助作用。您如何監(jiān)視異步I/O 服務(wù)器的使用率呢?iostat(僅適用于A

14、IX Version 5.3和nmon 都可以監(jiān)視異步I/O 服務(wù)器的使用率。在AIX Version 5.3 之前,確定該信息的唯一方法是使用nmon命令。確定您的系統(tǒng)中所配置的異步I/O(遺留服務(wù)器數(shù)量的標(biāo) iostat -A命令可以報(bào)告異步I/O 統(tǒng)計(jì)數(shù)據(jù)(請參見清單1。清單1. iostat -A命令 所有這些內(nèi)容究竟表示什么呢?avgc:它報(bào)告了在您所指定的時(shí)間間隔內(nèi)平均每秒的全局異步I/O 請求。avfc:它報(bào)告了在您所指定的時(shí)間間隔內(nèi)平均每秒的快速路徑請求計(jì)數(shù)。maxgc:它報(bào)告了從上次獲取該值以來的最大全局異步I/O 請求。maxfc:它報(bào)告了從上次獲取該值以來的最大快速路徑請

15、求計(jì)數(shù)。maxreqs:這是所允許的最大異步I/O 請求。您究竟應(yīng)該配置多大呢?根據(jù)經(jīng)驗(yàn),可以將服務(wù)器的最大數(shù)目設(shè)置為磁盤數(shù)量的十倍或者處理器數(shù)量的十倍。可以將MinServers設(shè)置為這個(gè)數(shù)量的一半。除了使得更多的、幾乎不怎么使用的(使用少量的內(nèi)核內(nèi)存內(nèi)核進(jìn)程掛起之外,將MaxServers設(shè)置得過大,實(shí)際上并沒有什么風(fēng)險(xiǎn),所以不用擔(dān)心提高這個(gè)值。如何完成這項(xiàng)任務(wù)呢?您可以使用命令或者命令: 這也是您在系統(tǒng)中啟用異步I/O 的方法。 請注意,在這項(xiàng)更改生效之前,您必須重新啟動(dòng)。有時(shí)候,我會被問及aio和posixaio之間的區(qū)別。這兩者之間的主要區(qū)別是傳遞不同的參數(shù),所以您的確需要同時(shí)配置它

16、們。最后一個(gè)概念是I/O 處理速率調(diào)整。這是一項(xiàng)AIX 的特性,它可以防止使用大量磁盤I/O 的應(yīng)用程序使得CPU 和磁盤超載。正確地使用磁盤I/O 處理速率調(diào)整,可以幫助防止生成大量輸出的程序使系統(tǒng)的I/O 飽和,并導(dǎo)致系統(tǒng)性能降低。優(yōu)化maxpout 和minpout 可以幫助防止對文件執(zhí)行順序?qū)懭氩僮鞯木€程占用過多的系統(tǒng)資源。通過顯式地將minput 和maxpout 設(shè)置為0 并裝入文件系統(tǒng),您還可以限制設(shè)置全局參 監(jiān)視這個(gè)部分對可用于監(jiān)視磁盤I/O 活動(dòng)的AIX 特定工具(sar、topas 和nmon提供了概述。這些工具都允許您快速地進(jìn)行故障排除,并獲取相關(guān)的數(shù)據(jù)以便進(jìn)行歷史趨勢研

17、究和分析。別期望在這一部分中看到iostat,因?yàn)閕ostat 是一種允許您快速確定物理磁盤和適配器之間是否存在不平衡的I/O 負(fù)載的UNIX 實(shí)用工具。除非您決定使用iostat 編寫自己的腳本工具,否則它無法幫助您分析長期的趨勢和捕獲數(shù)據(jù)。sar 是較早的通用UNIX 工具之一,而這些工具已經(jīng)經(jīng)過了多年的改進(jìn)。盡管我通常喜歡使用更特定的AIX 工具,如topas 或者nmon,但是sar 提供了關(guān)于磁盤I/O 的詳細(xì)信息。讓我們運(yùn)行一個(gè)典型的sar命令以檢查I/O 活動(dòng)(請參見清單2。 讓我們來仔細(xì)研究清單2中的列標(biāo)題。%busy:這個(gè)命令可以報(bào)告該設(shè)備忙于處理傳輸請求的時(shí)間比例。avqu

18、e:在AIX Version 5.3 中,這個(gè)命令可以報(bào)告等待發(fā)送到磁盤的請求的數(shù)量。r+w/s:這個(gè)命令可以報(bào)告從設(shè)備讀取或者向設(shè)備寫入的次數(shù)(以512 個(gè)字節(jié)為單位。avwait:這個(gè)命令可以報(bào)告每個(gè)請求的平均等待時(shí)間(單位為毫秒。avserv:這個(gè)命令可以報(bào)告每個(gè)請求的平均服務(wù)時(shí)間(單位為毫秒。您需要謹(jǐn)防出現(xiàn)任何磁盤的使用率接近百分之百,或者大量的隊(duì)列請求等待磁盤的情況。盡管sar 的輸出表示存在某種活動(dòng),但實(shí)際上并沒有什么I/O 問題,因?yàn)椴淮嬖诘却齀/O 的情況。您需要繼續(xù)監(jiān)視該系統(tǒng)以確保同時(shí)使用了hdisk0 之外的其他磁盤。sar 不同于iostat 的地方在于,它能夠通過它的系

19、統(tǒng)活動(dòng)數(shù)據(jù)收集(sadc 實(shí)用工具,捕獲數(shù)據(jù)以便進(jìn)行長期的分析和趨勢研究。通常在cron 中并沒有開啟這種實(shí)用工具,而它允許您捕獲數(shù)據(jù)進(jìn)行歷史趨勢研究和分析。下面介紹一下它的工作方式。在AIX 系統(tǒng)中,缺省情況下通常有兩個(gè)Shell 腳本被注釋掉了(/usr/lib/sa/sa1 和/usr/lib/sa/sa2,它們提供了有關(guān)系統(tǒng)活動(dòng)的每天的報(bào)告。sar命令實(shí)際上調(diào)用了sadc 例程以訪問系統(tǒng)數(shù)據(jù)(請參見清單3。清單3. 示例cronjob 有沒有對用戶來說更加友好的工具呢?您指的是topas 吧!topas 是一種非常優(yōu)秀的性能監(jiān)視工具,您可以將其用于各種不同的目的,包括(但是不限于您的磁

20、盤I/O 子系統(tǒng)。圖2. topas 下面從磁盤的角度來研究topas 的輸出。其中并沒有發(fā)生什么I/O 活動(dòng)。除了物理磁盤之外,請仔細(xì)觀察“Wait”(在CPU 部分的上部,它也可以幫助確定系統(tǒng)是不是I/O 綁定的。如果您在此處看到較高的數(shù)值,那么您可以使用其他工具,如filemon、fileplace、lsof或lslv,以幫助您確定究竟是哪個(gè)進(jìn)程、適配器或者文件系統(tǒng)導(dǎo)致了瓶頸。當(dāng)您希望獲得比使用iostat 更多的信息時(shí),那么可以使用topas,它適合于對一個(gè)問題進(jìn)行快速故障診斷。從某種意義而言,topas 是iostat 和vmstat 的圖形混合版,經(jīng)過最近的改進(jìn),它現(xiàn)在支持捕獲數(shù)據(jù)

21、以進(jìn)行歷史分析。這些改進(jìn)是在AIX Version 5.3 中完成的,毫無疑問,因?yàn)镮BM 的開發(fā)人員也創(chuàng)建了一種類似的、非常流行的工具,所以IBM 并沒有為這個(gè)工具提供正式的支持。這就是nmon(我最喜歡的AIX 性能工具。盡管nmon 提供了類似于topas 的前端,但是它更適合于長期趨勢研究和分析。而且,它使得系統(tǒng)管理員能夠?qū)?shù)據(jù)輸出到包含非常漂亮的圖表(為高級管理和職能團(tuán)隊(duì)進(jìn)行了修改的Excel 電子表格,其中清楚地說明了您的瓶頸所在。這些工作可以通過一個(gè)稱為nmon 分析程序的工具來完成,它提供了到nmon 的掛鉤。關(guān)于磁盤I/O,nmon 可以報(bào)告下面的數(shù)據(jù):磁盤I/O 速度、數(shù)據(jù)傳輸、讀/寫比例,以及磁盤適配器統(tǒng)計(jì)信息。下面提供了一個(gè)小的示例,其中nmon 確實(shí)發(fā)揮了它的作用。假設(shè)您希望了解哪些進(jìn)程占用了大多數(shù)磁盤I/O,并且您希望能夠?qū)⑵渑c實(shí)際磁盤關(guān)聯(lián)起來,以便清楚地顯示每個(gè)進(jìn)程的I/O?？梢允褂胣mon 獲得詳細(xì)信息,然后使用任何其他工具。要使用nmon 完成這項(xiàng)任務(wù),可以使用-t選項(xiàng);設(shè)置時(shí)間,然后按I/O 通道進(jìn)行排序。您如何使用nmon 來捕獲數(shù)據(jù),并將其導(dǎo)入到該分析程序呢?使用sudo命令,并讓nmon 運(yùn)行3 個(gè)小時(shí),每30 秒鐘進(jìn)行一次快照: 在完成了該任務(wù)之后,將這個(gè) .csv