PBS實(shí)驗(yàn)指導(dǎo)書

1、PBS實(shí)驗(yàn)指導(dǎo)書1. PBS簡(jiǎn)介PBS(Portable Batch System)最初由 NASA 的 Ames 研究中心開發(fā)，目的是提供一個(gè)能滿足異構(gòu)計(jì)算網(wǎng)絡(luò)需要的軟件 包，特別是滿足高性能計(jì)算的需要。它力求提供對(duì)批處理的 初始化和調(diào)度執(zhí)行的控制，允許作業(yè)在不同主機(jī)間路由。PBS 獨(dú)立的調(diào)度模塊允許系統(tǒng)管理員定義資源和每個(gè)作業(yè)可使 用的數(shù)量。調(diào)度模塊存有各個(gè)可用的排隊(duì)作業(yè)、運(yùn)行作業(yè)和 系統(tǒng)資源使用狀況信息，系統(tǒng)管理員可以使用PBS提供的TCL、BACL、C過程語言。PBS的調(diào)度策略可以很容易被 修改，以適應(yīng)不同的計(jì)算需要和目標(biāo)。 PBS的結(jié)構(gòu)及功能。PBS主要由4個(gè)部分組成：控 制臺(tái)、服務(wù)

2、進(jìn)程、調(diào)度進(jìn)程和執(zhí)行進(jìn)程。控制臺(tái)實(shí)質(zhì)上由一 系列PBS提供的命令構(gòu)成，PBS同時(shí)還提供了圖形化界面 XPBS，實(shí)現(xiàn)了圖形界面與PBS命令的映射：服務(wù)進(jìn)程即pbs_server (簡(jiǎn)稱server)，是PBS運(yùn)行的核心，它集中控制 整個(gè)集群上的作業(yè)運(yùn)作。調(diào)度進(jìn)程即pbs_sched,它包含了作業(yè)運(yùn)行及運(yùn)行地點(diǎn)和時(shí)間的站點(diǎn)控制策略。執(zhí)行進(jìn)程即 pbs_mom，實(shí)際上由它產(chǎn)生所有正在執(zhí)行的作業(yè)。 調(diào)度策略。PBS為了調(diào)度那些應(yīng)該放在執(zhí)行隊(duì)列的 作業(yè)，提供了一個(gè)單獨(dú)的進(jìn)程。這是一個(gè)靈活的機(jī)制，可以實(shí)現(xiàn)大量的策略。這個(gè)調(diào)度程序使用標(biāo)準(zhǔn)的PBS API來和服務(wù)器通信，使用一個(gè)額外的 API來和PBS執(zhí)行進(jìn)

3、程通信。通 過使用一些額外提供的 API，可以增強(qiáng)調(diào)度的策略，進(jìn)而實(shí) 現(xiàn)一個(gè)可替換的調(diào)度程序。第一代批處理系統(tǒng)和許多其他的 批處理系統(tǒng)都使用大量基于限制作業(yè)或控制調(diào)度作業(yè)的隊(duì) 列。為了按照時(shí)間來控制作業(yè)的排序，隊(duì)列會(huì)被打開或關(guān)閉，或者限制載隊(duì)列里運(yùn)行作業(yè)的數(shù)量；而PBS支持多重隊(duì)列，并且這些隊(duì)列有很多其他批處理系統(tǒng)所使用的作業(yè)調(diào)度屬 性，PBS服務(wù)器本身并不運(yùn)行作業(yè)，也不添加任何限制，這 些都是由隊(duì)列屬性實(shí)現(xiàn)的。事實(shí)上，調(diào)度程序僅僅擁有不超 過一個(gè)有管理員特權(quán)的客戶端。控制調(diào)度的服務(wù)器和隊(duì)列屬性可以通過擁有特權(quán)的客戶 端來調(diào)整，這些特權(quán)命令是qmgr。然而，這些控制通常駐留 在調(diào)度程序上，而不

4、是服務(wù)器上。這些調(diào)度程序必須檢查服 務(wù)器、隊(duì)列和作業(yè)的狀態(tài)，決定服務(wù)器和隊(duì)列屬性的設(shè)置。 在之后的決策中，調(diào)度程序必須使用這些設(shè)置。另一個(gè)方法就是whole pool方法，所有的作業(yè)都放在一 個(gè)單獨(dú)的隊(duì)列中，調(diào)度程序評(píng)估每個(gè)作業(yè)的特點(diǎn)并且決定運(yùn) 行哪一個(gè)作業(yè)。這些策略能很容易地包括一些因素，如每天 的運(yùn)行時(shí)間、系統(tǒng)的裝載、作業(yè)的大小等。隊(duì)列里作業(yè)的順 序不需要被考慮。這個(gè)方法的主要優(yōu)勢(shì)在于用戶可以根據(jù)自 己的主要需求來產(chǎn)生策略，通過調(diào)度，使當(dāng)前的作業(yè)更好地 適應(yīng)當(dāng)前可用的資源。 PBS系統(tǒng)中的作業(yè)執(zhí)行。PBS系統(tǒng)中的作業(yè)執(zhí)行主 要依靠服務(wù)進(jìn)程、調(diào)度進(jìn)程、執(zhí)行進(jìn)程等部分，如圖3-1，簡(jiǎn)單的執(zhí)行過

5、程如下。a. 由客戶產(chǎn)生事件，時(shí)間通知服務(wù)進(jìn)程開始一個(gè)調(diào)度周期；b. 服務(wù)進(jìn)程發(fā)送一個(gè)調(diào)度命令給作業(yè)調(diào)度器；c. 作業(yè)調(diào)度器向執(zhí)行過程請(qǐng)求可利用的資源信息；d. 執(zhí)行做成返回給作業(yè)調(diào)度器一個(gè)資源信息；e. 得到資源信息后，調(diào)度器向服務(wù)進(jìn)程請(qǐng)求作業(yè)信息；f. 服務(wù)進(jìn)程接受請(qǐng)求，并發(fā)送作業(yè)信息至作業(yè)調(diào)度器，產(chǎn)生執(zhí)行作業(yè)的策略；g. 作業(yè)調(diào)度器發(fā)送執(zhí)行作業(yè)請(qǐng)求至服務(wù)進(jìn)程；h. 服務(wù)進(jìn)程接受請(qǐng)求后，發(fā)送作業(yè)至執(zhí)行進(jìn)程執(zhí)行作業(yè)。圖3-1 PBS的執(zhí)行過程主機(jī)巴執(zhí)行主機(jī)2. PBS的安裝Linux的tarball安裝方PBS的安裝應(yīng)該說是一個(gè)標(biāo)準(zhǔn)的 式。安裝過程主要有如下幾個(gè)步驟。 下載PBS的源碼包。

6、解壓縮軟件包。 進(jìn)入相應(yīng)的目錄，配置、編譯#cd SPBS-1.0.0$./configure -docs -disable-gui$make #make install其中，選項(xiàng)-enable-docs指定要編譯文檔，選項(xiàng)-disable-gui指定去掉圖形界面； 選項(xiàng)-enable-scp，先使用scp 命令，再使用rcp命令進(jìn)行數(shù)據(jù)的復(fù)制。默認(rèn)情況下，PBS會(huì)安裝在.usr/spoole/PBS目錄下，該目 錄在./configure 的時(shí)候指定 -prefix。3. PBS的配置1）配置 server_name編輯所有的節(jié)點(diǎn)的$PBS_HOME/server_name，在里面寫入選定的

7、 server的主機(jī)名，例如： manager2）配置管理節(jié)點(diǎn)在 manager 的 $PBS_HOME/server_priv 目錄下建立 nodes 文件。#touch nodes在nodes文件寫入所有 mom節(jié)點(diǎn)的名稱。bc1n1 np = 4bc1n2 叩=4bc1n14 np = 4 該節(jié)點(diǎn)最多可以同時(shí)運(yùn)行多少個(gè)任務(wù)。3）配置計(jì)算節(jié)點(diǎn)為了使計(jì)算節(jié)點(diǎn)接受管理節(jié)點(diǎn)的控制，需編輯每個(gè)計(jì)算節(jié)點(diǎn)$PBS_HOME/mom_priv目錄下的config文件，寫入如下信息。$logevent 0x1ff$clienthost manager$logevent用于指定日志的級(jí)別，使用默認(rèn)值就可以了

8、，$clienthost為指定server的地址。4. PBS的作業(yè)管理PBS安裝配置完畢后需啟動(dòng)服務(wù)，可以手動(dòng)執(zhí)行啟動(dòng)，也可以載rc.local文件中加入啟動(dòng)腳本， 最好按mom、server、 sched的順序啟動(dòng)命令，具體如下。#/usr/local/sbin/pbs_mom# /usr/local/sbin/pbs_server -t create#/usr/local/sbin /pbs_sched其中-t create在第一次啟動(dòng)的時(shí)候要用，用于創(chuàng)建一些初始化必要的環(huán)境，以后啟動(dòng)就不再需要了。接下來要?jiǎng)?chuàng)建作業(yè)隊(duì)列，PBS中的隊(duì)列分為兩種類型，即執(zhí)行隊(duì)列和路由隊(duì)列，下面是一個(gè)創(chuàng)建隊(duì)列

9、的腳本。# Create and define queue verylong#create queue verylongset queue verylong queue_type = Executionset queue verylong Priority = 40set queue verylong max_running = 10set queue verylong resources_max.cput = 72:00:00set queue verylong resources_min.cput = 12:00:01set queue verylong resources_default

10、.cput = 72:00:00set queue verylong enabled = Trueset queue verylong started = True# Create and define queue long#Create queue longset queue long queue_type = Executionset queue long Priority = 60set queue long max_running = 10set queue long resources_max.cput = 12:00:00set queue long resources_min.c

11、put = 02:00:01set queue long resources_default.cput = 12:00:00set queue long enabled = Trueset queue long started = True# Create and define queue medium#create queue mediumset queue medium queue_type = Executionset queue medium Priority = 80set queue medium max_running = 10set queue medium resources_max.cput = 02:00:00set queue medium resources_min.cput = 00:20:01set queue medium resources_default.cput = 02:00:00set queue medium enabled = Trueset queue medium started = True# Create and