PBS實驗指導書

1、PBS實驗指導書1. PBS簡介PBS(Portable Batch System)最初由 NASA 的 Ames 研究中心開發(fā)，目的是提供一個能滿足異構(gòu)計算網(wǎng)絡需要的軟件 包，特別是滿足高性能計算的需要。它力求提供對批處理的 初始化和調(diào)度執(zhí)行的控制，允許作業(yè)在不同主機間路由。PBS 獨立的調(diào)度模塊允許系統(tǒng)管理員定義資源和每個作業(yè)可使 用的數(shù)量。調(diào)度模塊存有各個可用的排隊作業(yè)、運行作業(yè)和 系統(tǒng)資源使用狀況信息，系統(tǒng)管理員可以使用PBS提供的TCL、BACL、C過程語言。PBS的調(diào)度策略可以很容易被 修改，以適應不同的計算需要和目標。 PBS的結(jié)構(gòu)及功能。PBS主要由4個部分組成：控 制臺、服務

2、進程、調(diào)度進程和執(zhí)行進程?？刂婆_實質(zhì)上由一 系列PBS提供的命令構(gòu)成，PBS同時還提供了圖形化界面 XPBS，實現(xiàn)了圖形界面與PBS命令的映射：服務進程即pbs_server (簡稱server)，是PBS運行的核心，它集中控制 整個集群上的作業(yè)運作。調(diào)度進程即pbs_sched,它包含了作業(yè)運行及運行地點和時間的站點控制策略。執(zhí)行進程即 pbs_mom，實際上由它產(chǎn)生所有正在執(zhí)行的作業(yè)。 調(diào)度策略。PBS為了調(diào)度那些應該放在執(zhí)行隊列的 作業(yè)，提供了一個單獨的進程。這是一個靈活的機制，可以實現(xiàn)大量的策略。這個調(diào)度程序使用標準的PBS API來和服務器通信，使用一個額外的 API來和PBS執(zhí)行進

3、程通信。通 過使用一些額外提供的 API，可以增強調(diào)度的策略，進而實 現(xiàn)一個可替換的調(diào)度程序。第一代批處理系統(tǒng)和許多其他的 批處理系統(tǒng)都使用大量基于限制作業(yè)或控制調(diào)度作業(yè)的隊 列。為了按照時間來控制作業(yè)的排序，隊列會被打開或關閉，或者限制載隊列里運行作業(yè)的數(shù)量；而PBS支持多重隊列，并且這些隊列有很多其他批處理系統(tǒng)所使用的作業(yè)調(diào)度屬 性，PBS服務器本身并不運行作業(yè)，也不添加任何限制，這 些都是由隊列屬性實現(xiàn)的。事實上，調(diào)度程序僅僅擁有不超 過一個有管理員特權的客戶端。控制調(diào)度的服務器和隊列屬性可以通過擁有特權的客戶 端來調(diào)整，這些特權命令是qmgr。然而，這些控制通常駐留 在調(diào)度程序上，而不

4、是服務器上。這些調(diào)度程序必須檢查服 務器、隊列和作業(yè)的狀態(tài)，決定服務器和隊列屬性的設置。 在之后的決策中，調(diào)度程序必須使用這些設置。另一個方法就是whole pool方法，所有的作業(yè)都放在一 個單獨的隊列中，調(diào)度程序評估每個作業(yè)的特點并且決定運 行哪一個作業(yè)。這些策略能很容易地包括一些因素，如每天 的運行時間、系統(tǒng)的裝載、作業(yè)的大小等。隊列里作業(yè)的順 序不需要被考慮。這個方法的主要優(yōu)勢在于用戶可以根據(jù)自 己的主要需求來產(chǎn)生策略，通過調(diào)度，使當前的作業(yè)更好地 適應當前可用的資源。 PBS系統(tǒng)中的作業(yè)執(zhí)行。PBS系統(tǒng)中的作業(yè)執(zhí)行主 要依靠服務進程、調(diào)度進程、執(zhí)行進程等部分，如圖3-1，簡單的執(zhí)行過

5、程如下。a. 由客戶產(chǎn)生事件，時間通知服務進程開始一個調(diào)度周期；b. 服務進程發(fā)送一個調(diào)度命令給作業(yè)調(diào)度器；c. 作業(yè)調(diào)度器向執(zhí)行過程請求可利用的資源信息；d. 執(zhí)行做成返回給作業(yè)調(diào)度器一個資源信息；e. 得到資源信息后，調(diào)度器向服務進程請求作業(yè)信息；f. 服務進程接受請求，并發(fā)送作業(yè)信息至作業(yè)調(diào)度器，產(chǎn)生執(zhí)行作業(yè)的策略；g. 作業(yè)調(diào)度器發(fā)送執(zhí)行作業(yè)請求至服務進程；h. 服務進程接受請求后，發(fā)送作業(yè)至執(zhí)行進程執(zhí)行作業(yè)。圖3-1 PBS的執(zhí)行過程主機巴執(zhí)行主機2. PBS的安裝Linux的tarball安裝方PBS的安裝應該說是一個標準的 式。安裝過程主要有如下幾個步驟。 下載PBS的源碼包。

6、解壓縮軟件包。 進入相應的目錄，配置、編譯#cd SPBS-1.0.0$./configure -docs -disable-gui$make #make install其中，選項-enable-docs指定要編譯文檔，選項-disable-gui指定去掉圖形界面； 選項-enable-scp，先使用scp 命令，再使用rcp命令進行數(shù)據(jù)的復制。默認情況下，PBS會安裝在.usr/spoole/PBS目錄下，該目 錄在./configure 的時候指定 -prefix。3. PBS的配置1）配置 server_name編輯所有的節(jié)點的$PBS_HOME/server_name，在里面寫入選定的

7、 server的主機名，例如： manager2）配置管理節(jié)點在 manager 的 $PBS_HOME/server_priv 目錄下建立 nodes 文件。#touch nodes在nodes文件寫入所有 mom節(jié)點的名稱。bc1n1 np = 4bc1n2 叩=4bc1n14 np = 4 該節(jié)點最多可以同時運行多少個任務。3）配置計算節(jié)點為了使計算節(jié)點接受管理節(jié)點的控制，需編輯每個計算節(jié)點$PBS_HOME/mom_priv目錄下的config文件，寫入如下信息。$logevent 0x1ff$clienthost manager$logevent用于指定日志的級別，使用默認值就可以了

8、，$clienthost為指定server的地址。4. PBS的作業(yè)管理PBS安裝配置完畢后需啟動服務，可以手動執(zhí)行啟動，也可以載rc.local文件中加入啟動腳本， 最好按mom、server、 sched的順序啟動命令，具體如下。#/usr/local/sbin/pbs_mom# /usr/local/sbin/pbs_server -t create#/usr/local/sbin /pbs_sched其中-t create在第一次啟動的時候要用，用于創(chuàng)建一些初始化必要的環(huán)境，以后啟動就不再需要了。接下來要創(chuàng)建作業(yè)隊列，PBS中的隊列分為兩種類型，即執(zhí)行隊列和路由隊列，下面是一個創(chuàng)建隊列

9、的腳本。# Create and define queue verylong#create queue verylongset queue verylong queue_type = Executionset queue verylong Priority = 40set queue verylong max_running = 10set queue verylong resources_max.cput = 72:00:00set queue verylong resources_min.cput = 12:00:01set queue verylong resources_default

10、.cput = 72:00:00set queue verylong enabled = Trueset queue verylong started = True# Create and define queue long#Create queue longset queue long queue_type = Executionset queue long Priority = 60set queue long max_running = 10set queue long resources_max.cput = 12:00:00set queue long resources_min.c

11、put = 02:00:01set queue long resources_default.cput = 12:00:00set queue long enabled = Trueset queue long started = True# Create and define queue medium#create queue mediumset queue medium queue_type = Executionset queue medium Priority = 80set queue medium max_running = 10set queue medium resources_max.cput = 02:00:00set queue medium resources_min.cput = 00:20:01set queue medium resources_default.cput = 02:00:00set queue medium enabled = Trueset queue medium started = True# Create and