項(xiàng)目4 MPI—面向計(jì)算集群技術(shù)

1、項(xiàng)目四 MPI面向計(jì)算的集群技術(shù)項(xiàng)目內(nèi)容：4.1實(shí)訓(xùn)一 配置ssh實(shí)現(xiàn)節(jié)點(diǎn)間無密碼訪問4.2實(shí)訓(xùn)二 網(wǎng)絡(luò)文件系統(tǒng)NFS4.3實(shí)訓(xùn)三 mpich編譯安裝4.1實(shí)訓(xùn)一 配置ssh實(shí)現(xiàn)節(jié)點(diǎn)間無密碼訪問4.1.1實(shí)訓(xùn)內(nèi)容由于MPI并行程序需要在各節(jié)點(diǎn)間進(jìn)行信息傳遞，所以必須實(shí)現(xiàn)所有節(jié)點(diǎn)兩兩之間能無密碼訪問。節(jié)點(diǎn)間的無密碼訪問是通過配置ssh證書認(rèn)證來實(shí)現(xiàn)的。配置ssh是集群系統(tǒng)配置的常用操作，MPI、Hadoop等系統(tǒng)均需配置ssh。本實(shí)訓(xùn)要求配置ssh實(shí)現(xiàn)MPI節(jié)點(diǎn)間無密碼訪問。4.1.2實(shí)訓(xùn)目的1、了解非對稱加密算法；2、了解數(shù)字證書的作用；3、掌握ssh的使用；4、掌握ssh無密碼訪問配置。4.

2、1.3實(shí)訓(xùn)步驟本實(shí)訓(xùn)采用四個(gè)節(jié)點(diǎn)機(jī)組成集群進(jìn)行環(huán)境搭建，每個(gè)節(jié)點(diǎn)機(jī)上安裝Linux操作系統(tǒng)，本例子中Linux版本采用的是CentOS6.5（64位）。為每個(gè)節(jié)點(diǎn)機(jī)分配好IP地址，本節(jié)點(diǎn)機(jī)使用的IP地址分別為：11、12、13、14，對應(yīng)節(jié)點(diǎn)主機(jī)名為：node1、node2、node3、node4。步驟1：創(chuàng)建用戶，在四臺(tái)節(jié)點(diǎn)機(jī)分別創(chuàng)建用戶mpi，uid=600，設(shè)置mpi用戶無密碼相互訪問，密碼分別為mpi1111,mpi2222,mpi3333,mpi4444。操作命令如下：步驟2：生產(chǎn)證書，打

3、開node1節(jié)點(diǎn)機(jī)，以用戶mpi登錄。操作命令如下：或者以root登錄后使用命令su 切換到mpi用戶。操作命令如下：步驟3：使用ssh-keygen生成證書密鑰，證書密鑰有兩種算法：dsa和rsa。操作命令如下：執(zhí)行后，顯示如下信息，按回車就可以。操作信息如下：步驟4：使用ssh-copy-id分別拷貝證書公鑰到node1，node2，node3，node4節(jié)點(diǎn)機(jī)上。操作命令如下：第一次拷貝需要輸入“yes”；再輸入密碼后拷貝，下面是拷貝公鑰到節(jié)點(diǎn)機(jī)node1的提示信息。步驟5：分別使用ssh登錄node1、node2、node3、node4測試，測試ssh無密碼登錄node1和node2。

4、操作命令如下：步驟6：使用scp分別拷貝證書私鑰到node2，node3，node4節(jié)點(diǎn)機(jī)上，實(shí)現(xiàn)相互無密碼登錄。操作命令如下：步驟7：測試相互登錄，在node2節(jié)點(diǎn)機(jī)上測試ssh登錄node3節(jié)點(diǎn)機(jī)，第一次等需要輸入“yes”，其他測試相同。如下所示：第二次登錄不需要輸入“yes”。退出使用命令：exit 或 按 CTRL+D 或 logout 。至此，ssh無密碼相互登錄配置成功。4.2實(shí)訓(xùn)二 網(wǎng)絡(luò)文件系統(tǒng)NFS4.2.1實(shí)訓(xùn)內(nèi)容 由于MPICH的安裝目錄和用戶可執(zhí)行程序在并行計(jì)算時(shí)需要在所有節(jié)點(diǎn)存副本，而且目錄要相互對應(yīng)，每次一個(gè)節(jié)點(diǎn)一個(gè)節(jié)點(diǎn)地復(fù)制非常麻煩，采用NFS（Netword F

5、ile Systom，網(wǎng)絡(luò)文件系統(tǒng)）后可以實(shí)現(xiàn)所有節(jié)點(diǎn)內(nèi)容與主節(jié)點(diǎn)內(nèi)容同步更新，并自動(dòng)實(shí)現(xiàn)目錄的對應(yīng)。NFS使得所有機(jī)器都能以同樣的路徑（假設(shè)為/home/mpi）訪問服務(wù)器上保存的文件，訪問方法如同對本地文件的訪問。這對于部分采用MPI進(jìn)行并行計(jì)算的用戶來說可能是必須的，通常我們會(huì)將MPICH的安裝目錄及并行程序存放目錄配置為NFS共享目錄，這樣可以省去將文件向各個(gè)節(jié)點(diǎn)復(fù)制的麻煩，大大提高工作效率。 本實(shí)訓(xùn)完成NFS安裝配置與掛載，節(jié)點(diǎn)機(jī)node1設(shè)為NFS服務(wù)器，設(shè)置共享目錄/home/mpi，可讀寫。節(jié)點(diǎn)機(jī)node2、node3、node4為客戶機(jī)，共享NFS服務(wù)。4.2.2實(shí)訓(xùn)目的1、

6、了解NFS服務(wù)器的基本概念；2、掌握NFS服務(wù)器的配置方法；3、掌握NFS服務(wù)器的訪問。4.2.3實(shí)訓(xùn)步驟步驟1：檢查系統(tǒng)是否安裝nfs-utils和rpcbind兩軟件包，下面表示系統(tǒng)已經(jīng)安裝了軟件包。操作命令如下：如果沒有安裝，則安裝命令如下：步驟2：編輯配置文件“/etc/exports”。操作命令如下： 編輯內(nèi)容如下：rw表示讀寫，sync表示同步操作，no_all_squash表示遠(yuǎn)程普通用戶不映射到nfsnobody。步驟3：啟動(dòng)rpcbind服務(wù)和nfs服務(wù)。如果服務(wù)已經(jīng)啟動(dòng)，則不提示信息。操作命令如下：如果服務(wù)原先沒啟動(dòng)，則顯示內(nèi)容如下：步驟4：使用exportfs命令，對NF

7、S服務(wù)進(jìn)行一些操作。1）輸出所有目錄。操作命令如下：2）重新輸出共享目錄。操作命令如下：3）停止輸出所有共享目錄。操作命令如下：步驟5： 查看NFS服務(wù)器共享。1）查看共享目錄。操作命令如下：2）查看客戶機(jī)或IP地址及其在主機(jī)中的目錄。操作命令如下：步驟6：分別在node2，node3，node4節(jié)點(diǎn)機(jī)上掛載nfs共享目錄，參數(shù)“-t nfs”可以省略。操作命令如下：步驟7：測試NFS寫操作。1）在node4節(jié)點(diǎn)機(jī)上寫文件和列文件操作。操作命令如下：2）在node1節(jié)點(diǎn)機(jī)上檢查文件是否存在。操作命令如下：至此，NFS共享設(shè)置成功。4.3實(shí)訓(xùn)三 mpich編譯安裝4.3.1實(shí)訓(xùn)內(nèi)容 MPICH是

8、MPI（Message-Passing Interface）的一個(gè)應(yīng)用實(shí)現(xiàn)，是用于并行運(yùn)算的工具。因特網(wǎng)提供開源代碼下載，需要相應(yīng)的編譯包編譯，需要安裝GNU編譯器套件（GNU Compiler Collection），gcc包括C、C+、Objective-C、Fortran、Java、Ada和Go語言的前端，也包括了這些語言的庫（如libstdc+、libgcj等等）。 本實(shí)訓(xùn)主要完成開發(fā)包的安裝、mpich的編譯、安裝和運(yùn)行，使用的mpich為mpich-3.1.3（stable release）版本。4.3.2實(shí)訓(xùn)目的1、掌握開發(fā)工具的安裝；2、掌握mpich的編譯與安裝；3、掌握mp

9、ich的測試與運(yùn)行。4.3.3實(shí)訓(xùn)步驟分別在node1、node2、node3、node4節(jié)點(diǎn)機(jī)上安裝開發(fā)工具。步驟1：安裝開發(fā)包，本實(shí)訓(xùn)使用CentOS系統(tǒng)光盤/ISO安裝。1）安裝gcc開發(fā)包。操作命令如下：2）安裝gcc-c+開發(fā)包。操作命令如下：3）安裝gcc-gfortran開發(fā)包。操作命令如下：4）安裝Java-1.7.0開發(fā)包。操作命令如下：Java-1.7.0默認(rèn)的工作目錄為：/usr/lib/jvm/java-1.7.0。 另外，如果連上因特網(wǎng)，則開發(fā)包可以使用yum安裝。安裝命令如下：步驟2：MPICH下載地址為：/static/dow

10、nloads/3.1.3/mpich-3.1.3.tar.gz。如果在Windows系統(tǒng)下載，可以使用WinSCP或FlashFXP上傳mpich-3.1.3.tar.gz軟件包到node1節(jié)點(diǎn)機(jī)的root目錄下。WINSCP上傳文件操作如下。1）打開WinSCP，輸入主機(jī)名或IP地址和用戶名密碼登錄。2）登錄后進(jìn)入操作界面，直接把mpich-3.1.3.tar.gz拖到右邊窗口即可。FlashFXP上傳文件操作如下。1）打開FlashFXP，單擊“快速連接”圖標(biāo)，選擇連接類型，輸入IP地址，用戶名密碼。2）連接上后，直接把mpich-3.1.3.tar.gz拖到右上側(cè)窗口。3）如果右邊Lin

11、ux窗口漢字出現(xiàn)亂碼，則是漢字編碼問題，直接單擊“站點(diǎn)站點(diǎn)管理”，字符編碼改為UTF-8即可。步驟3：解壓mpich壓縮包。操作命令如下：步驟4：進(jìn)入MPICH解壓后的目錄，執(zhí)行配置操作。操作命令如下： 配置主要的作用是對即將安裝的軟件進(jìn)行配置，檢查當(dāng)前的環(huán)境是否滿足要安裝軟件的依賴關(guān)系。參數(shù)：-prefix=PREFIX 表示把所有文件裝在目錄PREFIX下而不是默認(rèn)目錄下。本系統(tǒng)安裝目錄為/home/mpi。配置時(shí)間較長，請稍等，配置成功后，則最后一行提示顯示“Configuration completed”。步驟5：執(zhí)行make指令進(jìn)行編譯，編譯時(shí)間較長。操作命令如下：編譯后，最后顯示信息如下：步驟6：執(zhí)行make install進(jìn)行安裝。操作命令如下：安裝后，最后顯示信息所示：步驟7：復(fù)制測試?yán)拥?home/mpi目錄下。操作命令如下：步驟8：修改/home/mpi文件的用戶/組屬性。操作命令如下：步驟9：運(yùn)行examples中自帶的一個(gè)簡單的測試程序cpi。1）登錄node1節(jié)點(diǎn)機(jī)