2.1-第六章向量處理機ppt課件

1、n向量處理機是解決數(shù)值計算問題的一種高性能計算機結(jié)構(gòu)n向量處理機一般都采用流水線結(jié)構(gòu)，有多條流水線并行工作n向量處理機通常屬大型或巨型機，也可以用微機加一臺向量協(xié)處理器組成n一般向量計算機中包括有一臺高性能標(biāo)量處理機n必須把要解決的問題轉(zhuǎn)化為向量運算，向量處理機才能充分發(fā)揮作用6.1 向量處理的基本概念向量處理的基本概念n什么是向量處理什么是向量處理n 例如：一個簡單的例如：一個簡單的C語言程序如語言程序如下：下：for (i = 1; i N ) GOTO 20 read bI read cI add bI+cI store aIbI+cI read aI+1 multiply 2*aI+1

2、 store bI 2*aI+1 increment I I+1 goto 10Stop常量常量2 2，a,b,ca,b,c中每中每一個元素都稱為一一個元素都稱為一個標(biāo)量。該指令序個標(biāo)量。該指令序列稱為標(biāo)量指令序列稱為標(biāo)量指令序列，執(zhí)行過程為標(biāo)列，執(zhí)行過程為標(biāo)量處理過程，每一量處理過程，每一條指令只處理一個條指令只處理一個或一對數(shù)據(jù)?；蛞粚?shù)據(jù)。n上述程序用向量化指令序列實現(xiàn)為：n a1:n=b1:n+c1:nn temp1:n=a2:n+1n b1:n=2*temp1:nn 將n個獨立的數(shù)構(gòu)成的整體稱為向量，對這一組數(shù)的運算稱為向量處理。一條向量處理指令可以處理n個或n對操作數(shù)。向量處理方式

3、要根據(jù)向量運算的特點和向量處理機的類型選擇向量的處理方式。有三種處理方式：1橫向處理方式，又稱為水平處理方式，橫向加工方式等。向量計算是按行的方式從左至右橫向地進(jìn)行。2縱向處理方式，又稱為垂直處理方式，縱向加工方式等。向量計算是按列的方式自上而下縱向地進(jìn)行。3縱橫處理方式，又稱為分組處理方式，縱橫向加工方式等。橫向處理和縱向處理相結(jié)合的方式。 以一個簡單的C語言編寫的程序為例，說明向量的三種處理方式的工作原理。for (i = 1；i = n；i+)yi = ai ( bi + ci );n橫向處理方式n 也稱為水平處理方式，橫向加工方式等逐個分量進(jìn)行處理：假設(shè)中間結(jié)果為TI計算第1個分量：

4、T1 B1C1 Y1 A1T1計算第2個分量： T2 B2C2 Y2 A2T2最后一個分量： TN BNCN YNANTNn存在兩個問題：在計算向量的每個分量時，都發(fā)生寫讀數(shù)據(jù)相關(guān)。流水線效率低如果采用多功能流水線，必須頻繁進(jìn)行流水線切換n橫向處理方式對向量處理機不適合即使在標(biāo)量處理機中，也經(jīng)常通過編譯器進(jìn)行指令流調(diào)度。n縱向處理n也稱為垂直處理方式，縱向加工方式等T1 = B1 + C1T2 = B2 + C2Tn = Bn + CnY1 = A1T1Y2 = A2T2YN = AN TNn采用向量指令只需要2條：VADDB， C， TVMULA， T， Yn這種處理方式適用于向量處理機，數(shù)

5、據(jù)相關(guān)不影響流水線連續(xù)工作。不同的運算操作只需要切換1次。n縱橫處理方式n 將長度為n的向量分成若干組，每組長度為m，組內(nèi)按縱向方式處理，依次處理各組。n用于寄存器-寄存器結(jié)構(gòu)的向量處理機中向量寄存器的長度是有限的，例如，每個向量寄存器有64個寄存器。當(dāng)向量長度N大于向量寄存器長度n時，需要分組處理。n分組方法：nm，其中：為余數(shù)，共分組。組內(nèi)采用縱向處理方式，組間采用橫向處理方式。因而，也稱為分組處理方式，縱橫向加工方式等。6.2 向量處理機結(jié)構(gòu)n向量處理機的基本思想是把兩個向量的對應(yīng)分量進(jìn)行運算，產(chǎn)生一個結(jié)果向量。最關(guān)鍵問題是存儲器系統(tǒng)能夠滿足運算部件帶寬的要求。n主要采用兩種方法：1.

6、存儲器存儲器結(jié)構(gòu)多個獨立的存儲器模塊并行工作處理機結(jié)構(gòu)簡單，對存儲系統(tǒng)的訪問速度要求很高2. 寄存器寄存器結(jié)構(gòu)運算通過向量寄存器進(jìn)行需要大量高速寄存器，對存儲系統(tǒng)訪問速度的要求降低存儲器存儲器結(jié)構(gòu)存儲器存儲器結(jié)構(gòu)n下圖說明一個具有8個存儲體的向量處理機： MMMMMMMM流水結(jié)構(gòu)加法器ABC=A+B三條互相獨立的數(shù)據(jù)通路，可并行工作，同一個存儲模塊同時只能為一個通路服務(wù)n向量處理示例1：求C=A+B，設(shè)A、B、C的存儲形式如圖：C4B6A0C5B7A1C6B0A2C7B1A3C0B2A4C2B3A5C3B4A6C4B5A7模塊0模塊1模塊2模塊3模塊4模塊5模塊6模塊7A、B、C在主存儲器中的

7、存放情況流水段1流水段2流水段3流水段4W4W4RB6RB6RA0RA0W5W5RB7RB7RA1RA1W6RA2RA2RB0RB0RA3RA3RB1RB1W0W0RA4RA4RB2RB2W1W1RA5RA5RB3RB3W2W2RA6RA6RB4RB4W3W3RA7RA7RB5RB576543210765432107654321076543210M0M1M2M3M4M5M6M70 1 2 3 4 5 6 7 8 9 10 11 12兩個向量在流水線方式下分量相加的時序圖時間時鐘周期）n在流水線的輸入端和輸出端增加緩沖器可以消除爭用存儲器現(xiàn)象?？勺冄舆t器可變延遲器可變延遲器可變延遲器主存主存儲器

8、儲器流水結(jié)流水結(jié)構(gòu)加法構(gòu)加法器器ABC延遲4個時鐘周期延遲2個時鐘周期W0RB8RB8RA8RA8RB0RB0RA0RA0RB8RB8RA8RA8RB1RB1RA1RA1RB8RA8RA8RB2RB2RA2RA2 RA8RA8RB3RB3RA3RA3 RA8RB4RB4RA4RA4RB5RB5RA5RA5 RB6RB6RA6RA6RB7RB7RA7RA776543210765432106543210543210M0M1M2M3M4M5M6M70 1 2 3 4 5 6 7 8 9 10 11 12流水段1流水段2流水段3流水段4存儲器發(fā)生沖突時兩個向量相加的時序圖寄存器寄存器- -寄存器結(jié)構(gòu)寄

9、存器結(jié)構(gòu)n把存儲器-存儲器結(jié)構(gòu)中的緩沖棧改為向量寄存器，運算部件需要的操作數(shù)從向量寄存器中讀取，運算的中間結(jié)果也寫到向量寄存器中。n向量寄存器與標(biāo)量寄存器的主要差別是：一個向量寄存器能夠保存一個向量，例如：64個64位寄存器。連續(xù)訪問一個向量的各個分量。n需要有標(biāo)量寄存器和地址寄存器等。n采用寄存器-寄存器結(jié)構(gòu)的主要優(yōu)點：降低主存儲器的流量。例如：采用寄存器-寄存器結(jié)構(gòu)的CRAY-1與采用存儲器-存儲器結(jié)構(gòu)的STAR-100比較，運算速度高3倍多，而主存流量低2.5倍。nSTAR-100的主存儲器流量：328W/1.28us=200MW/SCRAY-1的主存儲器流量： 4W/50ns=80MW

10、/S8個向量寄存器86464主存儲器8MB64個個體12個流水線結(jié)構(gòu)的運算部件緩沖寄存器6464標(biāo)量寄存器864緩沖寄存器6424地址寄存器824指令緩沖寄存器25616CRAY-1向量處理機結(jié)構(gòu)q向量處理機系統(tǒng)結(jié)構(gòu)的設(shè)計目標(biāo)向量處理機系統(tǒng)結(jié)構(gòu)的設(shè)計目標(biāo) 提高向量處理機性能的常用技術(shù)提高向量處理機性能的常用技術(shù)6.3 6.3 提高向量處理機性能的辦法提高向量處理機性能的辦法向量處理機系統(tǒng)結(jié)構(gòu)的設(shè)計目標(biāo)向量處理機系統(tǒng)結(jié)構(gòu)的設(shè)計目標(biāo)n較好地維持向量較好地維持向量/ /標(biāo)量性能平衡標(biāo)量性能平衡n 向量平衡點向量平衡點vector balance vector balance point)point)

11、定義為：為了使向量硬件設(shè)備和定義為：為了使向量硬件設(shè)備和標(biāo)量硬件設(shè)備的利用率相等，一個程序標(biāo)量硬件設(shè)備的利用率相等，一個程序中向量代碼所占的百分比。中向量代碼所占的百分比。n 例如：系統(tǒng)在向量模式下能夠達(dá)到例如：系統(tǒng)在向量模式下能夠達(dá)到9Mflops9Mflops，在標(biāo)量模式下能夠達(dá)到，在標(biāo)量模式下能夠達(dá)到1Mflops1Mflops的運算速度，假設(shè)代碼的的運算速度，假設(shè)代碼的90%90%是是向量運算，向量運算，10%10%是標(biāo)量運算，這樣花在兩是標(biāo)量運算，這樣花在兩種模式上的計算時間相等，那么向量平種模式上的計算時間相等，那么向量平衡點為衡點為0.90.9。幾種超級計算機的向量性能和標(biāo)量性能

12、（理解）機器型號Fujitsu VP400Cray ISCray 2SCray X-MPCray Y-MPHitachi S820NEC SX2向量性能Mflops標(biāo)量性能Mflops向量平衡點85.09.80.90151.511.20.93143.313.10.92201.617.00.92737.317.80.98424.29.50.98207.16.60.97n可擴展性隨處理機數(shù)目的增加而提高可擴展性隨處理機數(shù)目的增加而提高n 可擴展性的三個目標(biāo)：規(guī)?？蓴U展性、可擴展性的三個目標(biāo)：規(guī)?？蓴U展性、換代可擴展性、問題可擴展性。換代可擴展性、問題可擴展性。n提供高性能的提供高性能的I/O和易訪

13、問的網(wǎng)絡(luò)和易訪問的網(wǎng)絡(luò) 提高向量處理機性能的常用技術(shù)提高向量處理機性能的常用技術(shù)n鏈接技術(shù)鏈接技術(shù)n 向量指令的類型：向量指令的類型：n4321VjVkVin4321SjVkVi第一類向量指令第二類向量指令存儲器7654321Vi存儲器7654321Vi第三類向量指令第四類向量指令n向量運算中的相關(guān)和沖突n向量運算中的數(shù)據(jù)相關(guān)和功能部件沖突：采用順序發(fā)射順序完成方式(1) 寫讀數(shù)據(jù)相關(guān)。(2) 讀讀數(shù)據(jù)相關(guān)，或向量寄存器沖突。(3) 運算部件沖突。V0 V1V2 V3 V1V2V3 V4 * V5 V6 V4 +V5(a)不相關(guān)的指令 (b)功能部件的預(yù)定V3 V1V2 V0 V1V2V6 V

14、1*V5 V3 V1 + V5(c) 操作數(shù)寄存器預(yù)定 (d)功能部件和操作數(shù)寄存器的預(yù)定3、向量鏈接技術(shù)(chaining) 結(jié)果寄存器可能成為后繼指令的操作數(shù)寄存器兩條有數(shù)據(jù)相關(guān)的向量指令并行執(zhí)行，這種技術(shù)稱為兩條流水線的鏈接技術(shù)。 例如：有如下3條向量指令：V3 AV2 V0V1V4 V2V3第一、二條指令沒有數(shù)據(jù)相關(guān)和功能部件沖突，可以同時開始執(zhí)行。第三條指令與第一、二條指令均存在寫讀數(shù)據(jù)相關(guān)，可以鏈接執(zhí)行。浮點加71 2 3 4 5 6MemV0V1V2V3V41 2 3 4 5 61 2 3 4 5 6浮點乘n三種執(zhí)行方式比較：n(1) 如果向量長度為N，三條指令采用串行方法執(zhí)行的

15、時間為：(1+6+1)+N-1+(1+6+1)+N-1+(1+7+1)+N-1 = 3N+22 拍n(2) 如果前兩條指令并行執(zhí)行，第三條指令串行執(zhí)行，則執(zhí)行時間為：(1+6+1)+N-1+(1+7+1)+N-1= 2N+15 拍n(3) 如果采用鏈接技術(shù)，則執(zhí)行時間為：(1+6+1)+(1+7+1)+(N-1)=17+N-1=N+16 拍n實現(xiàn)鏈接的條件：n(1) 沒有向量寄存器沖突和運算部件沖突。n(2) 只有第一個結(jié)果送入向量寄存器的那一個周期可以鏈接。n(3) 先行的兩條指令產(chǎn)生運算結(jié)果的時間必須相等。n(4) 兩條向量指令的向量長度必須相等。當(dāng)向量的長度大于向量寄存器的長度時，必須把

16、長向量分成長度固定的段，采用循環(huán)結(jié)構(gòu)處理這個長向量，這種技術(shù)稱為向量循環(huán)開采技術(shù)，也稱為向量分段開采技術(shù)。例如：A和B為長度N的向量。for (i=1; iN; i+) ai=5*b(i)+c;當(dāng)N為當(dāng)N為64或更小時，產(chǎn)生A數(shù)組的7條指令序列是：1：S15.0在標(biāo)量寄存器內(nèi)設(shè)置常數(shù)2：S2C 將常數(shù)C裝入標(biāo)量寄存器3：VLN 在VL寄存器內(nèi)設(shè)置向量長度4：VoB 將B向量讀入向量寄存器5：V1S1 Vo B數(shù)組的每個分量和常數(shù)相乘6：V2S2V1 C和5 B(x)相加7：AV2將結(jié)果向量存入A數(shù)組向量循環(huán)開采技術(shù)向量循環(huán)開采技術(shù)向量處理機主要出自美國和日本。美國著名的向量計算機公司有：CRA

17、Y、CDC、TI等日本公司有：NEC、Fujitsu、Hitachi等6.4 向量處理機實例(自學(xué))機器型號美國和日本制造的向量處理機Cray IS配置特點有10條流水線的單處理機，12.5ns，COS/CF7 2.1第一臺基于ECL的超級計算機，1976年問世Cray2S/4-256256M字存儲器的4臺處理機，4.lns, COS或UNIX/CF77 3.016K字的本地存儲器，移植了UNIXV，1985問世向量處理機的歷史與現(xiàn)狀向量處理機的歷史與現(xiàn)狀機器型號Cray X-MP 416配置特點16M字存儲器的4臺處理機，128M字SSD, 8.5ns, COS CF77 5.0使用共享寄存

18、器組用于IPC，1983年問世Cray Y-MP 832128M字存儲器的8臺處理機, 6ns, CF77 5.0XMP的改進(jìn)型，1988年問世每臺處理機2條向量流水線, 16臺處理機, 4.2ns, Unicos/CF77 5.0CrayY-MPC-90最大的Cray機器1991年問世機器型號CDC Cyber 205配置特點有4條流水線的單處理機, 20ns, 虛擬OS/FTN200存儲器到存儲器系統(tǒng)結(jié)構(gòu)，1982年問世ETA 10E單處理機, 10.5ns, ETAV/FTN 200Cyber 205的后繼型號，1985年問世每臺處理機4組流水線, 4臺處理機, 2.9ns, F77SX

19、,22GflopsNECSX-X/441991年問世機器型號Fujitsu VP2600/10配置特點5條流水線的單處理機和雙標(biāo)量處理機, 3.2ns, MSP. EX/F77 EX/VP使用可重構(gòu)微向量寄存器和屏蔽，1991年問世512MB存儲器，18條流水線的單處理機，4ns，F(xiàn)ORT77/HAPV23-OCHitachi 820/8064個通道，最大傳輸速率288MB/S，1988年問世Cray Y-MP 816由1至8臺處理機組成，多個處理機共享中央存儲器、I/O子系統(tǒng)、處理機通信子系統(tǒng)和實時鐘。中央存儲器由256個交叉訪問的存儲體組成。每個處理機對4個存儲器端口的交叉訪問。CPU的時

20、鐘周期為6ns。4個存儲器端口允許處理機同時執(zhí)行兩個標(biāo)量和向量取操作、一個存儲操作和一個獨立的I/O操作。CRAY Y-MP向量處理機n每個CPU由14個功能部件組成，分為向量、標(biāo)量、地址和控制四個子系統(tǒng)。n使用了大量地址寄存器、標(biāo)量寄存器、向量寄存器、中間寄存器和臨時寄存器。n可以實現(xiàn)功能流水線靈活的鏈接。nI/O子系統(tǒng)支持三類通道，傳輸速率分別為6兆字節(jié)/秒，100兆字節(jié)/秒和1G字節(jié)/秒。CPU2CPU8CPU7CPU6CPU5CPU4CPU3中央寄存器處理機之間通信實時鐘（64位）V寄存器8個寄存器每個V寄存器有64個64位分量寄存器T寄存器（8個64位寄存器）A寄存器（8個32位寄存

21、器）B寄存器（8個32位寄存器）S寄存器（8個64位寄存器）屏蔽寄存器（64位）向量長度（8位）指令緩沖區(qū)（512個16位指令區(qū)）交換參數(shù)寄存器指令輸出發(fā)送寄存器可編程時鐘（32位）I/O控制向量功能部件加/減、移位、邏輯（64位運算）標(biāo)量功能部件加/減、移位、邏輯（32位運算）浮點功能部件加/減、倒數(shù)、乘、近似（64位運算）地址功能部件加/減、乘（32位運算）性能監(jiān)控器狀態(tài)寄存器外部設(shè)備I/O部分CPU1控制部分地址部分標(biāo)量部分向量部分n以通用中小型機，或微機作為主機；向量處理部件作為外圍設(shè)備，加速向量的處理速度。n向量協(xié)處理器是為中小型用戶設(shè)計的，解決科學(xué)計算中大量向量處理任務(wù)的一種裝置。

22、n與各種不同主機相連的向量協(xié)處理器，價格和功能的變化范圍很大。nFPS-164是最典型的向量協(xié)處理器，美國浮點系統(tǒng)公司生產(chǎn)。每個向量處理器有兩個乘加部件，兩組向量寄存器，兩組標(biāo)量寄存器。向量協(xié)處理器n每個乘加部件每個周期能輸出一個結(jié)果。n向量寄存器：2組?4個?個操作數(shù)，每個操作數(shù)個字節(jié)。n運算過程：標(biāo)量處理器把原始數(shù)據(jù)裝入向量寄存器，把標(biāo)量數(shù)據(jù)和指令播送到全部向量處理器。向量處理器就同步地運算，但它們處理的數(shù)據(jù)是各不相同的。n向量操作可以和標(biāo)量處理器中的標(biāo)量操作同時進(jìn)行。n向量協(xié)處理器特別適合于大規(guī)模的數(shù)值處理，用戶購買需要臺數(shù)的向量處理器，使用現(xiàn)有的處理機作為主機。標(biāo)量運算部件協(xié)處理器主存

23、儲器120 MB地址寄存器間址寄存器向量處理器向量處理器向量處理器標(biāo)量寄存器X寄存器組Y寄存器組向量寄存器乘法流水線加法流水線與主計算機連接FPS-164向量協(xié)處理器結(jié)構(gòu)圖衡量向量處理機性能的主要指標(biāo)有： 向量指令處理時間Tvp、 最大性能R、半性能向量長度n1/2等。1、向量指令處理時間Tvp 執(zhí)行一條向量長度為n的向量指令的時間Tvp表示為： TvpTs + Tvf + (n - 1) Tc 其中：Ts為向量流水線的建立時間。 Tvf為向量流水線的流過時間。 Tc為流水線“瓶頸段的執(zhí)行時間。如果每段執(zhí)行時間都等于一個時鐘周期，則有： Tvps + e + (n - 1) t其中：s為向量流

24、水線建立時間所需的時鐘周期數(shù)。e為向量流水線流過時間所需的時鐘周期數(shù)。 n為向量長度。t為時鐘周期長度。把幾條能在一個時鐘周期內(nèi)同時開始執(zhí)行的向量指令稱為一個編隊，同一個編隊中的指令一定不存在功能部件沖突和數(shù)據(jù)相關(guān)。6.5 6.5 向量處理機的性能評價向量處理機的性能評價例例1：假設(shè)一臺向量處理機中功能部件的啟動開銷為：?。杭僭O(shè)一臺向量處理機中功能部件的啟動開銷為：取數(shù)和存數(shù)部件為數(shù)和存數(shù)部件為12個時鐘周期、乘法部件為個時鐘周期、乘法部件為7個時鐘周期個時鐘周期、加法部件為、加法部件為6個時鐘周期。先把序列向量操作分成編隊個時鐘周期。先把序列向量操作分成編隊，然后計算每個編隊的開始時間、獲得

25、第一個結(jié)果元素，然后計算每個編隊的開始時間、獲得第一個結(jié)果元素的時間和獲得最后一個結(jié)果元素的時間。的時間和獲得最后一個結(jié)果元素的時間。LV V1， Rx ；取向量；取向量x MULTSV V2， F0， V1 ；向量和標(biāo)量相乘；向量和標(biāo)量相乘LV V3， Ry ；取向量；取向量YADDV V4， V2， V3 ；加法；加法SV Ry， V4 ；存結(jié)果；存結(jié)果解：第一條指令解：第一條指令LV為第一個編隊。為第一個編隊。MULTSV指令和第二指令和第二條條LV指令為第二個編隊。指令為第二個編隊。ADDV指令為第三個編隊。指令為第三個編隊。SV指令為第四個編隊。指令為第四個編隊。 如果采用向量鏈接技

26、術(shù)不考慮訪問存儲器的沖突），需要：12 + 7 + 6 + 12 + n 136 + n個周期。如果考慮向量長度大于向量寄存器長度時，則需要分段開采。向量長度為n的一組向量操作的整個執(zhí)行時間為：其中：Tloop為執(zhí)行標(biāo)量代碼的開銷，Tstart為每個編隊的向量啟動開銷，MVL是向量寄存器的長度。 Tloop可以看作是一個常數(shù)，Cray 1機的 Tloop 約等于15。例2：在一臺向量處理機上實現(xiàn)ABs操作，其中A和B是長度為200的向量，s是一個標(biāo)量。向量寄存器長度為64。各功能部件的啟動時間與上例相同。求總的執(zhí)行時間。chimestartloopnTnTTMVLnT解：因為向量長度超過了向量

27、寄存器的長度，所以要采取分解：因為向量長度超過了向量寄存器的長度，所以要采取分段開采方法。每次循環(huán)主要由下面三條向量指令組成：段開采方法。每次循環(huán)主要由下面三條向量指令組成：LV V1， Rb；取向量；取向量BMULTVS V2， V1， Fs；向量和標(biāo)量相乘；向量和標(biāo)量相乘SV Ra， V2；存向量；存向量假設(shè)假設(shè)A和和B的分別放在的分別放在Ra和和Rb之中，之中，s在在Fs中。中。三條指令之間存在有寫讀數(shù)據(jù)相關(guān)，因此必須把它們?nèi)龡l指令之間存在有寫讀數(shù)據(jù)相關(guān)，因此必須把它們分成分成3個編隊，個編隊，Tchime= 3。T2004(15 + Tstart) + 2003 60（4Tstart）+ 600 660（4Tstart）其中：其中：