六章向量處理機(jī)ppt課件

1、A、B、C分別是向量分別是向量a、b、c在內(nèi)存中的起始地址：在內(nèi)存中的起始地址：INITIALIZE I=110if (iN ) GOTO 20read bIread cIadd bI+cI store aIbI+cIread aI+1multiply 2*aI+1store bI 2*aI+1increment I I+1goto 1020Stop上述程序用向量化指令序列實(shí)現(xiàn)為：上述程序用向量化指令序列實(shí)現(xiàn)為： a1:n=b1:n+c1:n temp1:n=a2:n+1 b1:n=2*temp1:n將將n個(gè)獨(dú)立的數(shù)構(gòu)成的整體稱為向量，對(duì)這一組個(gè)獨(dú)立的數(shù)構(gòu)成的整體稱為向量，對(duì)這一組數(shù)的運(yùn)算稱為

2、向量處置。一條向量處置指令可數(shù)的運(yùn)算稱為向量處置。一條向量處置指令可以處置以處置n個(gè)或個(gè)或n對(duì)操作數(shù)。對(duì)操作數(shù)。for (i = 1；i = n；i+)yi = ai ( bi + ci );假設(shè)采用多功能流水線，必需頻繁進(jìn)展流水假設(shè)采用多功能流水線，必需頻繁進(jìn)展流水線切換線切換橫向處置方式對(duì)向量處置機(jī)不適宜橫向處置方式對(duì)向量處置機(jī)不適宜即使在標(biāo)量處置機(jī)中，也經(jīng)常經(jīng)過(guò)編譯器進(jìn)即使在標(biāo)量處置機(jī)中，也經(jīng)常經(jīng)過(guò)編譯器進(jìn)展指令流調(diào)度。展指令流調(diào)度。關(guān)不影響流水線延續(xù)任務(wù)。不同的運(yùn)算關(guān)不影響流水線延續(xù)任務(wù)。不同的運(yùn)算操作只需求切換操作只需求切換1次。次。組內(nèi)采用縱向處置方式，組間采組內(nèi)采用縱向處置方式，

3、組間采用橫向處置方式。因此，也稱為分用橫向處置方式。因此，也稱為分組處置方式，縱橫向加工方式等。組處置方式，縱橫向加工方式等。以下圖闡明一個(gè)具有以下圖闡明一個(gè)具有8個(gè)存儲(chǔ)體的向量處置機(jī)：個(gè)存儲(chǔ)體的向量處置機(jī)： MM流水構(gòu)造加法器流水構(gòu)造加法器ABC=A+BMMMMMM向量處置例如向量處置例如1：求：求C=A+B，設(shè)，設(shè)A、B、C的存儲(chǔ)方式如圖：的存儲(chǔ)方式如圖：C4B6A0C5B7A1C6B0A2C7B1A3C0B2A4C2B3A5C3B4A6C4B5A7模塊模塊0模塊模塊1模塊模塊2模塊模塊3模塊模塊4模塊模塊5模塊模塊6模塊模塊7A、B、C在主存儲(chǔ)器中的存放情況在主存儲(chǔ)器中的存放情況流水段1

4、流水段2流水段3流水段4W4W4RB6RB6RA0RA0W5W5RB7RB7RA1RA1W6RA2RA2RB0RB0RA3RA3RB1RB1W0W0RA4RA4RB2RB2W1W1RA5RA5RB3RB3W2W2RA6RA6RB4RB4W3W3RA7RA7RB5RB576543210765432107654321076543210M0M1M2M3M4M5M6M70 1 2 3 4 5 6 7 8 9 10 11 12可變延遲器可變延遲器可變延遲器可變延遲器主存主存儲(chǔ)器儲(chǔ)器流水結(jié)流水結(jié)構(gòu)加法構(gòu)加法器器ABCW0RB8RB8RA8RA8RB0RB0RA0RA0RB9RB9RA9RA9RB1RB1R

5、A1RA1RB10RA10RA10RB2RB2RA2RA2 RA11RA11RB3RB3RA3RA3 RA12RB4RB4RA4RA4RB5RB5RA5RA5 RB6RB6RA6RA6RB7RB7RA7RA776543210765432106543210543210M0M1M2M3M4M5M6M70 1 2 3 4 5 6 7 8 9 10 11 12流水段1流水段2流水段3流水段4n把存儲(chǔ)器把存儲(chǔ)器-存儲(chǔ)器構(gòu)造中的緩沖棧改為向量存放器，存儲(chǔ)器構(gòu)造中的緩沖棧改為向量存放器，運(yùn)算部件需求的操作數(shù)從向量存放器中讀取，運(yùn)算運(yùn)算部件需求的操作數(shù)從向量存放器中讀取，運(yùn)算的中間結(jié)果也寫(xiě)到向量存放器中。的中

6、間結(jié)果也寫(xiě)到向量存放器中。n向量存放器與標(biāo)量存放器的主要差別是：向量存放器與標(biāo)量存放器的主要差別是：一個(gè)向量存放器可以保管一個(gè)向量，一個(gè)向量存放器可以保管一個(gè)向量，例如：例如：64個(gè)個(gè)64位存放器。位存放器。延續(xù)訪問(wèn)一個(gè)向量的各個(gè)分量。延續(xù)訪問(wèn)一個(gè)向量的各個(gè)分量。n需求有標(biāo)量存放器和地址存放器等。需求有標(biāo)量存放器和地址存放器等。n采用存放器采用存放器-存放器構(gòu)造的主要優(yōu)點(diǎn)：降低主存儲(chǔ)器存放器構(gòu)造的主要優(yōu)點(diǎn)：降低主存儲(chǔ)器的流量。例如：采用存放器的流量。例如：采用存放器-存放器構(gòu)造的存放器構(gòu)造的CRAY-1與采用存儲(chǔ)器與采用存儲(chǔ)器-存儲(chǔ)器構(gòu)造的存儲(chǔ)器構(gòu)造的STAR-100比較，運(yùn)算比較，運(yùn)算速度高

7、速度高3倍多，而主存流量低倍多，而主存流量低2.5倍。倍。nSTAR-100的主存儲(chǔ)器流量：的主存儲(chǔ)器流量：328W/1.28us=200MW/SCRAY-1的主存儲(chǔ)器流量：的主存儲(chǔ)器流量： 4W/50ns=80MW/SV7V6V5存儲(chǔ)器存儲(chǔ)器V43210V3V2V1V0S7S6S5S4S3S2S1S0A7A6A5A4A3A2A1A0標(biāo)量緩沖標(biāo)量緩沖存放器存放器地址緩沖地址緩沖存放器存放器加1記數(shù)移位邏輯運(yùn)算整數(shù)加標(biāo)量部件整數(shù)乘整數(shù)加地址部件移位邏輯運(yùn)算整數(shù)加向量部件迭代求倒浮點(diǎn)乘浮點(diǎn)加向量部件VM向量屏蔽RTC實(shí)時(shí)時(shí)鐘計(jì)數(shù)器XAVLPNIPCIPLIP執(zhí)行指令執(zhí)行指令執(zhí)行緩沖執(zhí)行緩沖存放器存

8、放器+101.15T0.T63B0.B630.63向量控制向量控制向量控制向量長(zhǎng)度交換控制標(biāo)量存放器地址存放器向量存放器ViVjVk.Vi.Vj12.n.Vk.ViSj.Vk存儲(chǔ)器.Vk.Vi存儲(chǔ)器功功能能部部件件功功能能部部件件功功能能部部件件功功能能部部件件12.n12.n12.n第第1種種向量向量-向量指令向量指令第第2種種向量向量-標(biāo)量指令標(biāo)量指令第第3種種向量向量-存儲(chǔ)器指令存儲(chǔ)器指令運(yùn)算流水線運(yùn)算流水線第第4種種向量向量-存儲(chǔ)器指令存儲(chǔ)器指令向量歸約指令向量歸約指令vector reduction instruction:操作數(shù)來(lái)操作數(shù)來(lái)自存放器，操作結(jié)果為標(biāo)量數(shù)據(jù)，如從一個(gè)向量中

9、找出最大自存放器，操作結(jié)果為標(biāo)量數(shù)據(jù)，如從一個(gè)向量中找出最大值、最小值和中間值等。值、最小值和中間值等。聚集聚集-散射指令散射指令gather and scatter instruction:將兩個(gè)將兩個(gè)向量存放器分別存放數(shù)據(jù)和變址值聚集分布在存儲(chǔ)器中向量存放器分別存放數(shù)據(jù)和變址值聚集分布在存儲(chǔ)器中的向量元素，或者把向量元素散射到存儲(chǔ)器中。聚集指令根的向量元素，或者把向量元素散射到存儲(chǔ)器中。聚集指令根據(jù)變址值把存儲(chǔ)器中某個(gè)稀疏向量的非據(jù)變址值把存儲(chǔ)器中某個(gè)稀疏向量的非0元素取出放到向量元素取出放到向量存放器中。散射指令進(jìn)展相反的操作，把一個(gè)向量以稀疏向存放器中。散射指令進(jìn)展相反的操作，把一個(gè)向

10、量以稀疏向量的方式存入存儲(chǔ)器中，其量的方式存入存儲(chǔ)器中，其0項(xiàng)由變址值指出。項(xiàng)由變址值指出。屏蔽指令屏蔽指令masking instruction:利用屏蔽向量將一個(gè)向利用屏蔽向量將一個(gè)向量緊縮或者展開(kāi)成一個(gè)較短或較長(zhǎng)的索引向量。量緊縮或者展開(kāi)成一個(gè)較短或較長(zhǎng)的索引向量。0.9。多功能部件并行操作多功能部件并行操作提高相鄰的兩條或多條向提高相鄰的兩條或多條向量指令的執(zhí)行速度量指令的執(zhí)行速度鏈接技術(shù)鏈接技術(shù)加快條件語(yǔ)句和稀疏矩陣的處理加快條件語(yǔ)句和稀疏矩陣的處理使循環(huán)向量化，以提高向使循環(huán)向量化，以提高向量處理的速度量處理的速度加快向量的歸約操作加快向量的歸約操作多功能部件的并行操作多功能部件的

11、并行操作向量存放器沖突向量存放器沖突Vi沖突沖突功能部件沖突功能部件沖突 向量存放器沖突向量存放器沖突Vi沖突：并行任務(wù)的各向量指令的源向量沖突：并行任務(wù)的各向量指令的源向量或者結(jié)果向量運(yùn)用一樣的或者結(jié)果向量運(yùn)用一樣的Vi。包括源向量沖突、結(jié)果向量。包括源向量沖突、結(jié)果向量沖突、先讀后寫(xiě)的向量沖突和源目向量相關(guān)。沖突、先讀后寫(xiě)的向量沖突和源目向量相關(guān)。V3 V1V2 V3 V1V2V6 V1*V5 V3 V4 * V5源向量沖突源向量沖突 結(jié)果向量沖突結(jié)果向量沖突 V3 V1V2 V3 V1V2V1 V4*V5 V5 V3 * V4先讀后寫(xiě)的向量沖突先讀后寫(xiě)的向量沖突 源目向量相關(guān)源目向量相關(guān)

12、發(fā)生源目向量相關(guān)的兩條指令在不發(fā)生其它發(fā)生源目向量相關(guān)的兩條指令在不發(fā)生其它Vi沖突和功能部件沖突和功能部件沖突的前提下，可經(jīng)過(guò)鏈接機(jī)構(gòu)將兩條向量指令的處置過(guò)沖突的前提下，可經(jīng)過(guò)鏈接機(jī)構(gòu)將兩條向量指令的處置過(guò)程鏈接起來(lái)，實(shí)現(xiàn)兩條指令的流水處置。程鏈接起來(lái)，實(shí)現(xiàn)兩條指令的流水處置。功能部件沖突：指同一功能部件被一條以上的要求并行任務(wù)的向量指令所功能部件沖突：指同一功能部件被一條以上的要求并行任務(wù)的向量指令所運(yùn)用。如下面兩條指令由于都運(yùn)用了向量加法部件，因此，存在向量加法運(yùn)用。如下面兩條指令由于都運(yùn)用了向量加法部件，因此，存在向量加法部件運(yùn)用沖突。部件運(yùn)用沖突。V3 V1V2V6 V4 +V5向量

13、鏈接技術(shù)向量鏈接技術(shù)(chaining) 指在不出現(xiàn)向量存放器沖突和功能部件沖突時(shí)，經(jīng)過(guò)鏈接機(jī)構(gòu)將有源指在不出現(xiàn)向量存放器沖突和功能部件沖突時(shí)，經(jīng)過(guò)鏈接機(jī)構(gòu)將有源目向量相關(guān)的前后兩條或多條向量指令進(jìn)展鏈接而實(shí)現(xiàn)并行處置的技術(shù)。目向量相關(guān)的前后兩條或多條向量指令進(jìn)展鏈接而實(shí)現(xiàn)并行處置的技術(shù)。 機(jī)器會(huì)自動(dòng)檢查每一條向量指令能否能夠與它前一條或兩條向量指令機(jī)器會(huì)自動(dòng)檢查每一條向量指令能否能夠與它前一條或兩條向量指令兩個(gè)向量長(zhǎng)度一樣且首元素時(shí)間對(duì)準(zhǔn)時(shí)存在源目向量相關(guān)同時(shí)無(wú)向兩個(gè)向量長(zhǎng)度一樣且首元素時(shí)間對(duì)準(zhǔn)時(shí)存在源目向量相關(guān)同時(shí)無(wú)向量存放器沖突和功能部件沖突，假設(shè)存在，那么在前一條或兩條指令的量存放器沖

14、突和功能部件沖突，假設(shè)存在，那么在前一條或兩條指令的第一個(gè)結(jié)果分量都到達(dá)向量存放器組且可以作為本條向量指令的源操作數(shù)第一個(gè)結(jié)果分量都到達(dá)向量存放器組且可以作為本條向量指令的源操作數(shù)時(shí)，立刻啟動(dòng)本條指令任務(wù)而構(gòu)成鏈。有了鏈接技術(shù)，就可以使一些存在時(shí)，立刻啟動(dòng)本條指令任務(wù)而構(gòu)成鏈。有了鏈接技術(shù)，就可以使一些存在源目向量相關(guān)的指令也能并行處置。源目向量相關(guān)的指令也能并行處置。CRAY-1共有共有8個(gè)向量存放器組，普通個(gè)向量存放器組，普通可以有可以有2-5個(gè)功能部件鏈接在一同任務(wù)。個(gè)功能部件鏈接在一同任務(wù)。 例如：求向量運(yùn)算例如：求向量運(yùn)算D=A*B+C，假設(shè)向量的長(zhǎng)度，假設(shè)向量的長(zhǎng)度N=64，向量的

15、分量為，向量的分量為浮點(diǎn)熟，且向量浮點(diǎn)熟，且向量B、C已取到已取到V0、V1中。試分析采用下述三條指令實(shí)現(xiàn)功能中。試分析采用下述三條指令實(shí)現(xiàn)功能而采用的鏈接技術(shù)。而采用的鏈接技術(shù)。V3 A/訪存取訪存取A向量向量/V2 V0V1/B向量和向量和C向量相加向量相加/V4 V2V3/浮點(diǎn)乘，存浮點(diǎn)乘，存D向量向量/分析分析：第一、二條指令沒(méi)有向量存放器沖突和功能部件沖突，故這兩條向：第一、二條指令沒(méi)有向量存放器沖突和功能部件沖突，故這兩條向量指令可以并行執(zhí)行；第三條指令與第一、二條指令均無(wú)功能部件沖突，但量指令可以并行執(zhí)行；第三條指令與第一、二條指令均無(wú)功能部件沖突，但存在向量存放器沖突，由于向量

16、存放器沖突屬于源目向量相關(guān)，因此只需第存在向量存放器沖突，由于向量存放器沖突屬于源目向量相關(guān)，因此只需第一條指令中的結(jié)果一條指令中的結(jié)果V3的第一個(gè)分量與第二條指令的結(jié)果響亮的第一個(gè)分量與第二條指令的結(jié)果響亮V2的第一個(gè)分的第一個(gè)分量均產(chǎn)生，就可以經(jīng)過(guò)鏈接機(jī)構(gòu)將這一對(duì)分量直接送往浮點(diǎn)乘功能部件，鏈量均產(chǎn)生，就可以經(jīng)過(guò)鏈接機(jī)構(gòu)將這一對(duì)分量直接送往浮點(diǎn)乘功能部件，鏈接執(zhí)行第三條指令。接執(zhí)行第三條指令。 如下頁(yè)圖所示，訪存與浮點(diǎn)加并行執(zhí)行，再與浮點(diǎn)乘鏈接執(zhí)行，執(zhí)行上如下頁(yè)圖所示，訪存與浮點(diǎn)加并行執(zhí)行，再與浮點(diǎn)乘鏈接執(zhí)行，執(zhí)行上述三條指令，獲得第一個(gè)結(jié)果分量并存入述三條指令，獲得第一個(gè)結(jié)果分量并存入V

17、4，所需求的拍數(shù)也稱為鏈接流，所需求的拍數(shù)也稱為鏈接流水線的流水時(shí)間為：水線的流水時(shí)間為：161171=17拍拍啟動(dòng)訪存啟動(dòng)訪存訪存訪存存存V3送浮乘部件送浮乘部件浮乘浮乘存存V4由于每一拍可取得一個(gè)結(jié)由于每一拍可取得一個(gè)結(jié)果分量存入果分量存入V4，因此獲，因此獲得全部結(jié)果分量所需拍數(shù)得全部結(jié)果分量所需拍數(shù)為為17+（N-1）送浮加部件送浮加部件浮加浮加存存V2送浮乘部件送浮乘部件.V0.V112.6.V2存儲(chǔ)器.V3浮浮點(diǎn)點(diǎn)加加訪訪存存12.6并行與瀲接操作過(guò)程圖并行與瀲接操作過(guò)程圖12.7.V4浮浮點(diǎn)點(diǎn)乘乘實(shí)現(xiàn)鏈接的條件：實(shí)現(xiàn)鏈接的條件：(1) 沒(méi)有向量存放器沖突和運(yùn)算部件沖突。沒(méi)有向量存

18、放器沖突和運(yùn)算部件沖突。(2) 只需第一個(gè)結(jié)果送入向量存放器的那一個(gè)周期可以鏈接。只需第一個(gè)結(jié)果送入向量存放器的那一個(gè)周期可以鏈接。(3) 先行的兩條指令產(chǎn)生運(yùn)算結(jié)果的時(shí)間必需相等。先行的兩條指令產(chǎn)生運(yùn)算結(jié)果的時(shí)間必需相等。(4) 兩條向量指令的向量長(zhǎng)度必需相等。兩條向量指令的向量長(zhǎng)度必需相等。例：在例：在CRAY-1機(jī)上，設(shè)向量的長(zhǎng)度均為機(jī)上，設(shè)向量的長(zhǎng)度均為64；所用浮點(diǎn)功能部件的執(zhí)行時(shí)間；所用浮點(diǎn)功能部件的執(zhí)行時(shí)間分別為：相加需分別為：相加需6拍，相乘需拍，相乘需7拍，從存儲(chǔ)器讀數(shù)需拍，從存儲(chǔ)器讀數(shù)需6拍，存入存放器及啟動(dòng)拍，存入存放器及啟動(dòng)功能部件各需功能部件各需1拍。問(wèn)以下各指令組中

19、，組內(nèi)哪些指令可以鏈接？哪些指令拍。問(wèn)以下各指令組中，組內(nèi)哪些指令可以鏈接？哪些指令不可以鏈接？不能鏈接的緣由是什么？并分別計(jì)算出以下各指令組全部完成不可以鏈接？不能鏈接的緣由是什么？并分別計(jì)算出以下各指令組全部完成所需求的拍數(shù)。所需求的拍數(shù)。1V2V0*V1V3存儲(chǔ)器存儲(chǔ)器V4V3+V52V0存儲(chǔ)器存儲(chǔ)器V1V2+V3V4V5*V63V0存儲(chǔ)器存儲(chǔ)器V2V0*V1V3V0+V4解解:(1)第三條向量指令與第二條向量指令有源目向量相關(guān)，可以鏈接執(zhí)行；第三條向量指令與第二條向量指令有源目向量相關(guān)，可以鏈接執(zhí)行；第一條向量指令與第二、三條向量指令無(wú)關(guān)，可以與它們并行執(zhí)行。第一條向量指令與第二、三條

20、向量指令無(wú)關(guān)，可以與它們并行執(zhí)行。16117164-1=79拍拍啟動(dòng)訪存啟動(dòng)訪存訪存訪存存存V3送浮加部件送浮加部件浮加浮加存存V4第第一分量一分量存存V4其其它分量它分量送浮乘部送浮乘部件件浮乘浮乘浮乘浮乘存存V2送浮送浮加部件加部件(2)三條向量指令都無(wú)關(guān)，所以，三條向量指令可以并行執(zhí)行。三條向量指令都無(wú)關(guān)，所以，三條向量指令可以并行執(zhí)行。161164-1=72拍拍啟動(dòng)訪存啟動(dòng)訪存送浮加部件送浮加部件送浮加部件送浮加部件送浮乘部件送浮乘部件送浮乘部件送浮乘部件訪存訪存浮加浮加浮乘浮乘存存V0存存V1浮乘浮乘存存V4第第一分量一分量存存V4其它其它分量分量(3)第二條向量指令與第一條向量指令

21、有源目向量相關(guān)，可以鏈接執(zhí)行；第第二條向量指令與第一條向量指令有源目向量相關(guān)，可以鏈接執(zhí)行；第三條向量指令與第二條向量指令有源向量沖突，故只能等到第二條向量指三條向量指令與第二條向量指令有源向量沖突，故只能等到第二條向量指令執(zhí)行終了后，才干執(zhí)行第三條向量指令。令執(zhí)行終了后，才干執(zhí)行第三條向量指令。16117164-116164-1= 151拍拍啟動(dòng)啟動(dòng)訪存訪存訪訪存存存存V0送浮乘部件送浮乘部件送浮乘部件送浮乘部件浮浮乘乘存存V2送浮加部件送浮加部件送浮加部件送浮加部件浮浮加加存存V3留意：留意：1在分析向量指令的處置時(shí)，特別關(guān)注無(wú)關(guān)向量指令的并行執(zhí)行，在分析向量指令的處置時(shí)，特別關(guān)注無(wú)關(guān)向量

22、指令的并行執(zhí)行，源目向量相關(guān)的向量指令的鏈接執(zhí)行，除源目向量相關(guān)外其它發(fā)生向量存放源目向量相關(guān)的向量指令的鏈接執(zhí)行，除源目向量相關(guān)外其它發(fā)生向量存放器沖突的向量指令的串行執(zhí)行，功能部件沖突的向量指令的串行執(zhí)行以及向器沖突的向量指令的串行執(zhí)行，功能部件沖突的向量指令的串行執(zhí)行以及向量?jī)?nèi)部各分量流水處置之間的區(qū)別。量?jī)?nèi)部各分量流水處置之間的區(qū)別。 2啟動(dòng)、輸出延遲各啟動(dòng)、輸出延遲各1拍拍加快稀疏矩陣的執(zhí)行速度加快稀疏矩陣的執(zhí)行速度稀疏矩陣：許多元素為稀疏矩陣：許多元素為0的矩陣。的矩陣。處理方法：稀疏向量處理方法：稀疏向量程序段程序段DO 10 I=1，NAKI=AKIBKI完成對(duì)稀疏向量完成對(duì)稀疏向量A和和B求和，其中求和，其中K、M為目的向量，指明為目的向量，指明A、B中的非中的非0元素。元素。4100425160040025020002004000600250010010110210310410510612341234I=I=存存儲(chǔ)儲(chǔ)器器地地址址稠密向量存放器稠密向量存放器AKI稀