第5章 指令級(jí)并行及其開發(fā)——硬件方法

1、1 1/137/137第5章 指令級(jí)并行及其開發(fā)硬件方法2 2/137/1375.1指令級(jí)并行的概念5.2相關(guān)與指令級(jí)并行5.3指令的動(dòng)態(tài)調(diào)度5.4動(dòng)態(tài)分支預(yù)測(cè)技術(shù)5.5多指令流出技術(shù)3 3/137/137指令級(jí)并行：指指令之間存在的一種并行性，利用它，計(jì)算機(jī)可以并行執(zhí)行兩條或兩條以上的指令。 （ILPILP：Instruction-Level ParallelismInstruction-Level Parallelism）開發(fā)ILP的途徑有兩種q 資源重復(fù)，重復(fù)設(shè)置多個(gè)處理部件，讓它們同時(shí)執(zhí)行資源重復(fù)，重復(fù)設(shè)置多個(gè)處理部件，讓它們同時(shí)執(zhí)行相鄰或相近的多條指令；相鄰或相近的多條指令；q 采用

2、流水線技術(shù)，使指令重疊并行執(zhí)行。采用流水線技術(shù)，使指令重疊并行執(zhí)行。 本章研究：如何利用各種技術(shù)來(lái)開發(fā)更多的指令級(jí)并行 （硬件的方法） 4 4/137/1371. 開發(fā)ILP的方法可以分為兩大類主要基于硬件的動(dòng)態(tài)開發(fā)方法基于軟件的靜態(tài)開發(fā)方法2. 流水線處理機(jī)的實(shí)際CPI理想流水線的CPI加上各類停頓的時(shí)鐘周期數(shù)： CPICPI流水線流水線 = CPI= CPI理想理想 + + 停頓停頓結(jié)構(gòu)沖突結(jié)構(gòu)沖突 + + 停頓停頓數(shù)據(jù)沖突數(shù)據(jù)沖突 + + 停頓停頓控制沖突控制沖突理想CPI是衡量流水線最高性能的一個(gè)指標(biāo)。IPC：Instructions Per Cycle （每個(gè)時(shí)鐘周期完成的指令條數(shù)）

3、（每個(gè)時(shí)鐘周期完成的指令條數(shù)）5.1 指令級(jí)并行的概念5 5/137/1375.1 指令級(jí)并行的概念1. 基本程序塊基本程序塊：一串連續(xù)的代碼除了入口和出口以外，沒有其他的分支指令和轉(zhuǎn)入點(diǎn) 。程序平均每47條指令就會(huì)有一個(gè)分支。2. 循環(huán)級(jí)并行：使一個(gè)循環(huán)中的不同循環(huán)體并行執(zhí)行。開發(fā)循環(huán)的不同疊代之間存在的并行性 q最常見、最基本最常見、最基本是指令級(jí)并行研究的重點(diǎn)之一6 6/137/1375.1 指令級(jí)并行的概念例如，考慮下述語(yǔ)句： for for （i=1i=1； i=500i2n2）分支預(yù)測(cè)的性能差不多。分支預(yù)測(cè)的性能差不多。兩位分支預(yù)測(cè)的狀態(tài)轉(zhuǎn)換如下所示： 預(yù)測(cè)分支：預(yù)測(cè)分支： 成功成

4、功 預(yù)測(cè)分支：預(yù)測(cè)分支： 不成功不成功 00 01 分支成功分支成功 分支不成功分支不成功 分支成功分支成功 分支不成功分支不成功 10 11 分支成功分支成功 分支不成功分支不成功 分支成功分支成功 分支不成功分支不成功 8383/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)兩位分支預(yù)測(cè)中的操作有兩個(gè)步驟：q分支預(yù)測(cè)；分支預(yù)測(cè)；n當(dāng)分支指令到達(dá)譯碼段當(dāng)分支指令到達(dá)譯碼段（IDID）時(shí)，根據(jù)從時(shí)，根據(jù)從BHTBHT讀出讀出的信息進(jìn)行分支預(yù)測(cè)的信息進(jìn)行分支預(yù)測(cè) 。n若預(yù)測(cè)正確，就繼續(xù)處理后續(xù)的指令，流水線沒有若預(yù)測(cè)正確，就繼續(xù)處理后續(xù)的指令，流水線沒有斷流。否則，就要作廢已經(jīng)預(yù)取和分析的指令，恢?jǐn)嗔鳌?/p>

5、否則，就要作廢已經(jīng)預(yù)取和分析的指令，恢復(fù)現(xiàn)場(chǎng)，并從另一條分支路徑重新取指令。復(fù)現(xiàn)場(chǎng)，并從另一條分支路徑重新取指令。 q狀態(tài)修改。狀態(tài)修改。 1. BHT方法只在以下情況下才有用：判定分支是否成功所需的時(shí)間大于確定分支目標(biāo)地址所需的時(shí)間。 8484/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)前述前述5 5段經(jīng)典流水線段經(jīng)典流水線：由于判定分支是否成功和計(jì)算：由于判定分支是否成功和計(jì)算分支目標(biāo)地址都是在分支目標(biāo)地址都是在IDID段完成，所以段完成，所以BHTBHT方法不會(huì)給方法不會(huì)給該流水線帶來(lái)好處。該流水線帶來(lái)好處。1. 研究結(jié)果表明：對(duì)于SPEC89測(cè)試程序來(lái)說(shuō)，具有大小為4KB的BHT的預(yù)測(cè)準(zhǔn)確

6、率為82%99%。 一般來(lái)說(shuō)，采用一般來(lái)說(shuō)，采用4KB4KB的的BHTBHT就可以了。就可以了。 2. BHT可以跟分支指令一起存放在指令Cache中，也可以用一塊專門的硬件來(lái)實(shí)現(xiàn)。 8585/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)目標(biāo)：將分支的開銷降為 0方法：分支目標(biāo)緩沖將分支成功的分支指令的地址和它的分支目標(biāo)地址都放到一個(gè)緩沖區(qū)中保存起來(lái)，緩沖區(qū)以分支指令的地址作為標(biāo)識(shí)。這個(gè)緩沖區(qū)就是分支目標(biāo)緩沖器（Branch-Target Buffer，簡(jiǎn)記為BTB，或者分支目標(biāo)Cache （ranch-Target Cache）。 5.4.2 采用分支目標(biāo)緩沖器BTB8686/137/1375.4

7、 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)1. BTB的結(jié)構(gòu) 無(wú)無(wú) 有匹配的？有匹配的？ 當(dāng)前取指令的地址當(dāng)前取指令的地址 相聯(lián)查找相聯(lián)查找 認(rèn)為本指令不是分支指令，認(rèn)為本指令不是分支指令， 按普通指令正常執(zhí)行。按普通指令正常執(zhí)行。 有有 認(rèn)為該指令是成功的分支指令，用預(yù)測(cè)的認(rèn)為該指令是成功的分支指令，用預(yù)測(cè)的 分支目標(biāo)地址作為下一條指令的分支目標(biāo)地址作為下一條指令的 PCPC 值。值。 成功的分支指令地址成功的分支指令地址 分支目標(biāo)地址分支目標(biāo)地址 A0 A1 Ak-1 P0 P1 Pk-1 8787/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)看成是用專門的硬件實(shí)現(xiàn)的一張表格。 表格中的每一項(xiàng)至少有兩個(gè)字段： q執(zhí)行過(guò)

8、的成功分支指令的地址；執(zhí)行過(guò)的成功分支指令的地址；（作為該表的匹配標(biāo)識(shí)（作為該表的匹配標(biāo)識(shí) ）q預(yù)測(cè)的分支目標(biāo)地址。預(yù)測(cè)的分支目標(biāo)地址。1. 采用BTB后，在流水線各個(gè)階段所進(jìn)行的相關(guān)操作： 當(dāng)當(dāng)前前 P PC C 值值 B BT TB B 中中存存在在匹匹配配的的項(xiàng)項(xiàng)？ 成成功功分分支支指指令令？ 當(dāng)當(dāng)前前分分支支成成功功？ 以以 B BT TB B 的的第第二二字字段段作作為為 否否 否否 正正常常執(zhí)執(zhí)行行指指令令 是是 是是 否否 分分支支預(yù)預(yù)測(cè)測(cè)正正確確， 繼繼續(xù)續(xù)執(zhí)執(zhí)行行后后繼繼指指令令， 指令無(wú) 不不會(huì)會(huì)出出現(xiàn)現(xiàn)停停頓頓。 分分支支預(yù)預(yù)測(cè)測(cè)錯(cuò)錯(cuò)誤誤，清清除除 已已取取的的指指令令，

9、并并從從另另 一一個(gè)個(gè)分分支支（即即失失敗敗處處） 取取指指令令。從從 B BT TB B 中中刪刪 除除相相應(yīng)應(yīng)的的項(xiàng)項(xiàng)。 將將其其 P PC C 值值和和分分支支 目目標(biāo)標(biāo)地地址址寫寫入入 B BT TB B 中中，作作為為一一個(gè)個(gè)新新項(xiàng)項(xiàng)。 I IF F 段段 I ID D 段段 E EX X 段段 送送存存儲(chǔ)儲(chǔ)器器和和 B BT TB B 分分支支目目標(biāo)標(biāo)地地址址送送給給 P PC C 是是 8989/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)1. 采用BTB后，各種可能情況下的延遲 ：指令在指令在BTBBTB中？中？ 預(yù)測(cè)預(yù)測(cè) 實(shí)際情況實(shí)際情況 延遲周期延遲周期 是是 成功成功 成功成功

10、 0 0 是是 成功成功 不成功不成功 2 2 不是不是 成功成功 2 2 不是不是 不成功不成功 0 0 9090/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)1. BTB的另一種形式在分支目標(biāo)緩沖器中增設(shè)一個(gè)至少是兩位的“分支歷史表”字段 當(dāng)前取指令的地址當(dāng)前取指令的地址 相聯(lián)查找相聯(lián)查找 分支指令地址分支指令地址 A0 A1 Ak-1 分支目標(biāo)地址分支目標(biāo)地址 P0 P1 Pk-1 分支歷史表分支歷史表 BHTBHT T0 T1 Tk-1 9191/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)1. 更進(jìn)一步，在表中對(duì)于每條分支指令都存放若干條分支目標(biāo)處的指令，就形成了分支目標(biāo)指令緩沖器。 當(dāng)前取指令

11、的地址當(dāng)前取指令的地址 相聯(lián)查找相聯(lián)查找 分支指令地址分支指令地址 A0 A1 Ak-1 分支目標(biāo)處的若干條指令分支目標(biāo)處的若干條指令 I0,0，I0,1，I0,n-1 分支歷史表分支歷史表 BHTBHT T0 T1 Tk-1 I1,0，I1,1，I1,n-1 Ik-1,0，Ik-1,1，Ik-1,n-1 9292/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)前瞻執(zhí)行（speculation）的基本思想： 對(duì)分支指令的結(jié)果進(jìn)行猜測(cè)，并假設(shè)這個(gè)猜測(cè)總是對(duì)的，然后按這個(gè)猜測(cè)結(jié)果繼續(xù)取、流出和執(zhí)行后續(xù)的指令。只是執(zhí)行指令的結(jié)果不是寫回到寄存器或存儲(chǔ)器，而是寫入一個(gè)稱為再定序緩沖器ROB（ReOrder B

12、uffer）中 。等到相應(yīng)的指令得到“確認(rèn)”（commit）（即確實(shí)是應(yīng)該執(zhí)行的）之后，才將結(jié)果寫入寄存器或存儲(chǔ)器。 5.4.3 基于硬件的前瞻執(zhí)行9393/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)1. 基于硬件的前瞻執(zhí)行結(jié)合了3種思想：動(dòng)態(tài)分支預(yù)測(cè)。用來(lái)選擇后續(xù)執(zhí)行的指令。在控制相關(guān)的結(jié)果尚未出來(lái)之前，前瞻地執(zhí)行后續(xù)指令。用動(dòng)態(tài)調(diào)度對(duì)基本塊的各種組合進(jìn)行跨基本塊的調(diào)度。2. 對(duì)Tomasulo算法加以擴(kuò)充，就可以支持前瞻執(zhí)行。 把Tomasulo算法的寫結(jié)果和指令完成加以區(qū)分，分成兩個(gè)不同的段： 寫結(jié)果寫結(jié)果，指令確認(rèn)指令確認(rèn) 9494/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)寫結(jié)果段q把前瞻執(zhí)

13、行的結(jié)果寫到把前瞻執(zhí)行的結(jié)果寫到ROBROB中；中；q通過(guò)通過(guò)CDBCDB在指令之間傳送結(jié)果，供需要用到這些結(jié)果在指令之間傳送結(jié)果，供需要用到這些結(jié)果的指令使用。的指令使用。指令確認(rèn)段 在分支指令的結(jié)果出來(lái)后，對(duì)相應(yīng)指令的前瞻執(zhí)行在分支指令的結(jié)果出來(lái)后，對(duì)相應(yīng)指令的前瞻執(zhí)行給予確認(rèn)。給予確認(rèn)。q如果前面所做的猜測(cè)是對(duì)的，把在如果前面所做的猜測(cè)是對(duì)的，把在ROBROB中的結(jié)果寫到中的結(jié)果寫到寄存器或存儲(chǔ)器。寄存器或存儲(chǔ)器。q如果發(fā)現(xiàn)前面對(duì)分支結(jié)果的猜測(cè)是錯(cuò)誤的，那就不予如果發(fā)現(xiàn)前面對(duì)分支結(jié)果的猜測(cè)是錯(cuò)誤的，那就不予以確認(rèn)，并從那條分支指令的另一條路徑開始重新執(zhí)以確認(rèn)，并從那條分支指令的另一條路徑

14、開始重新執(zhí)行。行。 9595/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)1. 實(shí)現(xiàn)前瞻的關(guān)鍵思想： 允許指令亂序執(zhí)行，但必須順序確認(rèn)。在指令被確認(rèn)之前，不允許它進(jìn)行不可恢復(fù)的操作。 2. 支持前瞻執(zhí)行的浮點(diǎn)部件的結(jié)構(gòu) 從指令部件來(lái)從指令部件來(lái) 浮點(diǎn)寄存器浮點(diǎn)寄存器 FP 地址部件地址部件 load/store 操作操作 浮點(diǎn)操作浮點(diǎn)操作 操作數(shù)總線操作數(shù)總線 操作總線操作總線 store數(shù)據(jù)數(shù)據(jù) 1 1 存儲(chǔ)部件存儲(chǔ)部件 浮點(diǎn)加法器浮點(diǎn)加法器 浮點(diǎn)乘法器浮點(diǎn)乘法器 指令隊(duì)列指令隊(duì)列 地址地址 2 3 2 3 4 5 6 公共數(shù)據(jù)總線（公共數(shù)據(jù)總線（CDB） 1 2 保留站保留站 再定序再定序 緩沖

15、器緩沖器 ROB 數(shù)據(jù)數(shù)據(jù) 寄存器號(hào)寄存器號(hào) 緩沖器緩沖器 load store地址地址 保留站保留站 load 數(shù)據(jù)數(shù)據(jù) 9797/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)ROB中的每一項(xiàng)由以下4個(gè)字段組成：q指令類型指令類型 指出該指令是分支指令、指出該指令是分支指令、storestore指令或寄存器操作指令。指令或寄存器操作指令。q目標(biāo)地址目標(biāo)地址 給出指令執(zhí)行結(jié)果應(yīng)寫入的目標(biāo)寄存器號(hào)（如果是給出指令執(zhí)行結(jié)果應(yīng)寫入的目標(biāo)寄存器號(hào)（如果是 loadload和和ALUALU指令）或存儲(chǔ)器單元的地址（如果是指令）或存儲(chǔ)器單元的地址（如果是storestore指指 令）。令）。q數(shù)據(jù)值字段數(shù)據(jù)值字

16、段 用來(lái)保存指令前瞻執(zhí)行的結(jié)果，直到指令得到確認(rèn)。用來(lái)保存指令前瞻執(zhí)行的結(jié)果，直到指令得到確認(rèn)。q就緒字段就緒字段 指出指令是否已經(jīng)完成執(zhí)行并且數(shù)據(jù)已就緒。指出指令是否已經(jīng)完成執(zhí)行并且數(shù)據(jù)已就緒。9898/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)Tomasulo算法中保留站的換名功能是由ROB來(lái)完成的。 1. 采用前瞻執(zhí)行機(jī)制后，指令的執(zhí)行步驟：（在（在TomasuloTomasulo算法的基礎(chǔ)上改造的算法的基礎(chǔ)上改造的 ）流出 q從浮點(diǎn)指令隊(duì)列的頭部取一條指令。從浮點(diǎn)指令隊(duì)列的頭部取一條指令。q如果有空閑的保留站（設(shè)為如果有空閑的保留站（設(shè)為r r）且有空閑的）且有空閑的ROBROB項(xiàng)（設(shè)項(xiàng)（

17、設(shè)為為b b），就流出該指令，并把相應(yīng)的信息放入保留站），就流出該指令，并把相應(yīng)的信息放入保留站r r和和ROBROB項(xiàng)項(xiàng)b b。q如果保留站或如果保留站或ROBROB全滿，便停止流出指令，直到它們都全滿，便停止流出指令，直到它們都有空閑的項(xiàng)。有空閑的項(xiàng)。 9999/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)執(zhí)行 q如果有操作數(shù)尚未就緒，就等待，并不斷地監(jiān)測(cè)如果有操作數(shù)尚未就緒，就等待，并不斷地監(jiān)測(cè)CDBCDB。 ( (檢測(cè)檢測(cè)RAWRAW沖突沖突) )q當(dāng)兩個(gè)操作數(shù)都已在保留站中就緒后，就可以執(zhí)行該指當(dāng)兩個(gè)操作數(shù)都已在保留站中就緒后，就可以執(zhí)行該指令的操作。令的操作。寫結(jié)果 q當(dāng)結(jié)果產(chǎn)生后，將該

18、結(jié)果連同本指令在流出段所分配到當(dāng)結(jié)果產(chǎn)生后，將該結(jié)果連同本指令在流出段所分配到的的ROBROB項(xiàng)的編號(hào)放到項(xiàng)的編號(hào)放到CDBCDB上，經(jīng)上，經(jīng)CDBCDB寫到寫到ROBROB以及所有等待以及所有等待該結(jié)果的保留站。該結(jié)果的保留站。q釋放產(chǎn)生該結(jié)果的保留站。釋放產(chǎn)生該結(jié)果的保留站。q storestore指令指令在本階段完成，其操作為在本階段完成，其操作為: : 100100/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)n如果要寫入存儲(chǔ)器的數(shù)據(jù)已經(jīng)就緒，就把該數(shù)如果要寫入存儲(chǔ)器的數(shù)據(jù)已經(jīng)就緒，就把該數(shù)據(jù)寫入分配給該據(jù)寫入分配給該storestore指令的指令的ROBROB項(xiàng)。項(xiàng)。n否則，就監(jiān)測(cè)否則，就

19、監(jiān)測(cè)CDBCDB，直到那個(gè)數(shù)據(jù)在，直到那個(gè)數(shù)據(jù)在CDBCDB上播送上播送出來(lái)，才將之寫入分配給該出來(lái)，才將之寫入分配給該storestore指令的指令的ROBROB項(xiàng)項(xiàng)。確認(rèn) 對(duì)分支指令、storestore指令以及其它指令的處理不同：q其它指令其它指令（除分支指令和除分支指令和storestore指令）指令） 當(dāng)該指令到達(dá)當(dāng)該指令到達(dá)ROBROB隊(duì)列的頭部而且其結(jié)果已經(jīng)隊(duì)列的頭部而且其結(jié)果已經(jīng)就緒時(shí)，就把該結(jié)果寫入該指令的目的寄存器，并從就緒時(shí)，就把該結(jié)果寫入該指令的目的寄存器，并從ROBROB中刪除該指令。中刪除該指令。 101101/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)qstorest

20、ore指令指令 處理與上面的類似，只是它把結(jié)果寫入存儲(chǔ)器。處理與上面的類似，只是它把結(jié)果寫入存儲(chǔ)器。q分支指令分支指令 n當(dāng)預(yù)測(cè)錯(cuò)誤的分支指令到達(dá)當(dāng)預(yù)測(cè)錯(cuò)誤的分支指令到達(dá)ROBROB隊(duì)列的頭部時(shí)，隊(duì)列的頭部時(shí)，清空清空ROBROB，并從分支指令的另一個(gè)分支重新開始，并從分支指令的另一個(gè)分支重新開始執(zhí)行。執(zhí)行。 （錯(cuò)誤的前瞻執(zhí)行）（錯(cuò)誤的前瞻執(zhí)行）n當(dāng)預(yù)測(cè)正確的分支指令到達(dá)當(dāng)預(yù)測(cè)正確的分支指令到達(dá)ROBROB隊(duì)列的頭部時(shí)，隊(duì)列的頭部時(shí)，該指令執(zhí)行完畢。該指令執(zhí)行完畢。 102102/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù) 例例5.45.4 假設(shè)浮點(diǎn)功能部件的延遲時(shí)間為：加法假設(shè)浮點(diǎn)功能部件的延遲

21、時(shí)間為：加法2 2個(gè)時(shí)鐘周期，個(gè)時(shí)鐘周期，乘法乘法1010個(gè)時(shí)鐘周期，除法個(gè)時(shí)鐘周期，除法4040個(gè)時(shí)鐘周期。對(duì)于下面的代碼段，個(gè)時(shí)鐘周期。對(duì)于下面的代碼段，給出當(dāng)指令給出當(dāng)指令MUL.DMUL.D即將確認(rèn)時(shí)的狀態(tài)表內(nèi)容。即將確認(rèn)時(shí)的狀態(tài)表內(nèi)容。 L.D L.D F6,34 F6,34（R2R2） L.D L.D F2,45 F2,45（R3R3） MUL.D MUL.DF0,F2,F4F0,F2,F4 SUB.D SUB.DF8,F6,F2F8,F6,F2 DIV.D DIV.DF10,F0,F6F10,F0,F6 ADD.D ADD.DF6,F8,F2F6,F8,F2名稱名稱 保留站保留站

22、 Busy Op Vj Vk Qj Qk Dest A Load1noLoad2noAdd1 no Add2 no Add3 no Mult1 no MUL.DMem45+ RegsR2 RegsF4 #3 Mult2 yes DIV.D Mem34+RegsR2 #3 #5 前瞻執(zhí)行中MUL.D確認(rèn)前，保留站和ROB的狀態(tài) 項(xiàng)號(hào)項(xiàng)號(hào) ROB Busy 指令指令 狀態(tài)狀態(tài) 目的目的 Value 1 no L.D F6, 34（R2） 確認(rèn)確認(rèn) F6 Mem34+RegsR2 2no L.D F2, 45（R3） 確認(rèn)確認(rèn) F2 Mem45+RegsR3 3yes MUL.D F0, F2, F

23、4 寫結(jié)果寫結(jié)果 F0 #2RegsF4 4yes SUB.D F8, F6, F2 寫結(jié)果寫結(jié)果 F8 #1#2 5yes DIV.D F10, F0, F6 執(zhí)行執(zhí)行 F10 6yes ADD.D F6,F8,F2 寫結(jié)果寫結(jié)果 F6 #4#2 字段字段 浮點(diǎn)寄存器狀態(tài)浮點(diǎn)寄存器狀態(tài) F0 F2 F4 F6 F8 F10 F30 ROB項(xiàng)編號(hào) 3645Busy yes no no yes yes yes no105105/137/1375.4 動(dòng)態(tài)分支預(yù)測(cè)技術(shù)1. 前瞻執(zhí)行通過(guò)ROB實(shí)現(xiàn)了指令的順序完成。能夠?qū)崿F(xiàn)精確異常。很容易地推廣到整數(shù)寄存器和整數(shù)功能單元上。 主要缺點(diǎn)：所需的硬件太復(fù)

24、雜。 106106/137/137在每個(gè)時(shí)鐘周期內(nèi)流出多條指令， CPI1。單流出和多流出處理機(jī)執(zhí)行指令的時(shí)空?qǐng)D對(duì)比 5.5 多指令流出技術(shù)107107/137/137單處理器并行的早期發(fā)展：?jiǎn)翁幚砥鞑⑿械脑缙诎l(fā)展：IBM Stretch我們現(xiàn)在稱之為超標(biāo)量指令發(fā)射的技術(shù)，最早的研究和實(shí) 現(xiàn)開始于IBM的Stretch（IBM 7030）和由它直接衍生出來(lái)的IBM機(jī)器。因?yàn)樗膶?shí)現(xiàn)采用了積極的實(shí)現(xiàn)技術(shù)（如預(yù)譯碼、亂序執(zhí)行、推測(cè)執(zhí)行）Stretch項(xiàng)目開始于1955年，設(shè)計(jì)要求“速度至少要比當(dāng)前的任何機(jī)器快100倍”。項(xiàng)目負(fù)責(zé)人Stephen Dunwell，主要設(shè)計(jì)人員有Gerrit Blau

25、uw，F(xiàn)red Brooks，John Cocke，Harwood Kolsky108108/137/137Stretch的尷尬的尷尬估計(jì)結(jié)果表明，Stretch的性能是704的60倍到100倍1961年，當(dāng)Stretch開始使用后，測(cè)試程序顯示它的性能只有704的4倍，主要由于store指令的延遲和對(duì)成功的算術(shù)分支指令預(yù)測(cè)失誤所需要的恢復(fù)時(shí)間造成的Stretch是當(dāng)時(shí)世界上最快的計(jì)算機(jī)，一直保持的1964年109109/137/137第一個(gè)超標(biāo)量設(shè)計(jì)第一個(gè)超標(biāo)量設(shè)計(jì)1961年，IBM啟動(dòng)了兩個(gè)高性能項(xiàng)目，試圖超過(guò)Stretch的性能項(xiàng)目X，目標(biāo)Stretch的10倍到30倍，1967年正式推

26、出IBM S/360 Model 91項(xiàng)目Y，目標(biāo)Stretch的100倍，稱為ACS-1（Advanced Computer System 1）1971年，Schorr在一篇關(guān)于ACS-1的論文中寫道：“多指令譯碼是該項(xiàng)目嘗試的一種新的功能”110110/137/137第一個(gè)多指令譯碼的實(shí)現(xiàn)第一個(gè)多指令譯碼的實(shí)現(xiàn) 1982年開始，開發(fā)了第一個(gè)雙發(fā)射的Astronautics ZS-1111111/137/137IBM的的Cheetah20世紀(jì)80年代初，IBM研究中心的Agerwala啟動(dòng)了一個(gè)雙發(fā)射的項(xiàng)目，稱為Cheetah1983年到1984年，Agerwala在幾所大學(xué)邀請(qǐng)談話中首次公

27、開使用了他為Cheetah創(chuàng)造的名詞： 超標(biāo)量（superscalar）1989年，Intel發(fā)布了第一塊 超標(biāo)量處理器i960CA112112/137/137113113/137/137114114/137/137115115/137/137116116/137/137117117/137/137 IF 1 2 3 4 5 6 7 時(shí)鐘周期時(shí)鐘周期 指令指令 I1 I2 I3 ID EX MEM WBIF ID EX MEM WBIF ID EX MEM WB1 2 3 4 5 6 7 時(shí)鐘周期時(shí)鐘周期 指令指令 I1 I2 I3 IF ID EX MEM WBIF IF ID ID EX

28、EX MEM MEM WBWBIF ID EX MEM WBIF ID EX MEM WBIF ID EX MEM WBIF ID EX MEM WBIF ID EX MEM WBIF ID EX MEM WB單流出時(shí)空?qǐng)D單流出時(shí)空?qǐng)D 多流出時(shí)空?qǐng)D多流出時(shí)空?qǐng)D 單流出和多流出處理機(jī)執(zhí)行指令的時(shí)空?qǐng)D單流出和多流出處理機(jī)執(zhí)行指令的時(shí)空?qǐng)D 5.5 多指令流出技術(shù)118118/137/1375.5 多指令流出技術(shù)1. 多流出處理機(jī)有兩種基本風(fēng)格：超標(biāo)量（Superscalar）q在每個(gè)時(shí)鐘周期流出的指令條數(shù)在每個(gè)時(shí)鐘周期流出的指令條數(shù)不固定不固定，依代碼的具，依代碼的具體情況而定。（有個(gè)上限）體情況而

29、定。（有個(gè)上限）q設(shè)這個(gè)上限為設(shè)這個(gè)上限為n n，就稱該處理機(jī)為，就稱該處理機(jī)為n-n-流出。流出。q可以通過(guò)編譯器進(jìn)行靜態(tài)調(diào)度，也可以基于可以通過(guò)編譯器進(jìn)行靜態(tài)調(diào)度，也可以基于TomasuloTomasulo算法進(jìn)行動(dòng)態(tài)調(diào)度。算法進(jìn)行動(dòng)態(tài)調(diào)度。 超長(zhǎng)指令字VLIW（Very Long Instruction Word）q在每個(gè)時(shí)鐘周期流出的指令條數(shù)是在每個(gè)時(shí)鐘周期流出的指令條數(shù)是固定的固定的，這些指令，這些指令構(gòu)成一條長(zhǎng)指令或者一個(gè)指令包。構(gòu)成一條長(zhǎng)指令或者一個(gè)指令包。q指令包中，指令之間的并行性是通過(guò)指令顯式地表示指令包中，指令之間的并行性是通過(guò)指令顯式地表示出來(lái)的。出來(lái)的。q指令調(diào)度是由

30、編譯器靜態(tài)完成的。指令調(diào)度是由編譯器靜態(tài)完成的。 119119/137/1375.5 多指令流出技術(shù)1. 超標(biāo)量處理機(jī)與VLIW處理機(jī)相比有兩個(gè)優(yōu)點(diǎn)：超標(biāo)量結(jié)構(gòu)對(duì)程序員是透明的，處理機(jī)能自己檢測(cè)下一條指令能否流出，不需要由編譯器或?qū)ｉT的變換程序?qū)Τ绦蛑械闹噶钸M(jìn)行重新排列；即使是沒有經(jīng)過(guò)編譯器針對(duì)超標(biāo)量結(jié)構(gòu)進(jìn)行調(diào)度優(yōu)化的代碼或是舊的編譯器生成的代碼也可以運(yùn)行，當(dāng)然運(yùn)行的效果不會(huì)很好。q要想達(dá)到很好的效果，方法之一：要想達(dá)到很好的效果，方法之一： 使用動(dòng)態(tài)超標(biāo)量調(diào)度技術(shù)。使用動(dòng)態(tài)超標(biāo)量調(diào)度技術(shù)。2. 下表列出了一些基本的多流出技術(shù)、這些技術(shù)的特點(diǎn)以及采用這些技術(shù)的處理機(jī)實(shí)例。技技 術(shù)術(shù) 流出流出結(jié)

31、構(gòu)結(jié)構(gòu) 沖突沖突檢測(cè)檢測(cè) 調(diào)調(diào) 度度 主要特點(diǎn)主要特點(diǎn) 處理機(jī)實(shí)例處理機(jī)實(shí)例 超標(biāo)量超標(biāo)量（靜態(tài)）（靜態(tài)） 動(dòng)態(tài)動(dòng)態(tài) 硬件硬件 靜態(tài)靜態(tài)按序執(zhí)行按序執(zhí)行 Sun UltraSPARC/ 超標(biāo)量超標(biāo)量（動(dòng)態(tài)）（動(dòng)態(tài)） 動(dòng)態(tài)動(dòng)態(tài) 硬件硬件 動(dòng)態(tài)動(dòng)態(tài)部分亂序執(zhí)行部分亂序執(zhí)行 IBM Power2 超標(biāo)量超標(biāo)量（猜測(cè)）（猜測(cè)） 動(dòng)態(tài)動(dòng)態(tài) 硬件硬件 帶有前帶有前瞻的動(dòng)瞻的動(dòng)態(tài)調(diào)度態(tài)調(diào)度 帶有前瞻的帶有前瞻的亂序執(zhí)行亂序執(zhí)行 Pentium /4，MIPS R10K，Alpha 21264， HP PA 8500，IBM RS64 VLIW/LIW 靜態(tài)靜態(tài) 軟件軟件 靜態(tài)靜態(tài)流出包之間流出包之間沒有沖突

32、沒有沖突 Trimedia，i860 EPIC 主要是主要是靜態(tài)靜態(tài) 主要是主要是軟件軟件 主要是主要是靜態(tài)靜態(tài)相關(guān)性被編譯相關(guān)性被編譯器顯式地標(biāo)記器顯式地標(biāo)記出來(lái)出來(lái) Itanium 121121/137/1375.5 多指令流出技術(shù)在典型的超標(biāo)量處理器中，每個(gè)時(shí)鐘周期可流出1到8條指令。指令按序流出，在流出時(shí)進(jìn)行沖突檢測(cè)。 由硬件檢測(cè)當(dāng)前流出的指令之間是否存在沖突以及當(dāng)由硬件檢測(cè)當(dāng)前流出的指令之間是否存在沖突以及當(dāng)前流出的指令與正在執(zhí)行的指令是否有沖突。前流出的指令與正在執(zhí)行的指令是否有沖突。 舉例：一個(gè)4-流出的靜態(tài)調(diào)度超標(biāo)量處理機(jī) 在取指令階段，流水線將從取指令部件收到14條指令（稱為

33、流出包）。q在一個(gè)時(shí)鐘周期內(nèi)，這些指令有可能是全部都能流出，在一個(gè)時(shí)鐘周期內(nèi)，這些指令有可能是全部都能流出，也可能是只有一部分能流出。也可能是只有一部分能流出。5.5.1 基于靜態(tài)調(diào)度的多流出技術(shù)122122/137/1375.5 多指令流出技術(shù)流出部件檢測(cè)結(jié)構(gòu)沖突或者數(shù)據(jù)沖突。一般分兩階段實(shí)現(xiàn)：一般分兩階段實(shí)現(xiàn)：q第一段：第一段：進(jìn)行流出包內(nèi)的沖突檢測(cè)，選出初步判定可進(jìn)行流出包內(nèi)的沖突檢測(cè)，選出初步判定可以流出的指令；以流出的指令；q第二段：第二段：檢測(cè)所選出的指令與正在執(zhí)行的指令是否有檢測(cè)所選出的指令與正在執(zhí)行的指令是否有沖突。沖突。 MIPS處理機(jī)是怎樣實(shí)現(xiàn)超標(biāo)量的呢？假設(shè)：每個(gè)時(shí)鐘周期

34、流出兩條指令： 1 1條整數(shù)型指令條整數(shù)型指令1 1條浮點(diǎn)操作指令條浮點(diǎn)操作指令q其中：把其中：把loadload指令、指令、storestore指令、分支指令歸類為整數(shù)指令、分支指令歸類為整數(shù)型指令。型指令。 123123/137/1375.5 多指令流出技術(shù)1. 要求：同時(shí)取兩條指令（64位），譯碼兩條指令（64位）。2. 對(duì)指令的處理包括以下步驟：從Cache中取兩條指令；確定那幾條指令可以流出（02條指令）；把它們發(fā)送到相應(yīng)的功能部件。3. 雙流出超標(biāo)量流水線中指令執(zhí)行的時(shí)空?qǐng)D 假設(shè)：所有的浮點(diǎn)指令都是加法指令，其執(zhí)行時(shí)間為兩個(gè)時(shí)鐘周期。為簡(jiǎn)單起見，圖中總是把整數(shù)指令放在浮點(diǎn)指令的前面

35、。 124124/137/1375.5 多指令流出技術(shù)指令類型指令類型 流水線工作情況流水線工作情況 整數(shù)指令整數(shù)指令 IF ID EX MEM WB 浮點(diǎn)指令浮點(diǎn)指令 IF ID EX EXMEMWB 整數(shù)指令整數(shù)指令 IF ID EX MEM WB 浮點(diǎn)指令浮點(diǎn)指令 IF ID EX EXMEMWB 整數(shù)指令整數(shù)指令 IF ID EX MEM WB 浮點(diǎn)指令浮點(diǎn)指令 IF ID EX EXMEMWB 整數(shù)指令整數(shù)指令 IF ID EX MEM WB 浮點(diǎn)指令浮點(diǎn)指令 IF ID EX EXMEM125125/137/1375.5 多指令流出技術(shù)1. 采用“1條整數(shù)型指令1條浮點(diǎn)指令”并行流

36、出的方式，需要增加的硬件很少。2. 浮點(diǎn)load或浮點(diǎn)store指令將使用整數(shù)部件，會(huì)增加對(duì)浮點(diǎn)寄存器的訪問沖突。 增設(shè)一個(gè)浮點(diǎn)寄存器的讀/寫端口。3. 由于流水線中的指令多了一倍，定向路徑也要增加。 126126/137/1375.5 多指令流出技術(shù)1. 限制超標(biāo)量流水線的性能發(fā)揮的障礙 load指令 qloadload后續(xù)后續(xù)3 3條條指令都不能使用其結(jié)果，否則就會(huì)引起停指令都不能使用其結(jié)果，否則就會(huì)引起停頓。頓。 分支延遲 q如果分支指令是流出包中的第一條指令，則其延遲是如果分支指令是流出包中的第一條指令，則其延遲是3 3個(gè)個(gè)時(shí)鐘周期；時(shí)鐘周期；q否則就是流出包中的第二條指令，其延遲就是

37、否則就是流出包中的第二條指令，其延遲就是兩個(gè)兩個(gè)時(shí)時(shí)鐘周期。鐘周期。 127127/137/1375.5 多指令流出技術(shù)擴(kuò)展Tomasulo算法：支持雙流出超標(biāo)量流水線 q每個(gè)時(shí)鐘周期流出兩條指令；每個(gè)時(shí)鐘周期流出兩條指令；q一條是整數(shù)指令，另一條是浮點(diǎn)指令。一條是整數(shù)指令，另一條是浮點(diǎn)指令。1. 采用一種比較簡(jiǎn)單的方法：指令按順序流向保留站，否則會(huì)破壞程序語(yǔ)義。 將整數(shù)所用的表結(jié)構(gòu)與浮點(diǎn)用的表結(jié)構(gòu)分離開，分別進(jìn)行處理，這樣就可以同時(shí)地流出一條浮點(diǎn)指令和一條整數(shù)指令到各自的保留站。 5.5.2 基于動(dòng)態(tài)調(diào)度的多流出技術(shù)128128/137/1375.5 多指令流出技術(shù)1. 有兩種不同的方法可以

38、實(shí)現(xiàn)多流出 關(guān)鍵在于：關(guān)鍵在于：對(duì)保留站的分配和對(duì)流水線控制表格的修改。對(duì)保留站的分配和對(duì)流水線控制表格的修改。在半個(gè)時(shí)鐘周期里完成流出步驟，這樣一個(gè)時(shí)鐘周期就能處理兩條指令。設(shè)置一次能同時(shí)處理兩條指令的邏輯電路。 現(xiàn)代的流出現(xiàn)代的流出4 4條或條或4 4條以上指令的超標(biāo)量處理機(jī)條以上指令的超標(biāo)量處理機(jī)經(jīng)常是兩種方法都采用。經(jīng)常是兩種方法都采用。 129129/137/1375.5 多指令流出技術(shù) 例例5.55.5 對(duì)于采用了對(duì)于采用了TomasuloTomasulo算法和多流出技術(shù)的算法和多流出技術(shù)的MIPSMIPS流水線，流水線，考慮以下簡(jiǎn)單循環(huán)的執(zhí)行。該程序把考慮以下簡(jiǎn)單循環(huán)的執(zhí)行。該程

39、序把F2F2中的標(biāo)量加到一個(gè)向量的中的標(biāo)量加到一個(gè)向量的每個(gè)元素上。每個(gè)元素上。 Loop: L.D Loop: L.D F0, 0F0, 0（R1R1） / / 取一個(gè)數(shù)組元素放入取一個(gè)數(shù)組元素放入F0F0 ADD.D ADD.D F4, F0, F2 F4, F0, F2 / / 加上在加上在F2F2中的標(biāo)量中的標(biāo)量 S.D S.D F4, 0F4, 0（R1R1） / / 存結(jié)果存結(jié)果 DADDIU R1,R1DADDIU R1,R1，#-8#-8 / / 將指針減少將指針減少8 8（每個(gè)數(shù)據(jù)占（每個(gè)數(shù)據(jù)占8 8個(gè)字節(jié)）個(gè)字節(jié)） BNE R1,R2,LoopBNE R1,R2,Loop

40、/ / 若若R1R1不等于不等于R2R2，表示尚未結(jié)束，轉(zhuǎn)移到，表示尚未結(jié)束，轉(zhuǎn)移到LoopLoop繼續(xù)繼續(xù)。 130130/137/1375.5 多指令流出技術(shù)現(xiàn)做以下假設(shè)：q每個(gè)時(shí)鐘周期能流出一條整數(shù)指令和一條浮點(diǎn)指令，每個(gè)時(shí)鐘周期能流出一條整數(shù)指令和一條浮點(diǎn)指令，即使它們相關(guān)也是如此。即使它們相關(guān)也是如此。q有一個(gè)整數(shù)部件，用于整數(shù)有一個(gè)整數(shù)部件，用于整數(shù)ALUALU運(yùn)算和地址計(jì)算；并運(yùn)算和地址計(jì)算；并且對(duì)于每一種浮點(diǎn)操作類型都有一個(gè)獨(dú)立的流水化了且對(duì)于每一種浮點(diǎn)操作類型都有一個(gè)獨(dú)立的流水化了的浮點(diǎn)功能部件。的浮點(diǎn)功能部件。q指令流出和寫結(jié)果各占用一個(gè)時(shí)鐘周期。指令流出和寫結(jié)果各占用一個(gè)

41、時(shí)鐘周期。q具有動(dòng)態(tài)分支預(yù)測(cè)部件和一個(gè)獨(dú)立的計(jì)算分支條件的具有動(dòng)態(tài)分支預(yù)測(cè)部件和一個(gè)獨(dú)立的計(jì)算分支條件的功能部件。功能部件。q跟大多數(shù)動(dòng)態(tài)調(diào)度處理器一樣，寫回段的存在意味著跟大多數(shù)動(dòng)態(tài)調(diào)度處理器一樣，寫回段的存在意味著實(shí)際的指令延遲會(huì)比按序流動(dòng)的簡(jiǎn)單流水線多一個(gè)時(shí)實(shí)際的指令延遲會(huì)比按序流動(dòng)的簡(jiǎn)單流水線多一個(gè)時(shí)鐘周期。鐘周期。 131131/137/1375.5 多指令流出技術(shù)q所以，從產(chǎn)生結(jié)果數(shù)據(jù)的源指令到使用該結(jié)果數(shù)據(jù)的指令所以，從產(chǎn)生結(jié)果數(shù)據(jù)的源指令到使用該結(jié)果數(shù)據(jù)的指令之間的延遲為：整數(shù)運(yùn)算之間的延遲為：整數(shù)運(yùn)算一個(gè)一個(gè)周期，周期，load兩個(gè)兩個(gè)周期，浮點(diǎn)周期，浮點(diǎn)加法運(yùn)算加法運(yùn)算3個(gè)

42、個(gè)周期。周期。 1. 1. 請(qǐng)列出該程序前面請(qǐng)列出該程序前面3 3遍循環(huán)中各條指令的流出、開始執(zhí)行和將遍循環(huán)中各條指令的流出、開始執(zhí)行和將結(jié)果寫到結(jié)果寫到CDBCDB上的時(shí)間。上的時(shí)間。 2. 2. 如果分支指令單流出，沒有采用延遲分支，但分支預(yù)測(cè)是完如果分支指令單流出，沒有采用延遲分支，但分支預(yù)測(cè)是完美的。請(qǐng)列出整數(shù)部件、浮點(diǎn)部件、數(shù)據(jù)美的。請(qǐng)列出整數(shù)部件、浮點(diǎn)部件、數(shù)據(jù)CacheCache以及以及CDBCDB的資源使用的資源使用情況。情況。 解解 執(zhí)行時(shí)，該循環(huán)將動(dòng)態(tài)展開，并且只要可能就流出兩條指令。執(zhí)行時(shí)，該循環(huán)將動(dòng)態(tài)展開，并且只要可能就流出兩條指令。表中列出了各指令執(zhí)行到幾個(gè)操作點(diǎn)的時(shí)

43、間及資源的使用情況。表中列出了各指令執(zhí)行到幾個(gè)操作點(diǎn)的時(shí)間及資源的使用情況。 遍數(shù)遍數(shù) 指指 令令 流出流出 執(zhí)行執(zhí)行 訪存訪存 寫寫CDB CDB 說(shuō)明說(shuō)明 1 1L.D F0,0L.D F0,0（R1R1） 1 12 23 34 4流出第一條指令流出第一條指令 1 1ADD.D F4,F0,F2 ADD.D F4,F0,F2 1 15 58 8等待等待L.DL.D的結(jié)果的結(jié)果 1 1S.D F4,0S.D F4,0（R1R1） 2 23 39 9等待等待ADD.DADD.D的結(jié)果的結(jié)果 1 1DADDIU R1,R1,#-8 DADDIU R1,R1,#-8 2 24 45 5等待等待AL

44、UALU1 1BNE R1,R2,Loop BNE R1,R2,Loop 3 36 6等待等待DADDIUDADDIU的結(jié)果的結(jié)果 2 2L.D F0,0L.D F0,0（R1R1） 4 47 78 89 9等待等待BNEBNE完成完成 2 2ADD.D F4,F0,F2 ADD.D F4,F0,F2 4 410101313等待等待L.DL.D的結(jié)果的結(jié)果 2 2S.D F4,0S.D F4,0（R1R1） 5 58 81414等待等待ADD.DADD.D的結(jié)果的結(jié)果 2 2DADDIU R1,R1,#-8 DADDIU R1,R1,#-8 5 59 91010等待等待ALU ALU 2 2B

45、NE R1,R2,LoopBNE R1,R2,Loop6 61111等待等待DADDIUDADDIU的結(jié)果的結(jié)果 3 3L.D F0,0L.D F0,0（R1R1） 7 7121213131414等待等待BNEBNE完成完成 3 3ADD.D F4,F0,F2 ADD.D F4,F0,F2 7 715151818等待等待L.DL.D的結(jié)果的結(jié)果 3 3S.D F4,0S.D F4,0（R1R1） 8 813131919等待等待ADD.DADD.D的結(jié)果的結(jié)果 3 3DADDIU R1,R1,#-8 DADDIU R1,R1,#-8 8 814141515等待等待ALU ALU 3 3BNE R

46、1,R2,LoopBNE R1,R2,Loop9 91616等待等待DADDIUDADDIU的結(jié)果的結(jié)果 時(shí)鐘周期時(shí)鐘周期 整型整型ALU 浮點(diǎn)浮點(diǎn)ALU 數(shù)據(jù)數(shù)據(jù)Cache CDB21/L.D 31/S.D 1/L.D 41/DADDIU 1/L.D 51/ADD.D 1/DADDIU 672/L.D 82/S.D 2/L.D 1/ADD.D 92/DADDIU 1/S.D 2/L.D 102/ADD.D 2/DADDIU 11123/L.D 134134/137/1375.5 多指令流出技術(shù)時(shí)鐘周期時(shí)鐘周期 整型整型ALU 浮點(diǎn)浮點(diǎn)ALU 數(shù)據(jù)數(shù)據(jù)Cache CDB133/S.D 3/L.

47、D2/ADD.D143/DADDIU2/S.D3/L.D15 3/ADD.D3/DADDIU16 17183/ADD.D193/S.D 20 135135/137/1375.5 多指令流出技術(shù)可以看出：每3個(gè)時(shí)鐘周期就執(zhí)行一個(gè)新循環(huán)，每個(gè)循環(huán)5條指令。 IPCIPC5/35/31.671.67條條/ /拍拍雖然指令的流出率比較高，但是執(zhí)行效率并不是很高。q1616拍共執(zhí)行拍共執(zhí)行1515條指令，條指令，q平均指令執(zhí)行速度為平均指令執(zhí)行速度為15/1615/160.940.94條條/ /拍。拍。原因是浮點(diǎn)運(yùn)算少，ALU部件成了瓶頸。 解決方法：增加一個(gè)加法器，把ALU功能和地址運(yùn)算功能分開。 1

48、36136/137/1375.5 多指令流出技術(shù)1. 上述雙流出動(dòng)態(tài)調(diào)度流水線的性能受限于以下3個(gè)因素：整數(shù)部件和浮點(diǎn)部件的工作負(fù)載不平衡，沒有充分發(fā)揮出浮點(diǎn)部件的作用。 應(yīng)該設(shè)法減少循環(huán)中整數(shù)型指令的數(shù)量。應(yīng)該設(shè)法減少循環(huán)中整數(shù)型指令的數(shù)量。每個(gè)循環(huán)疊代中的控制開銷太大。q5 5條指令中有兩條指令是輔助指令；條指令中有兩條指令是輔助指令；q應(yīng)該設(shè)法減少或消除這些指令。應(yīng)該設(shè)法減少或消除這些指令?？刂葡嚓P(guān)使得處理機(jī)必須等到分支指令的結(jié)果出來(lái)后才能開始下一條L.D指令的執(zhí)行。 137137/137/1375.5 多指令流出技術(shù)1. 把能并行執(zhí)行的多條指令組裝成一條很長(zhǎng)的指令；（100100多位到

49、幾百位）多位到幾百位）2. 設(shè)置多個(gè)功能部件；3. 指令字被分割成一些字段，每個(gè)字段稱為一個(gè)操作槽，直接獨(dú)立地控制一個(gè)功能部件；4. 在VLIW處理機(jī)中，在指令流出時(shí)不需要進(jìn)行復(fù)雜的沖突檢測(cè)，而是依靠編譯器全部安排好了。 5.5.3 超長(zhǎng)指令字技術(shù)138138/137/1375.5 多指令流出技術(shù)1. VLIW存在的一些問題 程序代碼長(zhǎng)度增加了q提高并行性而進(jìn)行的大量的循環(huán)展開；提高并行性而進(jìn)行的大量的循環(huán)展開；q指令字中的操作槽并非總能填滿。指令字中的操作槽并非總能填滿。 解決：解決：采用指令共享立即數(shù)字段的方法，或者采用指采用指令共享立即數(shù)字段的方法，或者采用指 令壓縮存儲(chǔ)、調(diào)入令壓縮存儲(chǔ)

50、、調(diào)入CacheCache或譯碼時(shí)展開的方法。或譯碼時(shí)展開的方法。采用了鎖步機(jī)制 任何一個(gè)操作部件出現(xiàn)停頓時(shí)，整個(gè)處理機(jī)都要停頓。任何一個(gè)操作部件出現(xiàn)停頓時(shí)，整個(gè)處理機(jī)都要停頓。機(jī)器代碼的不兼容性139139/137/1375.5 多指令流出技術(shù)指令多流出處理器受哪些因素的限制呢？ 主要受以下3個(gè)方面的影響：q程序所固有的指令級(jí)并行性；程序所固有的指令級(jí)并行性；q硬件實(shí)現(xiàn)上的困難；硬件實(shí)現(xiàn)上的困難；q超標(biāo)量和超長(zhǎng)指令字處理器固有的技術(shù)限制。超標(biāo)量和超長(zhǎng)指令字處理器固有的技術(shù)限制。5.5.4 多流出處理器受到的限制140140/137/1375.5 多指令流出技術(shù)1. 將每個(gè)流水段進(jìn)一步細(xì)分，這樣在一個(gè)時(shí)鐘周期內(nèi)能夠分時(shí)流出多條指令。這種處理機(jī)稱為超流水線處理機(jī)。2. 對(duì)于一臺(tái)每個(gè)時(shí)鐘周期能流出n條指令的超流水線計(jì)算機(jī)來(lái)說(shuō)，這n條指令不是同時(shí)流出的，而是每隔1/n個(gè)時(shí)鐘周期流出一條指令。實(shí)際上該超流水線計(jì)算機(jī)的流水線周期為1/n個(gè)時(shí)鐘周期。 3. 一臺(tái)每個(gè)時(shí)鐘周期分時(shí)流出兩條指令的超流水線計(jì)算機(jī)的時(shí)空?qǐng)D。 5.5.5 超流水線處理機(jī)141141/137/1375.5 多指令流出技術(shù) IF IF I