第五章中央處理器-4指令流水線

計算機組成原理

——中央處理器(4)2016-4-20第5章中央處理器5.1CPU的功能和組成5.1.1CPU的功能5.1.2CPU的基本組成5.1.3CPU中的主要寄存器5.1.4操作控制器與時序產(chǎn)生器5.2指令周期5.2.1指令周期的基本概念5.2.2MOV指令的指令周期5.2.3LAD指令的指令周期5.2.4ADD指令的指令周期5.2.5STO指令的指令周期5.2.6JMP指令的指令周期5.2.7用方框圖語言表示指令周期5.3時序產(chǎn)生器和控制方式

5.3.1時序信號的作用和體制5.3.2時序信號產(chǎn)生器5.3.3控制方式5.4微程序控制器5.4.1微程序控制器原理5.4.2微程序設(shè)計技術(shù)5.5硬連線控制器5.6流水CPU5.6.1并行處理技術(shù)5.6.2流水CPU的結(jié)構(gòu)5.6.3流水線中的主要問題5.6.4奔騰CPU5.7RISCCPU5.7.1RISC機器的特點5.7.2RISCCPU實例5.7.3動態(tài)流水線調(diào)度計算機組成原理25.6流水CPU5.6.1并行處理技術(shù)5.6.2流水CPU的結(jié)構(gòu)5.6.3流水線中的主要問題5.6.4奔騰CPU計算機組成原理35.6.1并行處理技術(shù)早期的計算機基于馮·洛依曼的體系結(jié)構(gòu)，采用串行處理，即任何時刻只能執(zhí)行一個操作；并行性（Parrelism）概念具有可以同時進行運算或操作的特性例：在相同時間的條件下，用n位運算器進行n位并行運算速度幾乎是一位運算器進行n位串行運算的n倍（狹義）（廣義）含義→只要在同一時刻（同時性）或在同一時間間隔內(nèi)（并發(fā)性）完成兩種或兩種以上性質(zhì)相同或不同的工作，他們在時間上相互重疊，都體現(xiàn)了并行性；計算機組成原理45.6.1并行處理技術(shù)三種形式時間并行（時間重疊）：讓多個處理過程在時間上相互錯開，輪流重疊地使用同一套硬件設(shè)備的各個部件，以加快硬件周轉(zhuǎn)而贏得速度，實現(xiàn)方式就是采用流水處理部件；空間并行（資源重復(fù)）：以數(shù)量取勝；它能真正的體現(xiàn)同時性；LSI和VLSI為其提供了技術(shù)保證；時間+空間并行Pentium中采用了超標(biāo)量流水線技術(shù)；計算機組成原理55.6.2流水CPU的結(jié)構(gòu)1、流水計算機的系統(tǒng)組成存儲器體系→主存采用多體交叉存儲器；CacheCPU流水方式→分成指令部件、指令隊列、執(zhí)行部件三部分(三級流水線)；第一級流水線→指令流水線；第二級流水線→指令隊列FIFO流水線：存放譯碼后的指令+取來的各個操作數(shù)；第三級流水線→執(zhí)行部件流水線：可以由多個采用流水線方式構(gòu)成的算術(shù)邏輯部件構(gòu)成；比如：將定點運算部件和浮點運算部件分開；將浮點加法部件和浮點乘除部件分開(浮點運算部件都以流水線方式工作)。計算機組成原理65.6.2流水CPU的結(jié)構(gòu)2、流水線CPU時空圖為了實現(xiàn)流水，必須把一個任務(wù)分成若干個能夠在流水線的各個階段并發(fā)執(zhí)行的子任務(wù)；IF→InstructionFetch取指;ID→InstructionDecode指令譯碼;EX→Execution執(zhí)行;WD→WriteData結(jié)果寫回;假設(shè)每個子任務(wù)執(zhí)行需要一個時鐘周期；計算機組成原理75.6.2流水CPU的結(jié)構(gòu)標(biāo)量流水計算機→只有一條指令流水線；超標(biāo)量流水計算機→有多條指令流水線，超標(biāo)度N表示就有N條流水線，上述超標(biāo)量計算機的超標(biāo)度為2；計算機組成原理85.6.2流水CPU的結(jié)構(gòu)具有兩條以上的指令流水線；上圖中流水線滿載時，每一個時鐘周期可以執(zhí)行2條指令；采用時間和空間并行技術(shù)；計算機組成原理95.6.2流水CPU的結(jié)構(gòu)計算機組成原理105.6.2流水CPU的結(jié)構(gòu)計算機組成原理115.6.2流水CPU的結(jié)構(gòu)3、流水線（Pipelining）的分類(按不同并行級別分類)

指令流水線→將指令流的處理過程分成取指、譯碼、取操作數(shù)、執(zhí)行、寫回等若干個并行處理的過程段進行流水；算術(shù)流水線→指運算操作步驟的流水，如設(shè)置流水加法器、流水乘法器等；處理機流水線(宏流水線)→設(shè)置若干臺處理機構(gòu)成流水線的各個過程段，每臺處理機負責(zé)一個特定的任務(wù)；數(shù)據(jù)流從一臺處理機依次流過各臺處理機進行相關(guān)操作；如浮點加法器(0操作數(shù)檢查、對階、尾數(shù)相加、規(guī)格化、舍入處理等)；計算機組成原理125.6.3流水線中的主要問題三種相關(guān)沖突→資源相關(guān)、數(shù)據(jù)相關(guān)、控制相關(guān)1、資源相關(guān)→多條指令進入流水線后在同一時鐘周期內(nèi)爭用同一功能部件。

IF(取指)、ID(譯碼)、EX(計算有效地址或執(zhí)行)、MEM(訪存取數(shù))、WB(寫回)解決辦法→①.后續(xù)指令拖一個節(jié)拍后再推進；②.增設(shè)功能部件；計算機組成原理135.6.3流水線中的主要問題2、數(shù)據(jù)相關(guān)→三種數(shù)據(jù)相關(guān)：(1)寫后讀的數(shù)據(jù)相關(guān)RAW(ReadAfterWrite)→后面指令運行需要用到前面指令所寫的數(shù)據(jù)；比如下列程序：

ADDR1,R2,R3;(R1←R2+R3)SUBR4,R1,R5;(R4←R1-R5)ANDR6,R1,R7;(R6←R1·R7)(2)讀后寫的數(shù)據(jù)相關(guān)WAR(WriteAfterRead)→后面指令覆蓋前面指令所讀的單元(在簡單流水線中沒有此類相關(guān))；ANDR3,R4 ;(R3←R3+R4)后完成

MOVR4,R5 ;(R4←R4×R5)先完成計算機組成原理145.6.3流水線中的主要問題(3)寫后寫的數(shù)據(jù)相關(guān)WAW(WriteAfterWrite)→兩條指令寫同一個單元(在簡單流水線中沒有此類相關(guān)，因為不會亂序執(zhí)行)；LDAR6,B ;(R6←M(B)存儲單元)后完成MULR6,R7 ;(R6←R6×R7)先完成計算機組成原理155.6.3流水線中的主要問題數(shù)據(jù)相關(guān)的解決辦法：(1)可以推后后繼指令對相關(guān)單元的讀操作；(2)設(shè)置相關(guān)的直接通路（Forwarding）；(3)設(shè)置若干個運算結(jié)果緩沖寄存器，用來暫時存放運算結(jié)果，以便后繼指令直接使用，稱之為定向傳輸技術(shù)；計算機組成原理165.6.3流水線中的主要問題3、控制相關(guān)→由于轉(zhuǎn)移指令而引起流水線斷流(有時可能出錯等)現(xiàn)象；控制相關(guān)解決辦法：(1).延遲轉(zhuǎn)移法→由編譯程序重排指令序列來實現(xiàn)，基本思想是“先執(zhí)行在轉(zhuǎn)移”即發(fā)生轉(zhuǎn)移取指時不排空流水線，讓緊跟轉(zhuǎn)移指令之后的已經(jīng)進入流水線的少數(shù)指令繼續(xù)完成(這種方法不是始終有效)。(2).轉(zhuǎn)移預(yù)測法→硬件依據(jù)指令過去的行為來預(yù)測將來的行為。通過使用轉(zhuǎn)移取指預(yù)取隊列器、順序取指預(yù)取隊列器和目標(biāo)指令cache,可將轉(zhuǎn)移預(yù)測提前到取指階段進行；計算機組成原理175.6.3流水線中的主要問題[例4]流水線中有三類數(shù)據(jù)相關(guān)沖突：寫后讀(RAW)相關(guān)；讀后寫(WAR)相關(guān)；寫后寫(WAW)相關(guān)。判斷以下三組指令各存在哪種類型的數(shù)據(jù)相關(guān)。(1)I1ADD

R1，R2，R3；R1

←

(R2)+(R3)I2SUB

R4，R1，R5；R4←

(R1)-(R5)(2)I3STO

M(x)，R3；M(x)←(R3),M(x)是存儲器單元I4ADD

R3，R4，R5；R3←(R4)+(R5)(3)I5MUL

R3，R1，R2；R3←(R1)×(R2)I6ADD

R3，R4，R5；R3←(R4)+(R5)計算機組成原理185.6.3流水線中的主要問題[解]：第(1)組指令中，I1指令運算結(jié)果應(yīng)先寫入R1,然后在I2指令中讀出R1內(nèi)容。由于I2指令進入流水線，變成I2指令在I1指令寫入R1前就讀出R1內(nèi)容,發(fā)生RAW相關(guān)。第(2)組指令中，I3指令應(yīng)先讀出R3內(nèi)容并存入存儲單元M(x)，然后在I4指令中將運算結(jié)果寫入R3。但由于I4指令進入流水線，變成I4指令在I3指令讀出R3內(nèi)容前就寫入R3，發(fā)生WAR相關(guān)。第(3)組指令中，如果I6指令的加法運算完成時間早于I5指令的乘法運算時間，變成指令I(lǐng)6在指令I(lǐng)5寫入R3前就寫入R3，導(dǎo)致R3的內(nèi)容錯誤，發(fā)生WAW相關(guān)。計算機組成原理195.6.4流水線性能1.吞吐率單位時間內(nèi)流水線所完成指令或輸出結(jié)果的數(shù)量最大吞吐率實際吞吐率連續(xù)處理n條指令的吞吐率為設(shè)m

段的流水線各段時間為ΔtTpmax=Δ1tTp=m

·Δ

+(n-1)·

Δ

ntt2.加速比Sp

m

段的流水線的速度與等功能的非流水線的速度之比設(shè)流水線各段時間為Δt完成n

條指令在m

段流水線上共需

T=m

·

+(n-1)·

ttΔΔ完成

n條指令在等效的非流水線上共需

T

′=nm

·tΔSp

=

m

·+(n-1)·

nm·=nmm

+n-1

ΔtΔΔtt

則5.6.4流水線性能由于流水線有建立時間和排空時間因此各功能段的設(shè)備不可能一直處于工作狀態(tài)

流水線中各功能段的利用率3.效率mΔt31245312453124531245………………………………n-1nn-1nn-1nn-1nT時間S空間空間S4S3S2S1(n-1)Δt5.6.4流水線性能m(m

+n-1)Δt

=mnΔt

流水線各段處于工作時間的時空區(qū)流水線中各段總的時空區(qū)

效率=3.效率流水線中各功能段的利用率5.6.4流水線性能mΔt31245312453124531245………………………………n-1nn-1nn-1nn-1nT時間S空間空間S4S3S2S1(n-1)Δt小結(jié)并行處理技術(shù)可貫穿于信息加工的各個步驟和階段。概括起來，主要有三種形式：①時間并行；②空間并行；③時間并行+空間并行。流水CPU是以時間并行性為原理構(gòu)造的處理機，是一種非常經(jīng)濟而實用的并行技術(shù)。目前的高性能微處理機幾乎無一例外地