《計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)》電子教案(課3)

第3章基本流水線技術(shù)(Pipeline，P53)

（指令級(jí)，順序執(zhí)行）

本章學(xué)習(xí)處理機(jī)在執(zhí)行指令過程中使用的流水加速技術(shù)。主要內(nèi)容有流水技術(shù)的分類、MIPS流水線、性能指標(biāo)計(jì)算、相關(guān)等。

不含向量指令的計(jì)算機(jī)稱為標(biāo)量計(jì)算機(jī)，含有向量指令的計(jì)算機(jī)稱為向量計(jì)算機(jī)。本章學(xué)習(xí)標(biāo)量流水線，第4章學(xué)習(xí)向量流水線。

標(biāo)量計(jì)算機(jī)的流水技術(shù)屬于指令級(jí)并行技術(shù)，向量計(jì)算機(jī)同時(shí)使用指令級(jí)、操作級(jí)并行技術(shù)。

流水處理方式的特征，是讓多個(gè)依次啟動(dòng)的任務(wù)，同時(shí)使用系統(tǒng)的不同部件，通過時(shí)間重疊來提高處理速率。這種技術(shù)理論上不增加成本。

每條指令的處理過程，可以劃分為取指、譯碼、取數(shù)、運(yùn)算、送結(jié)果5個(gè)子過程，也可以分得更細(xì)或更粗一些。劃分的原則是各部分時(shí)間長(zhǎng)度大致相等、并使用CPU中不同的部件，這樣才有利于多個(gè)子過程重疊處理。2011.2.201計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)3.1流水線的概念

CPU中的各個(gè)部件按流水處理順序連接起來，就稱為一條流水線。3.1.1流水線工作原理

處理機(jī)解釋程序的方式有順序方式、流水方式等。順序方式是解釋完一條指令再開始解釋下一條；流水方式是把一個(gè)重復(fù)的過程分解為若干個(gè)子過程，每個(gè)子過程可以與其它子過程同時(shí)進(jìn)行，以此提高單位時(shí)間內(nèi)解釋指令的數(shù)目。

下圖是流水線結(jié)構(gòu)圖(P54)2011.2.202計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)流水線工作時(shí)空?qǐng)D(P54)2011.2.203計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)3.1.2流水技術(shù)的分類(P55)線性/非線性：部件級(jí)/處理機(jī)級(jí)/處理機(jī)間級(jí)（宏流水線）：?jiǎn)喂δ?多功能：靜態(tài)/動(dòng)態(tài)：標(biāo)量/向量：同步/異步：順序/亂序：主整數(shù)單元(load、store、整數(shù)ALU、分支)浮點(diǎn)與整數(shù)乘法器浮點(diǎn)加法器(浮點(diǎn)加、減、轉(zhuǎn)換)浮點(diǎn)與整數(shù)除法器圖3.3MIPS的4條單功能流水線M0A0DIV(非流水，24Δt)EXIFIDMEMWBM1M2M3M4M5M6A1A2A3演示程序：DMULR1,R2,R3DMULR4,R5,R6SUB.DF1,F2,F3SUB.DF4,F5,F6LDR1,0(R0)2011.2.204計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)3.2.1吞吐率TP(1)實(shí)際吞吐率（TP───ThroughPut）指流水線在單位時(shí)間內(nèi)執(zhí)行的任務(wù)數(shù)，可以用輸入任務(wù)數(shù)或輸出任務(wù)數(shù)表示。其中n是任務(wù)數(shù)，是流水方式下總時(shí)間。當(dāng)滿足 條件時(shí)，有 ，其中k是段數(shù)。(2)最大吞吐率TPmax是n→∞情況下，只考慮流水線“滿載”運(yùn)行期間在單位時(shí)間內(nèi)執(zhí)行的任務(wù)數(shù)。3.2流水線性能指標(biāo)計(jì)算(P58)2011.2.205計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)(1)瓶頸：瓶頸就是Δti最大的段，它使流水線“流速”減慢（P59第3行）。

S1 S2 S3 S4

Δt 3Δt Δt Δt(2)方法1：細(xì)分───將瓶頸設(shè)備再細(xì)分為下一級(jí)流水線（P59）。

S1 S2a S2b S2c S3 S4

Δt Δt Δt Δt Δt Δt(3)方法2：設(shè)備重復(fù)───將瓶頸設(shè)備重復(fù)設(shè)置多套，輪番接受任務(wù)）。

S2a

3Δt S1 S2b S3 S4

Δt 3Δt Δt Δt S2c注意兩種方法的時(shí)空?qǐng)D不同。 3Δt“瓶頸”問題及其解決方法(P59)2011.2.206計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)對(duì)“設(shè)備重復(fù)”的分析

“設(shè)備重復(fù)”方法對(duì)“瓶頸”段的投入與產(chǎn)出倍數(shù)相同，局部性能/價(jià)格比沒有改善（本例局部變化率為3/3=1），但是整條流水線的性能也提高了相同的倍數(shù)，所以性能/價(jià)格比就提高了（本例全局變化率為3/1.5=2）。這也是Amdahl定律（加快最費(fèi)時(shí)間的事件）的一個(gè)具體應(yīng)用。2011.2.207計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)其中To是順序方式下總時(shí)間（Told），3.2.2加速比(即吞吐率之比)2011.2.208計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)段效率： ， 各段平均效率：其中表示第i段設(shè)備量占整條流水線全部設(shè)備量的百分比。當(dāng)滿足 條件（即“等長(zhǎng)”、“等權(quán)”）時(shí)，有：3.2.3效率（設(shè)備利用率）上式指出，S=E×k，就是說當(dāng)效率達(dá)到100%時(shí)，流水方式（每個(gè)Δt完成一個(gè)任務(wù)）吞吐率為順序方式（每k個(gè)Δt完成一個(gè)任務(wù)）的k倍。2011.2.209計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)例3.1(P62)分析：已知下列表達(dá)式，靜態(tài)二功能，有切換，有相關(guān)，k=8，n=7。要求用最少切換、最少相關(guān)算法。

Z=(A1+B1)(A2+B2)(A3+B3)(A4+B4)加法： ① ② ③ ④乘法： ⑤ ⑥乘法： ⑦時(shí)空?qǐng)D見教材圖3.11，算式見P62倒數(shù)第3行。例3.2(P62)（自學(xué)）2011.2.2010計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)例3.3（張晨曦2版P85例3.2）已知：一條流水線，CYCLE順序=10ns，CYCLE流水=11ns，各指令的時(shí)鐘周期數(shù)見右表。求最大加速比。解：題目未給出指令總數(shù)n，表示n=∞，這時(shí)TP達(dá)到TPmax定義每條指令延遲時(shí)間TPI=CPI×CYCLE最大加速比公式Smax=TPmax流水/TPmax順序=TPImax順序/TPImax流水

TPI順序=CPI順序×CYCLE順序=(4×40%+4×20%+5×40%)×10ns=44ns

TPI流水=MAX{Δti}=CYCLE流水=11ns（從公式3.7轉(zhuǎn)）代入公式得：最大加速比Smax=44ns/11ns=4倍2011.2.2011計(jì)算機(jī)系統(tǒng)結(jié)構(gòu)例3.4（張晨曦2版P85例3.3）已知：一條RISC流水線，各段時(shí)間如右表（單位ns），求最大加速比。解：題目同樣未給出指令總數(shù)n，同樣使用最大加速比公式Smax=TPImax順序/TPImax流水

TPI順序=(10+8+10+10+7)ns=45ns