計(jì)算機(jī)體系結(jié)構(gòu)cha-2.ppt

3 向量的流水處理與向量流水處理機(jī),將向量數(shù)據(jù)表示和流水線技術(shù)結(jié)合起來，構(gòu)成向量流水處理機(jī)，簡(jiǎn)稱向量處理機(jī)（Vector Processor） 向量的流水處理 向量流水處理機(jī),向量的流水處理,提高流水性能方法： 增加流水線段數(shù)，以減少t 每個(gè)時(shí)鐘同時(shí)啟動(dòng)多條指令 減少相關(guān)，減少功能變換次數(shù)，增加處理指令條數(shù)。,向量的流水處理（續(xù)）,向量操作特點(diǎn) 向量元素間操作相互獨(dú)立，且為相同操作 相當(dāng)于標(biāo)量循環(huán)，對(duì)指令帶寬的訪問要求不高 可采用多體交叉存儲(chǔ)器，減少訪存延遲。 向量操作很適合于流水處理或并行處理。,向量的流水處理（續(xù)）,向量處理過程 置VL、VM、A 取向量到V 運(yùn)算。 向量的分量間采取的是流水方式。 并行處理機(jī)(SIMD)處理向量時(shí)采取的是并行方式。,向量的流水處理（續(xù)）,向量處理工作方式 如：D=A(B+C) 橫向加工：bi+ci-k, k*ai-di 產(chǎn)生N次相關(guān)，2N次功能切換，適合標(biāo)量循環(huán) 縱向加工：bi+ci-ki, ki*ai-di 產(chǎn)生1次相關(guān)，1次功能切換，可流水處理 縱橫處理：對(duì)向量分組，組內(nèi)縱向、組間橫向處理,向量流水處理機(jī),向量流水處理機(jī)的指令系統(tǒng) 向量流水處理機(jī)的結(jié)構(gòu) 超級(jí)向量流水處理機(jī)舉例,向量流水處理機(jī)的指令系統(tǒng),包含有向量型和標(biāo)量型兩類指令 向量型運(yùn)算類指令 向量V1運(yùn)算得向量V2，如V2=SIN(V1) 向量V運(yùn)算得標(biāo)量S，如 向量V1與向量V2運(yùn)算得向量V3，V3=V1V2 向量V1與標(biāo)量S運(yùn)算得向量V2，V2=S*V1 特殊操作指令 向量比較指令 向量壓縮指令 歸并指令 向量傳送指令,向量流水處理機(jī)的結(jié)構(gòu),1972年首次交付使用CRAY-1向量流水處理機(jī) 分布異構(gòu)型多處理機(jī)系統(tǒng)，由中央處理機(jī)、診斷維護(hù)控制處理機(jī)、大容量磁盤存儲(chǔ)子系統(tǒng)、前端處理機(jī)組成 6個(gè)流水線單功能部件：整數(shù)加、邏輯運(yùn)算、移位、浮點(diǎn)加、浮點(diǎn)乘和浮點(diǎn)迭代求倒數(shù) 向量寄存器由512個(gè)64位寄存器組成，分成8組,超級(jí)向量流水處理機(jī)舉例,1972年成立CRAY公司，至今生產(chǎn)了400臺(tái)以上的超級(jí)計(jì)算機(jī) 1979年CRAY-1S，CRAY-1改進(jìn)型，有10條流水線 1983年CRAY X-MP,用4臺(tái)CRAY-1 1985年CRAY-2S 1988年CRAY Y-MP，8臺(tái)處理機(jī) 1991年CRAY Y-MP C-90 1996年12月，克雷研究公司也被SGI公司以7.5億美元收購 2000年，被Tera公司合并，同年更名Cray 目前產(chǎn)品：MTA、SV1、SX_6、T3E 2002年Cray X1。運(yùn)算速度最高為每秒52萬億次，支持65.5TB存儲(chǔ)器。 宣布了在2010年以前實(shí)現(xiàn)能夠連續(xù)地處理每秒1000萬億次 Cray公司稱，他們將在2008年使用四核心的AMD Opteron處理器建造XT4超級(jí)計(jì)算機(jī)，并將在2009年接近1Pflops（每秒1000萬億次浮點(diǎn)運(yùn)算）能力。 網(wǎng)址：,超級(jí)向量流水處理機(jī)舉例（續(xù)）,CDC公司1973年推出第一臺(tái)超級(jí)計(jì)算機(jī)STAR-100 1964年CDC-6600 RISC特征 1982年 CYBER 205 1999年 被Syntegra收購 ETA10：8個(gè)CPU 網(wǎng)址：,幾種超級(jí)計(jì)算機(jī)的向量性能和標(biāo)量性能,向量平衡點(diǎn)（vector balance point)定義為：為了使向量硬件設(shè)備和標(biāo)量硬件設(shè)備的利用率相等，一個(gè)程序中向量代碼所占的百分比。,4 指令級(jí)高度并行的超級(jí)計(jì)算機(jī),超標(biāo)量處理機(jī) 超流水線處理機(jī) 超標(biāo)量超流水線處理機(jī) 超長(zhǎng)指令字處理機(jī),超標(biāo)量處理機(jī),采用多指令流水線（度=m） 配置多套功能部件、指令譯碼電路和多組總線，并且寄存器也備有多個(gè)端口和多組總線。 適合于求解稀疏向量、矩陣 IBM RS/6000、DEC 21064、Intel i960CA、Tandem Cyclone（颶風(fēng)）等,超標(biāo)量處理機(jī)（續(xù)）,超標(biāo)量處理機(jī)基本結(jié)構(gòu),一般流水線處理機(jī)： 一條指令流水線 一個(gè)多功能操作部件，每個(gè)時(shí)鐘周期平均執(zhí)行指令的條數(shù)小于1。 多操作部件處理機(jī)： 一條指令流水線 多個(gè)獨(dú)立的操作部件，操作部件可以采用流水線，也可以不流水 多操作部件處理機(jī)的指令級(jí)并行度小于1 超標(biāo)量處理機(jī)典型結(jié)構(gòu)： 多條指令流水線 進(jìn)的超標(biāo)量處理機(jī)有：定點(diǎn)處理部件CPU，浮點(diǎn)處理部件FPU,圖形加速部件GPU 大量的通用寄存器，兩個(gè)一級(jí)高速Cache 超標(biāo)量處理機(jī)的指令級(jí)并行度大于1,舉例： Motorola公司的MC88110,10個(gè)操作部件 兩個(gè)寄存器堆：整數(shù)部件通用寄存器堆，32個(gè)32位寄存器；浮點(diǎn)部件擴(kuò)展寄存器堆，32個(gè)80位寄存器。每個(gè)寄存器堆有8個(gè)端口，分別與8條內(nèi)部總線相連接，有一個(gè)緩沖深度為4的先行讀數(shù)棧和一個(gè)緩沖深度為3的后行寫數(shù)棧。 兩個(gè)獨(dú)立的高速Cache中，各為8KB，采用兩路組相聯(lián)方式。 轉(zhuǎn)移目標(biāo)指令Cache，在有兩路分支時(shí)，存放其中一路分支上的指令,超標(biāo)量處理機(jī)MC88110的結(jié)構(gòu),單發(fā)射與多發(fā)射,單發(fā)射處理機(jī)： 每個(gè)周期只取一條指令、只譯碼一條指令，只執(zhí)行一條指令，只寫回一運(yùn)算結(jié)果 取指部件和譯碼部件各設(shè)置一套 可以只設(shè)置一個(gè)多功能操作部件，也可以設(shè)置多個(gè)獨(dú)立的操作部件 操作部件中可以采用流水線結(jié)構(gòu)，也可以不采用流水線結(jié)構(gòu) 設(shè)計(jì)目標(biāo)是每個(gè)時(shí)鐘周期平均執(zhí)行一條指令，ILP的期望值1,單發(fā)射處理機(jī)的指令流水線時(shí)空?qǐng)D,單發(fā)射與多發(fā)射（續(xù)）,多發(fā)射處理機(jī)： 每個(gè)周期同時(shí)取多條指令、同時(shí)譯碼多條指令，同時(shí)執(zhí)行多條指令，同時(shí)寫回多個(gè)運(yùn)算結(jié)果 需要多個(gè)取指令部件，多個(gè)指令譯碼部件和多個(gè)寫結(jié)果部件 設(shè)置多個(gè)指令執(zhí)行部件，復(fù)雜的指令執(zhí)行部件一般采用流水線結(jié)構(gòu) 設(shè)計(jì)目標(biāo)是每個(gè)時(shí)鐘周期平均執(zhí)行多條指令，ILP的期望值大于1,多發(fā)射處理機(jī)的指令流水線時(shí)空?qǐng)D,超標(biāo)量處理機(jī)： 一個(gè)時(shí)鐘周期內(nèi)能夠同時(shí)發(fā)射多條指令的處理機(jī)稱為超標(biāo)量處理機(jī) 必須有兩條或兩條以上能夠同時(shí)工作的指令流水線 先行指令窗口： 能夠從指令Cache中預(yù)取多條指令 能夠?qū)Υ翱趦?nèi)的指令進(jìn)行數(shù)據(jù)相關(guān)性分析和功能部件沖突的檢測(cè) 窗口的大小：一般為2至8條指令 采用目前的指令調(diào)度技術(shù)，每個(gè)周期發(fā)射2至4條指令比較合理,舉例,Intel公司的i860、i960、Pentium處理機(jī)， Motolora公司的MC88110處理機(jī)，IBM公司的Power 6000處理機(jī)等每個(gè)周期都發(fā)射兩條指令 TI公司生產(chǎn)的SuperSPARC處理機(jī)以及Intel的Pentium III處理機(jī)等每個(gè)周期發(fā)射三條指令 操作部件的個(gè)數(shù)多于每個(gè)周期發(fā)射的指令條數(shù)。4個(gè)至16個(gè)操作部件 超標(biāo)量處理機(jī)的指令級(jí)并行度：1ILPm；m為每個(gè)周期發(fā)射的指令條數(shù)。,超流水線處理機(jī),兩種定義： 一個(gè)周期內(nèi)能夠分時(shí)發(fā)射多條指令的處理機(jī)稱為 超流水線處理機(jī)。 指令流水線有8個(gè)或更多功能段的流水線處理機(jī)稱為超流水線處理機(jī)。 提高處理機(jī)性能的不同方法： 超標(biāo)量處理機(jī)是通過增加硬件資源為代價(jià)來換取處理機(jī)性能的。 超流水線處理機(jī)則通過各硬件部件充分重疊工作來提高處理機(jī)性能。 兩種不同并行性： 超標(biāo)量處理機(jī)采用的是空間并行性 超流水線處理機(jī)采用的是時(shí)間并行性,指令執(zhí)行時(shí)序,每隔1/n個(gè)時(shí)鐘周期發(fā)射一條指令，流水線周期為1/n個(gè)時(shí)鐘周期 在超標(biāo)量處理機(jī)中，流水線的有些功能段還可以進(jìn)一步細(xì)分 例如：ID功能段可以再細(xì)分為譯碼、讀第一操作數(shù)和讀第二操作數(shù)三個(gè)流水段。也有些功能段不能再細(xì)分，如WR功能段一般不再細(xì)分。 因此有超流水線的另外一種定義：有8個(gè)或8個(gè)以上流水段的處理機(jī)稱為超流水線處理機(jī),超流水線處理機(jī)（續(xù)）,每個(gè)時(shí)鐘周期分時(shí)發(fā)送3條指令的超流水線,舉例： MIPS R4000,MIPS R4000處理機(jī)每個(gè)時(shí)鐘周期包含兩個(gè)流水段，是一種很標(biāo)準(zhǔn)的超流水線處理機(jī)結(jié)構(gòu)。指令流水線有8個(gè)流水段 有兩個(gè)Cache，指令Cache和數(shù)據(jù)Cache的容量各8KB，每個(gè)時(shí)鐘周期可以訪問Cache兩次，因此在一個(gè)時(shí)鐘周期內(nèi)可以從指令Cache中讀出兩條指令，從數(shù)據(jù)Cache中讀出或?qū)懭雰蓚€(gè)數(shù)據(jù)。 主要運(yùn)算部件有整數(shù)部件和浮點(diǎn)部件,MIPS R4000處理機(jī)的流水線操作,MIPS R4000正常指令流水線工作時(shí)序,超標(biāo)量超流水線處理機(jī),把超標(biāo)量與超流水線技術(shù)結(jié)合在一起，就成為超標(biāo)量超流水線處理機(jī) 指令執(zhí)行時(shí)序 超標(biāo)量超流水線處理機(jī)在一個(gè)時(shí)鐘周期內(nèi)分時(shí)發(fā)射指令n次，每次同時(shí)發(fā)射指令m條，每個(gè)時(shí)鐘周期總共發(fā)射指令m n條。,每時(shí)鐘周期發(fā)射3次,每次3條指令,舉例： DEC公司的Alpha,DEC公司的Alpha處理機(jī)采用超標(biāo)量超流水線結(jié)構(gòu)。主要由四個(gè)功能部件和兩個(gè)Cache組成：整數(shù)部件EBOX、浮點(diǎn)部件FBOX、地址部件ABOX和中央控制部件IBOX。 中央控制部件IBOX可以同時(shí)從指令Cache中讀入兩條指令，同時(shí)對(duì)讀入的兩條指令進(jìn)行譯碼，并且對(duì)這兩條指令作資源沖突檢測(cè)，進(jìn)行數(shù)據(jù)相關(guān)性和控制相關(guān)性分析。如果資源和相關(guān)性允許，IBOX就把兩條指令同時(shí)發(fā)射給EBOX、ABOX和FBOX三個(gè)指令執(zhí)行部件中的兩個(gè)。 指令流水線采用順序發(fā)射亂序完成的控制方式。在指令Cache中有一個(gè)轉(zhuǎn)移歷史表，實(shí)現(xiàn)條件轉(zhuǎn)移的動(dòng)態(tài)預(yù)測(cè)。在EBOX內(nèi)還有多條專用數(shù)據(jù)通路，可以把運(yùn)算結(jié)果直接送到執(zhí)行部件。,舉例： DEC公司的Alpha,Alpha 21064處理機(jī)共有三條指令流水線整數(shù)操作流水線和訪問存儲(chǔ)器流水線分為7個(gè)流水段，其中，取指令和分析指令為4個(gè)流水段，運(yùn)算2個(gè)流水段，寫結(jié)果1個(gè)流水段。浮點(diǎn)操作流水線分為10個(gè)流水段，其中，浮點(diǎn)執(zhí)行部件FBOX的延遲時(shí)間為6個(gè)流水段。 所有指令執(zhí)行部件EBOX、IBOX、ABOX和FBOX中都設(shè)置由專用數(shù)據(jù)通路。 析指令為4個(gè)流水段，運(yùn)算2個(gè)流水段，寫結(jié)果1個(gè)流水段。浮點(diǎn)操作流水線分為10個(gè)流水段，其中，浮點(diǎn)執(zhí)行部件FBOX的延遲時(shí)間為6個(gè)流水段。 所有指令執(zhí)行部件EBOX、IBOX、ABOX和FBOX中都設(shè)置由專用數(shù)據(jù)通路。 Alpha 21064處理機(jī)的三條指令流水線的平均段數(shù)為8段，每個(gè)時(shí)鐘周期發(fā)射兩條指令。因此，Alpha 21064處理機(jī)是超標(biāo)量超流水線處理機(jī)。,三種指令級(jí)并行處理機(jī)性能比較,超標(biāo)量處理機(jī)、超流水線處理機(jī)和超標(biāo)量超流水線處理機(jī)相對(duì)于單流水線普通標(biāo)量處理機(jī)的性能曲線。,結(jié)論,三種處理機(jī)的性能關(guān)系超標(biāo)量處理機(jī)的相對(duì)性能最高，其次是超標(biāo)量超流水線處理機(jī)，超流水線處理機(jī)的相對(duì)性能最低，主要原因如下： 超標(biāo)量處理機(jī)在每個(gè)時(shí)鐘周期的一開始就同時(shí)發(fā)射多條指令，而超流水線處理機(jī)則要把一個(gè)時(shí)鐘周期平均分成多個(gè)流水線周期，每個(gè)流水線周期發(fā)射一條指令；因此，超流水線處理機(jī)的啟動(dòng)延遲比超標(biāo)量處理機(jī)大。,結(jié)論（續(xù)）,條件轉(zhuǎn)移造成的損失，超流水線處理機(jī)要比超標(biāo)量處理機(jī)大。 在指令執(zhí)行過程中的每一個(gè)功能段，超標(biāo)量處理機(jī)都重復(fù)設(shè)置有多個(gè)相同的指令執(zhí)行部件，而超流水線處理機(jī)只是把同一個(gè)指令執(zhí)行部件分解為多個(gè)流水級(jí)；因此，超標(biāo)量處理機(jī)指令執(zhí)行部件的沖突要比超流水線處理機(jī)小。,結(jié)論（續(xù)）,實(shí)際指令級(jí)并行度與理論指令級(jí)并行度的關(guān)系 當(dāng)橫坐標(biāo)給出的理論指令級(jí)并行度比較低時(shí)，處理機(jī)的實(shí)際指令級(jí)并行度的提高比較快。 當(dāng)理論指令級(jí)并行度進(jìn)一步增加時(shí)，處理機(jī)實(shí)際指令級(jí)并行度提高的速度越來越慢。 在實(shí)際設(shè)計(jì)超標(biāo)量、超流水線、超標(biāo)量超流水線處理機(jī)的指令級(jí)并行度時(shí)要適當(dāng)，否則，有可能造成花費(fèi)了大量的硬件，但實(shí)際上處理機(jī)所能達(dá)到的指令級(jí)并行度并不高。 目前，一般認(rèn)為，m 和 n 都不要超過4。,結(jié)論（續(xù)）,最大指令級(jí)并行度 一個(gè)特定程序由于受到本身的數(shù)據(jù)相關(guān)和控制相關(guān)的限制，它的指令級(jí)并行度的最大值是有限的，是有個(gè)確定的值。這個(gè)最大值主要由程序自身的語義來決定，與這個(gè)程序運(yùn)行在那一種處理機(jī)上無關(guān)。對(duì)于某一個(gè)特定的程序，圖中的三條曲線最終都要收攏到同一個(gè)點(diǎn)上。當(dāng)然，對(duì)于各個(gè)不同程序，這個(gè)收攏點(diǎn)的位置也是不同的。,超標(biāo)量處理機(jī)： Intel公司的i860, i960, Pentium處理機(jī) Motolora公司的MC88110 IBM公司的Power 6000 SUN公司的SuperSPARC等 超流水線處理機(jī)： SGI公司的MIPS R4000, R5000, R10000等 超標(biāo)量超流水線處理機(jī)： DEC公司的Alpha等,超標(biāo)量、超流水、超標(biāo)量超流水處理機(jī)的主要性能,超長(zhǎng)指令字處理機(jī)(VLIW),VLIW (Very Long Instruction Word) 是將水平型微碼和超標(biāo)量處理兩者結(jié)合的結(jié)構(gòu) 指令字長(zhǎng)可達(dá)數(shù)百位，多個(gè)功能部件并發(fā)工作，共享大容量寄存器堆。 是一種單指令多操作碼多數(shù)據(jù)的系統(tǒng)結(jié)構(gòu)（SIMOMD）,超長(zhǎng)指令字處理機(jī)（續(xù)）,超長(zhǎng)指令字處理機(jī)（續(xù)）,EPIC Explicitly Parallel Instruction Computing,顯性并行指令計(jì)算 1994年,Intel和HP決定聯(lián)合開發(fā)新一代微處理器基于IA-64架構(gòu)的Merced,并共同定義了顯性并行指令計(jì)算技術(shù)EPIC. IA-64指令系統(tǒng)的統(tǒng)稱。 集成RISC和VLIW各自的優(yōu)勢(shì)技術(shù)，指令字長(zhǎng)為128位，包含三個(gè)40位的指令和一個(gè)8位的模版代碼。 每個(gè)指令分為多個(gè)獨(dú)立的操作字段，每個(gè)字段可分別控制各個(gè)功能部件并行工作，而模版中包含各指令間并行處理的信息，依據(jù)模版代碼信息，可同時(shí)在不同的執(zhí)行單元中執(zhí)行三條沒有相關(guān)性的指令，控制并行處理關(guān)系，提高并行處理能力,EPIC,EPIC是一種超越超標(biāo)量的新模式,它克服了VLIW處理器的缺點(diǎn),實(shí)現(xiàn)下面的3步： 由編譯器先分析指令間的依賴關(guān)系； 編譯器將沒有依賴關(guān)系的指令,按最多是3個(gè)指令為一組,組合成多個(gè)“組”； 由內(nèi)置的執(zhí)行單元將分成組的指令群并行執(zhí)行。 因每條指令究竟分給哪一個(gè)執(zhí)行單元是由軟件決定的,因而利用簡(jiǎn)單的硬件就可以提高指令的并行度,降低了處理器的制造成本。,RVIP技術(shù)和CRVIP技術(shù),RVIP(RISC-VLIW Processor)技術(shù)和CRVIP（CISC-RISC-VLIW Processor）技術(shù)是將RISC超標(biāo)量結(jié)構(gòu)與VLIW技術(shù)融為一體,或?qū)RIP(CISC-RISC Processor)混合結(jié)構(gòu)與VLIW技術(shù)融為一體的技術(shù). 在融合VLIW和超標(biāo)量結(jié)構(gòu)技術(shù)的RVIP型或者CRVIP型微處理機(jī)中,將不必在其執(zhí)行部件中設(shè)置復(fù)雜的執(zhí)行順序控制電路。因?yàn)樵谥噶罘职l(fā)調(diào)度之前就已經(jīng)弄清楚了這些指令之間的相關(guān)聯(lián)性。 VLIW技術(shù)滲入的顯著效果之一,就是它消除了超標(biāo)量結(jié)構(gòu)的過分的復(fù)雜性,從而使硬件系統(tǒng)結(jié)構(gòu)設(shè)計(jì)獲得簡(jiǎn)化。,Itanium 2,HP Integrity Superdome HP-U