第7章 存儲器分層體體系結(jié)構(gòu)課件

1、電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 計(jì)算機(jī)組成與系統(tǒng)結(jié)構(gòu)計(jì)算機(jī)組成與系統(tǒng)結(jié)構(gòu)Computer Organization And Systems Architecture教師：張建教師：張建E-mail: Z辦公室：辦公室： 主樓主樓B1-707電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 引言引言馮若依曼(Von Nouma)美籍匈牙利數(shù)學(xué)家 1903 1957存儲程序概念存儲程序概念要運(yùn)行的程序必須先調(diào)入內(nèi)存，然后再執(zhí)行。程序程序MemoryCPULoadAllExecuteOne by one電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算

2、機(jī)科學(xué)與工程學(xué)院 7.1 7.1 存儲器概述存儲器概述n 存儲器的分類 半導(dǎo)體存儲器1. 靜態(tài)隨機(jī)存儲器 SRAM2. 動態(tài)隨機(jī)存儲器 DRAM 磁表面存儲器：容量、存儲周期容量、存儲周期例：例：2GB 60ns容量、轉(zhuǎn)速容量、轉(zhuǎn)速例：例： 200GB 7200轉(zhuǎn)轉(zhuǎn)/分分3. 閃存 - Flash Memory電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 光盤存儲器： 1. 1. CD-ROM：只讀性光盤：只讀性光盤 2. 2. WORM：寫入式（只能寫一次）：寫入式（只能寫一次） 3. 3. CD-RW：可擦：可擦/ /寫光盤寫光盤DVD - Digital Versat

3、ile Disc 4.7GBVCD - Video Compact Disc 700MB7.1 7.1 存儲器概述存儲器概述電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 存儲器存取方式 可按地址隨機(jī)地訪問任一存儲單元 隨機(jī)存取存儲器(RAM) 訪問時(shí)間與訪問地址無關(guān) 順序存取存儲器(SAM)必須按順序訪問,例如：磁帶。速度慢，現(xiàn)在已Out了。7.1 7.1 存儲器概述存儲器概述電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 直接存取儲器(DAM)7.1 7.1 存儲器概述存儲器概述第1步：直接選取該區(qū)域第2步：該區(qū)域內(nèi)順序存取電子科技大學(xué)計(jì)算機(jī)科學(xué)與工

4、程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 按可更改性分類7.1 7.1 存儲器概述存儲器概述 只讀存儲器(ROM) 讀/寫存儲器最初的信息是如何寫入的呢？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 按功能分類7.1 7.1 存儲器概述存儲器概述 高速緩沖存儲器 主存儲器 輔助存儲器 海量后備存儲器電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 主存儲器基本框圖主存儲器基本框圖地地址址寄寄存存器器地地址址譯譯碼碼讀寫控制電路讀寫控制電路地址線讀寫控制信號數(shù)據(jù)線電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 存儲器的主要性能指標(biāo)

5、存儲容量單位：Byte、KB、MB、GB 存取周期 CPU連續(xù)訪存中平均一次存取操作所需的時(shí)間。7.1.3 7.1.3 存儲器的主要性能指標(biāo)存儲器的主要性能指標(biāo) 存儲器的帶寬 單位時(shí)間內(nèi)傳輸?shù)淖畲髷?shù)據(jù)率，字節(jié)/秒電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.1.4 7.1.4 存儲器的層次化結(jié)構(gòu)存儲器的層次化結(jié)構(gòu)CPU主存儲器主存儲器輔助存儲器輔助存儲器Cache電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器10 六管靜態(tài)MOS管存儲單元1110電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大

6、學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器靜態(tài)靜態(tài)RAMRAM的組成的組成電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器SRAMSRAM電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器靜態(tài)靜態(tài)RAMRAM芯片舉例芯片舉例電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器62646264 A12A0： D7D

7、0： NC： CE： WE： OE：電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器11111電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器1/0VB=(V1+V0 )/2VV11該點(diǎn)有充放電現(xiàn)象，該點(diǎn)有充放電現(xiàn)象， 以此判斷以此判斷1/0電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.2.4 7.2.4 半導(dǎo)體隨機(jī)存取存儲器半導(dǎo)體隨機(jī)存取存儲器電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院

8、 7.3.2 7.3.2 存儲器芯片的擴(kuò)展存儲器芯片的擴(kuò)展電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.3.2 7.3.2 存儲器芯片的擴(kuò)展存儲器芯片的擴(kuò)展電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.3.2 7.3.2 存儲器芯片的擴(kuò)展存儲器芯片的擴(kuò)展電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 字?jǐn)U展字?jǐn)U展譯碼電路譯碼電路電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.4 7.4 半導(dǎo)體只讀存儲器和半導(dǎo)體只讀存儲器和FlashFlash存儲器存儲器電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)

9、與工程學(xué)院 7.5 7.5 并存儲器結(jié)構(gòu)技術(shù)并存儲器結(jié)構(gòu)技術(shù)譯碼電路譯碼電路電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.5 7.5 并存儲器結(jié)構(gòu)技術(shù)并存儲器結(jié)構(gòu)技術(shù)譯碼電路譯碼電路電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 7.6 高速緩沖存儲器高速緩沖存儲器控制器控制器數(shù)據(jù)路徑數(shù)據(jù)路徑存儲器存儲器處理器處理器輸入輸入輸出輸出指令指令數(shù)據(jù)數(shù)據(jù)n 存儲器向處理器提供指令和數(shù)據(jù)但問題是但問題是：存儲器：存儲器太小太小、太慢太慢?電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 時(shí)間局部性如果某個(gè)數(shù)據(jù)被訪問，那么很快它有可能再次被訪

10、問。n 空間局部性如果某個(gè)數(shù)據(jù)被訪問，那么與它鄰近的數(shù)據(jù)有可能很快被訪問。Really? 別騙我！別騙我！局部性原理局部性原理電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheCache的基本原理的基本原理n DRAM的發(fā)展趨勢 容量：4倍/3年 速度：2倍/10年電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheCache的基本原理的基本原理n CPU與Memory的速度差11010010001980 19811983 1984 1985 1986 1987 1988 19891990 1991 1992 1993 1994 1995 19

11、96 1997 1998 1999 2000CPU1982增長：增長： 50% / 年年性能性能“Moores Law”DRAM電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 Cache的基本工作原理的基本工作原理n 問題：存儲器太小、太慢 辦法：存儲器系統(tǒng)分層結(jié)構(gòu)控制器控制器 數(shù)據(jù)數(shù)據(jù) 路徑路徑存儲器存儲器(內(nèi)存內(nèi)存)(DRAM)處理器處理器寄存器寄存器L1Cache(SRAM)L2Cache(SRAM)外存外存(硬盤硬盤)電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 處理器處理器數(shù)據(jù)行或數(shù)據(jù)行或塊塊命中命中: 數(shù)據(jù)在高數(shù)據(jù)在高層層存存儲儲器器缺失缺失:

12、 數(shù)據(jù)沒有位于高數(shù)據(jù)沒有位于高層層存存儲儲器器Cache的基本工作原理的基本工作原理電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 術(shù)語術(shù)語 命中率在高層存儲器中找到訪問數(shù)據(jù)的比例。 缺失率在高層存儲器中沒有找到訪問數(shù)據(jù)的比例。缺失率 = 1 命中率電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 術(shù)語術(shù)語 命中時(shí)間訪問高層存儲器所需的時(shí)間。 缺失代價(jià)將數(shù)據(jù)塊從低層搬到高層存儲器并送到處理器所需的時(shí)間。判斷時(shí)間 + 數(shù)據(jù)傳送時(shí)間電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 當(dāng)前計(jì)算機(jī)的存儲器結(jié)構(gòu)當(dāng)前計(jì)算機(jī)的存儲器結(jié)構(gòu)SystemContro

13、llerL1 CacheMain Memory(DRAM)GraphicsProcessor(I/O Bus)L2 CacheProcessor電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheCache的原理的原理CPU主存主存Cachen 插入到CPU與主存間n 由快速SRAM實(shí)現(xiàn)n 存儲程序的部分 指令 數(shù)據(jù)n 操作： 命中(在Cache中) 未命中 (不在Cache中)電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 例例題題：例7.2（1）Cache的命中率？訪存次數(shù)：未命中次數(shù)：命中率：電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)

14、與工程學(xué)院 例例題題：例7.2（2）CPU的平均訪存時(shí)間？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 實(shí)現(xiàn)實(shí)現(xiàn)CacheCache的的4 4個(gè)關(guān)鍵問題個(gè)關(guān)鍵問題1：數(shù)據(jù)塊放在Cache的什么地方？2：如何在Cache中找到所需的數(shù)據(jù)塊？3：Cache未命中時(shí)如何轉(zhuǎn)換數(shù)據(jù)塊？4：寫數(shù)據(jù)時(shí)如何寫？A. 只寫Cache？B. 只寫Memory？C. 同時(shí)時(shí)寫Cache和Memory？D. 其它？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工

15、程學(xué)院 二者必須二者必須相等相等基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組號組號第第0頁頁7位位Cache組號組號第第1頁頁組號組號第第15頁頁第第0頁頁第第1頁頁第第15頁頁第第16頁頁第第17頁頁第第31頁頁第第2032頁頁第第2033頁頁第第2047頁頁0組組1組組127組組主存主存組號組號組內(nèi)頁號組內(nèi)頁號頁內(nèi)地址頁內(nèi)地址XXYYZZ749定位定位Cache頁，頁，讀取組號讀取組號相等嗎？相等嗎？據(jù)此判斷內(nèi)存目標(biāo)頁據(jù)此判斷內(nèi)存目標(biāo)頁是否在是否在Cache中中基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)-

16、-直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 內(nèi)存地址結(jié)構(gòu)的設(shè)計(jì)內(nèi)存地址結(jié)構(gòu)的設(shè)計(jì)組號組號組內(nèi)頁號組內(nèi)頁號數(shù)據(jù)頁（數(shù)據(jù)頁（512B）4位位7位位9位位基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n CacheCache地址結(jié)構(gòu)的設(shè)計(jì)地址結(jié)構(gòu)的設(shè)計(jì)標(biāo)記位標(biāo)記位有效位有效位數(shù)據(jù)頁（數(shù)據(jù)頁（512B）1位位7位位必須與主存頁必須與主存頁大小相同大小相同基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射數(shù)據(jù)是否已存入標(biāo)記數(shù)據(jù)是否已存入標(biāo)記電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程

17、學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 000010100101110100100111010101110000101010XXXXXXXXX09 812 1119VTagData=DATAHIT基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n 特點(diǎn)：特點(diǎn)： 硬件硬件實(shí)現(xiàn)容易；實(shí)現(xiàn)容易； Cache Cache利用率低；利用率低；基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -直接映射直接映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 舉例舉例假設(shè)一個(gè)直接映射的Cache，有16KB數(shù)據(jù)，塊大小

18、4個(gè)字，地址32位，那么Cache總共有多少位?(即Cache的大小)參考答案：參考答案：MIPS中：32位/字=4字節(jié)/字塊大?。?字/塊=16字節(jié)/塊=128位/塊16KB分為：16K16=1K=1024(塊）電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 舉例舉例數(shù)據(jù)塊數(shù)據(jù)塊0128bit有效位有效位1bit標(biāo)記位標(biāo)記位18bit數(shù)據(jù)塊數(shù)據(jù)塊1有效位有效位標(biāo)記位標(biāo)記位數(shù)據(jù)塊數(shù)據(jù)塊1023有效位有效位標(biāo)記位標(biāo)記位1024電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 舉例舉例對于前面例子，若內(nèi)存地址分別為100005和0 x100005的字節(jié)將分別映到C

19、ache的哪一塊？參考答案：n 對于內(nèi)存地址100005 該內(nèi)存地址位于第?塊6249塊塊？6250塊塊？6251塊塊？6250塊電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 10位舉例舉例參考答案：n 對于內(nèi)存地址0 x100005010100000000000000000001500001十六進(jìn)制十六進(jìn)制二進(jìn)制二進(jìn)制電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -全相聯(lián)映射全相聯(lián)映射CacheMemoryTagBlock 0TagBlock m-1Block 0Block 1Block n-1電子科技大學(xué)計(jì)

20、算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -全相聯(lián)映射全相聯(lián)映射標(biāo)記位標(biāo)記位有效位有效位數(shù)據(jù)頁（數(shù)據(jù)頁（512B）1位位11位位標(biāo)記位標(biāo)記位數(shù)據(jù)頁（數(shù)據(jù)頁（512B）11位位9位位判斷是否判斷是否在在Cache中中電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 基本的基本的CacheCache設(shè)計(jì)設(shè)計(jì)- -全相聯(lián)映射全相聯(lián)映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 n n路組相聯(lián)映射假設(shè)： 主存：32位地址線 Cache大?。?56KB 塊大小：4KB n：4，即4路組組相聯(lián)映射基本的基本的Cac

21、heCache設(shè)計(jì)設(shè)計(jì)- -組組相聯(lián)映射組組相聯(lián)映射電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組相聯(lián)映射組組相聯(lián)映射-Cache -Cache 的設(shè)置的設(shè)置TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 34路相聯(lián)0組1組15組組的大小=44=16KBCache的組數(shù) =25616=16最后組是15組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組組相聯(lián)映射組

22、相聯(lián)映射 - - 主存主存(Memory)(Memory)的設(shè)置的設(shè)置Block 0Block 1Block15Block 0Block 1Block 15Cache分為16組0組Block 0Block 1Block 151組65535組組的大小=164=64KB主存的組數(shù) =23221064=65536最后組是65535組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組組相聯(lián)映射組相聯(lián)映射 - Cache - Memory)- Cache - Memory)的映射關(guān)系的映射關(guān)系Block 0Block 1Block 15Block 0Block 1Block 15Bl

23、ock 0Block 1Block 15TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 3TagBlock 0TagBlock 1TagBlock 2TagBlock 30組1組15組0組1組65535組CacheMemory電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組相聯(lián)映射組組相聯(lián)映射 - -主存主存(Memory)(Memory)地址地址12 bits組內(nèi)塊號：01516 bits組號：0655354 bits塊內(nèi)尋址：塊大小4K31011121516電

24、子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 組組相聯(lián)映射組組相聯(lián)映射 - Cache - Cache 的標(biāo)志的標(biāo)志 ( Tag )( Tag )1 bit16 bits有效位Tag數(shù)據(jù)塊數(shù)據(jù)塊Data問題（針對前面的假設(shè)）：主存地址：101A 1234 (Hex)計(jì)算：該地址數(shù)據(jù)放入Cache后，在Cache中的的塊號及對應(yīng)Cache項(xiàng)的Tag是多少？內(nèi)存中的組號電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 在在CacheCache中查找一個(gè)塊中查找一個(gè)塊n 4路相聯(lián)Cache電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 CacheC

25、ache的的缺失與關(guān)聯(lián)度缺失與關(guān)聯(lián)度關(guān)聯(lián)度關(guān)聯(lián)度數(shù)據(jù)缺失率數(shù)據(jù)缺失率110.3%28.6%48.3%88.1%Cache: Size = 64KB ， Block size = 16 words 10個(gè)SPEC2000測試程序的結(jié)果電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)假設(shè)一個(gè)Cache： 有4K個(gè)塊 塊大小為4個(gè)字 主存地址為32位計(jì)算：直接映射、兩路組相聯(lián)、四路組相聯(lián)和全相聯(lián)映射時(shí)，Cache的總組數(shù)及總的標(biāo)記位數(shù)？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)1

26、. 直接映射Cache的1個(gè)塊就是1個(gè)組Cache的總組數(shù)：4K = 212塊大小塊大小4個(gè)字，即個(gè)字，即16=24個(gè)字個(gè)字節(jié)，故需要節(jié)，故需要4位地址表示。位地址表示。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)2. 兩路組映射Cache的2個(gè)塊為1個(gè)組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)3. 四路組映射Cache的4個(gè)塊為1個(gè)組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 標(biāo)記位大小與組組相聯(lián)標(biāo)記位大小與組組相聯(lián)5. 全相聯(lián)映射Cache只

27、有一個(gè)4K的塊組電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 主存主存(Memory)(Memory)地址地址12 bits組內(nèi)塊號：01516 bits組號：0655354 bits塊內(nèi)尋址：塊大小4K31011121516電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 Cache Cache 的標(biāo)志的標(biāo)志 ( Tag )( Tag )1 bit16 bits有效位Tag數(shù)據(jù)塊數(shù)據(jù)塊Data問題（針對前面的假設(shè)）：主存地址：101A 1234 (Hex)計(jì)算：該地址數(shù)據(jù)放入Cache后，在Cache中的的塊號及對應(yīng)Cache項(xiàng)的Tag是多少？內(nèi)存中的組號

28、電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 問題解答問題解答(1)(1)：1. 首先計(jì)算該地址在主存的塊號:n該地址所在的塊號是：2. 分析塊號n在主存中的組號及組內(nèi)序號在主存中的組號：101AH組內(nèi)序號：1H（每組有16個(gè)塊）電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 問題解答問題解答(2)(2)：3. 存入Cache后所對應(yīng)的塊 映射到Cache的第1組，即： 塊在主存中組內(nèi)序號為1H4. 對應(yīng)Cache的Tag是：101AHCache塊號為：47 中的某一塊電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 存入存入Cache C

29、ache 后的情況后的情況有效位TagData1組組4#塊0#塊 7#塊63#塊1101AH XXXCache電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 缺失率與塊大小缺失率與塊大小電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 缺失率與塊大小缺失率與塊大小Cache塊較大時(shí)，一 旦缺失，帶來的延時(shí)和開銷是比較大的。n 提前重啟（early restart）當(dāng)塊中所需字一旦返回就馬上執(zhí)行，而不需要等待整個(gè)塊都傳過來再執(zhí)行。 該技術(shù)用于指令訪問，效果較好，因?yàn)橹噶钔ǔＪ沁B續(xù)的。 該技術(shù)用于數(shù)據(jù)Cache效率要低一些，因?yàn)檎埱蟮臄?shù)據(jù)其分布無法預(yù)知。電子科技大

30、學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 缺失率與塊大小缺失率與塊大小n 請求字優(yōu)先/關(guān)鍵字優(yōu)先缺失時(shí)，先將請求字從存儲器傳輸?shù)紺ache中，然后再傳輸該塊的剩余部分，之后再從塊的開始部分傳輸。該技術(shù)的延時(shí)性能比提前重啟要好一些。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 Cache的缺失處理的缺失處理n 指令Cache缺失的處理步驟 將PC 4送到存儲器中 通知主存執(zhí)行讀操作，并等待主存訪問完成 寫Cache項(xiàng)，并設(shè)置Cache相關(guān)標(biāo)志 重新取指令，此時(shí)指令在Cache中電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫操作處理寫操作處理

31、n Write-through(寫直達(dá)/通寫)當(dāng)需要寫數(shù)據(jù)時(shí)（執(zhí)行Store指令），將數(shù)據(jù)同時(shí)寫入Cache和主存中。優(yōu)點(diǎn)：Cache和主存的內(nèi)容保持一致。缺點(diǎn)：耗時(shí)長，效率低。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫操作處理寫操作處理n 寫缺失當(dāng)要寫的數(shù)據(jù)不在Cache中時(shí)，發(fā)生寫缺失。1. 將主存中的數(shù)據(jù)塊讀到Cache；2. 將要寫的數(shù)據(jù)寫到Cache和主存中；為什么不直接寫到為什么不直接寫到Cache和主存？和主存？電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫操作處理寫操作處理n 寫直達(dá)方法簡單，但效率低下例如例如，10%的指令是st

32、ore，沒有Cache失缺的情況下，CPI為1.0，每次寫操作要額外花費(fèi)100個(gè)周期，此時(shí)CPI為：CPI - ClockcyclePerInstruction電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫操作處理寫操作處理n 寫緩沖（Write buffer）當(dāng)有數(shù)據(jù)需要寫入主存時(shí)：將數(shù)據(jù)寫入Cache和寫緩沖區(qū)(write buffer)后，處理器繼續(xù)執(zhí)行；當(dāng)寫主存操作完成后，寫緩沖區(qū)里的數(shù)據(jù)被釋放；若寫緩沖區(qū)滿，則處理器必須等待一個(gè)寫操作完成后（釋放一個(gè)空位）才能將數(shù)據(jù)寫入寫緩沖區(qū)。電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 寫操作處理寫操作處

33、理n 寫回機(jī)制（Write back 回寫）當(dāng)有數(shù)據(jù)需要寫入主存時(shí)： 先將數(shù)據(jù)寫入Cache，并作已修改標(biāo)記； 當(dāng)被修改的Cache塊被替換時(shí)才將Cache的內(nèi)容寫回主存；電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 精解精解n 寫缺失時(shí)的策略 寫直達(dá)/通寫（write through）1. 寫分配策略（write allocate)2. 寫不分配策略（no write allocate) 寫回機(jī)制/回寫（write back）電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院電子科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院 設(shè)計(jì)支持設(shè)計(jì)支持CacheCache的存儲系統(tǒng)的存儲系統(tǒng)n 主存是由DRAM構(gòu)成 數(shù)據(jù)寬度固定 通過總線(Bus)與處理器連接總線頻率比處理要慢很多假設(shè)：假設(shè)： 地址(address)傳輸需要1個(gè)總