多核處理器對(duì)計(jì)算機(jī)系統(tǒng)的影響

多核處理器對(duì)計(jì)算機(jī)系統(tǒng)的影響第一頁，共二十四頁，2022年，8月28日

多核化趨勢(shì)正在改變IT計(jì)算的面貌。跟傳統(tǒng)的單核CPU相比，多核CPU帶來了更強(qiáng)的并行處理能力、更高的計(jì)算密度和更低的時(shí)鐘頻率，并大大減少了散熱和功耗。目前，在幾大主要芯片廠商的產(chǎn)品線中，雙核、四核甚至八核CPU已經(jīng)占據(jù)了主要地位。一、單核過渡到多核1.1概述第二頁，共二十四頁，2022年，8月28日內(nèi)含48個(gè)處理器核心：Intel展示萬億級(jí)處理器第二代產(chǎn)品SCCIntel12月2日展示了一款全可編程設(shè)計(jì)的48核（由24個(gè)雙核模塊組成）單芯片云計(jì)算處理器(SCC:Single-chipCloudComputer)產(chǎn)品，可以處理最大64GB的內(nèi)存容量。這款處理器內(nèi)部集成了13億個(gè)晶體管，是Intel2007年發(fā)起的一項(xiàng)萬億級(jí)處理器研究項(xiàng)目的第二代產(chǎn)品，其前代產(chǎn)品名為“Polaris”，內(nèi)含80個(gè)處理核心。SCC與Polaris最大的區(qū)別便在于前者完全支持x86指令集，可以像其它x86處理器如奔騰，酷睿那樣運(yùn)行x86指令。第三頁，共二十四頁，2022年，8月28日計(jì)算機(jī)上不斷涌現(xiàn)的新興使用模式讓最終用戶對(duì)處理器的處理能力——即性能——提出了更高的要求，并且對(duì)性能每年提高的幅度還在不斷加速，而多核技術(shù)是目前行之有效的方法。1.2從單核到多核一、單核過渡到多核第四頁，共二十四頁，2022年，8月28日在一個(gè)芯片上建造多個(gè)CPU內(nèi)核，而不是建造單個(gè)巨大的CPU。這樣就可以在較小的能耗下，讓多個(gè)CPU共同工作，提高整體性能。摩爾定律告訴我們芯片上的晶體管會(huì)以指數(shù)增長(zhǎng)，我們就能在一個(gè)芯片上建造越來越多的功能強(qiáng)大的CPU內(nèi)核，從而繼續(xù)提高電腦的性能。1.3多核出現(xiàn)的必然性一、單核過渡到多核第五頁，共二十四頁，2022年，8月28日二、多核處理器技術(shù)2.1技術(shù)簡(jiǎn)介多核處理器是指在一枚處理器中集成兩個(gè)或多個(gè)完整的計(jì)算引擎(內(nèi)核)。多核技術(shù)的開發(fā)源于工程師們認(rèn)識(shí)到，僅僅提高單核芯片的速度會(huì)產(chǎn)生過多熱量且無法帶來相應(yīng)的性能改善，先前的處理器產(chǎn)品就是如此。他們認(rèn)識(shí)到，在先前產(chǎn)品中以那種速率，處理器產(chǎn)生的熱量很快會(huì)超過太陽表面。即便是沒有熱量問題，其性價(jià)比也令人難以接受，速度稍快的處理器價(jià)格要高很多。第六頁，共二十四頁，2022年，8月28日2.2技術(shù)優(yōu)勢(shì)

目前雖然單一的單線程程序無法體現(xiàn)出多核處理器的優(yōu)勢(shì)，但是多核處理器依然為程序設(shè)計(jì)者提供了一個(gè)很好的平臺(tái)，使得他們可以通過對(duì)原有的單線程序進(jìn)行并行設(shè)計(jì)優(yōu)化，以實(shí)現(xiàn)更好的程序運(yùn)行效果。二、多核處理器技術(shù)第七頁，共二十四頁，2022年，8月28日多核CPU就是基板上集成有多個(gè)單核CPU，早期PD雙核需要北橋來控制分配任務(wù)，核心之間存在搶二級(jí)緩存的情況，后期酷睿自己集成了任務(wù)分配系統(tǒng)，再搭配操作系統(tǒng)就能真正同時(shí)開工，2個(gè)核心同時(shí)處理2“份”任務(wù)，速度快了，萬一1個(gè)核心死機(jī)，起碼另一個(gè)還可以繼續(xù)處理關(guān)機(jī)、關(guān)閉軟件等任務(wù)。二、多核處理器技術(shù)2.3技術(shù)原理第八頁，共二十四頁，2022年，8月28日2.4技術(shù)意義

多核處理器代表了計(jì)算技術(shù)的一次創(chuàng)新。由于數(shù)字?jǐn)?shù)據(jù)和互聯(lián)網(wǎng)的全球化，商業(yè)和消費(fèi)者開始要求多核處理器帶來性能改進(jìn)，這個(gè)重要?jiǎng)?chuàng)新就開始了；因?yàn)槎嗪颂幚砥鞅葐魏颂幚砥骶哂行阅芎托蕛?yōu)勢(shì)，多核處理器將會(huì)成為被廣泛采用的計(jì)算模型。二、多核處理器技術(shù)第九頁，共二十四頁，2022年，8月28日2.5技術(shù)瓶頸要想讓多核完全發(fā)揮效力，需要硬件業(yè)和軟件業(yè)更多革命性的更新。其中，可編程性是多核處理器面臨的最大問題。一旦核心多過八個(gè)，就需要執(zhí)行程序能夠并行處理。盡管在并行計(jì)算上，人類已經(jīng)探索了超過40年，但編寫、調(diào)試、優(yōu)化并行處理程序的能力還非常弱。二、多核處理器技術(shù)第十頁，共二十四頁，2022年，8月28日三、多核處理器類型3.1同構(gòu)與異構(gòu)*同構(gòu)與異構(gòu)是多核處理器主要的兩種結(jié)構(gòu)形態(tài)。(1)同構(gòu)多核處理器是指處理器芯片內(nèi)部的所有核心，其結(jié)構(gòu)是完全相同的，各個(gè)核心的地位也是等同的。目前的同構(gòu)多核處理器大多數(shù)由通用的處理器核心組成，每個(gè)處理器核心可以獨(dú)立地執(zhí)行任務(wù)，與通用單核處理器結(jié)構(gòu)相近。第十一頁，共二十四頁，2022年，8月28日三、多核處理器類型(2)異構(gòu)多核處理器芯片內(nèi)部采用多種功能不同的核心。如有負(fù)責(zé)管理調(diào)度的主核和負(fù)責(zé)計(jì)算的從核構(gòu)成的多核處理器；再有承擔(dān)定點(diǎn)、浮點(diǎn)、特殊計(jì)算等不同計(jì)算功能的核心構(gòu)成的多核處理器。目前的異構(gòu)多核處理器通常同時(shí)集成通用處理器、DSP、媒體處理器、網(wǎng)絡(luò)處理器等多種類型的處理器核心，針對(duì)不同需求提高應(yīng)用的計(jì)算性能。第十二頁，共二十四頁，2022年，8月28日三、多核處理器類型3.2多核與眾核

多核與眾核分別來自英文的Multi-core和Many-core，它們都是指多核的處理結(jié)構(gòu)，主要區(qū)別體現(xiàn)在以下幾點(diǎn)：（1）核心數(shù)量。目前工藝下，多核一般在數(shù)個(gè)或十多個(gè)核，而眾核處理器可達(dá)到幾十個(gè)核以上。（2）核微結(jié)構(gòu)。多核一般采用同一個(gè)結(jié)構(gòu)，眾核處理器通常為主從異構(gòu)結(jié)構(gòu)。（3）應(yīng)用定位。多核一般面向普適化應(yīng)用，眾核處理器面向特定應(yīng)用領(lǐng)域的多種應(yīng)用計(jì)算，以提供計(jì)算加速為主，通常需要通過操作系統(tǒng)等系統(tǒng)軟件來屏蔽異構(gòu)結(jié)構(gòu)的差異。與多核核心相比，眾核的從核構(gòu)造簡(jiǎn)單，單核心功耗低，頻率提升容易，特定應(yīng)用效能高，隨著工藝的發(fā)展，芯片效能會(huì)更加明顯。眾核的高計(jì)算性能和低功耗有可能為高性能計(jì)算機(jī)系統(tǒng)性能的跨越發(fā)展提供基礎(chǔ)。第十三頁，共二十四頁，2022年，8月28日三、多核處理器類型3.3通用、專用和多用（1）通用處理器一般指的是服務(wù)器用和桌面計(jì)算機(jī)用處理器芯片，目前大多采用同構(gòu)的多核結(jié)構(gòu)。傳統(tǒng)上，通用處理器的工作負(fù)載以非數(shù)值、不規(guī)則標(biāo)量應(yīng)用為主（這種負(fù)載也是目前事務(wù)處理和Web服務(wù)類服務(wù)器的工作負(fù)載特征）。（2）專用處理器一般指的是用于信號(hào)、圖形圖像、游戲或某一類應(yīng)用的CPU芯片，隨著集成電路技術(shù)的進(jìn)步，專用處理器的片上內(nèi)核數(shù)已逾百個(gè)，性能達(dá)到數(shù)十GFlops（處理器速率）到數(shù)百GFlops，是通用處理器性能的5~10倍。（3）多用處理器是介于通用與專用之間的處理器結(jié)構(gòu)，它既有通用處理器可編程序的特點(diǎn)，又有專用處理器簡(jiǎn)潔的邏輯結(jié)構(gòu)特點(diǎn)，能對(duì)特定領(lǐng)域里的多種應(yīng)用加速。當(dāng)前，利用專用處理器作為加速器構(gòu)成通用的處理器成為趨勢(shì)。第十四頁，共二十四頁，2022年，8月28日四、典型多核處理器結(jié)構(gòu)4.1同構(gòu)多核處理器結(jié)構(gòu)同構(gòu)多核結(jié)構(gòu)的處理器主要有Intel、AMD、IBM和SUN的產(chǎn)品。目前，雙核和四核甚至八核處理器是主流，它們的共同點(diǎn)是采用對(duì)稱設(shè)計(jì)，設(shè)置多級(jí)緩存，共享二級(jí)或三級(jí)緩存，核間用高速總線或開關(guān)互連，增強(qiáng)多媒體處理和特殊應(yīng)用能力，采用智能功耗管理技術(shù)，支持虛擬化技術(shù)等最新同構(gòu)多核處理器結(jié)構(gòu)特性第十五頁，共二十四頁，2022年，8月28日四、典型多核處理器結(jié)構(gòu)4.2異構(gòu)眾核處理器結(jié)構(gòu)微處理器結(jié)構(gòu)在未來數(shù)年內(nèi)將發(fā)生革命性變化，那就是多核架構(gòu)將從通用的對(duì)稱設(shè)計(jì)遷移到“主核心+協(xié)處理器”的非對(duì)稱設(shè)計(jì)，亦即處理器中只有少數(shù)通用核心承擔(dān)任務(wù)指派功能，諸如浮點(diǎn)運(yùn)算、視頻解碼、Java語言執(zhí)行等任務(wù)都可以由專門的硬件核心來完成，由此實(shí)現(xiàn)處理器執(zhí)行效率和最終性能的大幅度躍升。IBM的Cell、Intel的Many-core和AMDHyperTransport協(xié)處理器平臺(tái)，便是該思想的典型代表。第十六頁，共二十四頁，2022年，8月28日四、典型多核處理器結(jié)構(gòu)第十七頁，共二十四頁，2022年，8月28日五、多核處理器對(duì)系統(tǒng)結(jié)構(gòu)設(shè)計(jì)的影響多核技術(shù)能充分利用芯片集成度提高帶來的諸多好處，使處理器芯片性能成倍的增加。但是，很明顯，原本基于單核的計(jì)算機(jī)系統(tǒng)中的系統(tǒng)級(jí)的一些問題也隨之引入到了處理器芯片內(nèi)部，直接對(duì)系統(tǒng)結(jié)構(gòu)設(shè)計(jì)產(chǎn)生影響，如系統(tǒng)的多級(jí)并行問題、芯片內(nèi)的核間通信問題、多Cache一致性問題、芯片間互連問題等等，系統(tǒng)功耗問題、存儲(chǔ)器墻問題也會(huì)進(jìn)一步加劇。為此，有必要對(duì)這些多核引起的系統(tǒng)結(jié)構(gòu)問題進(jìn)行認(rèn)真的分析。第十八頁，共二十四頁，2022年，8月28日五、多核處理器對(duì)系統(tǒng)結(jié)構(gòu)設(shè)計(jì)的影響5.1多核和多路并行多核技術(shù)使系統(tǒng)的并行層次增加，處理器芯片內(nèi)部的多個(gè)核心構(gòu)成了第一層并行，多個(gè)處理器芯片的多路技術(shù)構(gòu)成了系統(tǒng)的第二層并行。結(jié)果是，原本單核的串行系統(tǒng)變?yōu)槎嗪诵牡牟⑿邢到y(tǒng)，而原本多處理器或多計(jì)算機(jī)（多路的）的并行系統(tǒng)將增加處理器內(nèi)部多核心的并行。如果說2~4個(gè)核的多核處理器只是使系統(tǒng)的處理器核心以個(gè)位數(shù)增加，眾核結(jié)構(gòu)的處理器則將使系統(tǒng)的處理器核心按十位數(shù)以上的量級(jí)增加，這無疑將加大了系統(tǒng)的管理者、使用者和開發(fā)者的負(fù)擔(dān)。第十九頁，共二十四頁，2022年，8月28日五、多核處理器對(duì)系統(tǒng)結(jié)構(gòu)設(shè)計(jì)的影響5.2多核和數(shù)據(jù)存儲(chǔ)結(jié)構(gòu)多核技術(shù)使得一個(gè)系統(tǒng)中數(shù)據(jù)的存儲(chǔ)容量和訪問性能發(fā)生變化：（1）從容量上看，與單位計(jì)算性能對(duì)應(yīng)的存儲(chǔ)容量急劇減少（2）多核使數(shù)據(jù)訪問情形更加復(fù)雜（3）為了能使芯片內(nèi)核充分地工作，最起碼的要求是要求芯片能提供與芯片性能相匹配的存儲(chǔ)器帶寬第二十頁，共二十四頁，2022年，8月28日五、多核處理器對(duì)系統(tǒng)結(jié)構(gòu)設(shè)計(jì)的影響5.3多核與高速互連多核處理器內(nèi)的核間通信能力是處理器芯片能力的重要保障，低延遲、高帶寬是衡量核間互連通信能力的主要指標(biāo)，實(shí)現(xiàn)互連的方法和手段多種多樣，主要體現(xiàn)在互連的層次以及互連的拓?fù)浣Y(jié)構(gòu)上?；ミB層次上有通過核心的處理單元的直接連接、通過Cache的連接以及通過內(nèi)存的連接；互連的拓?fù)浣Y(jié)構(gòu)上主要有多總線、環(huán)、交叉開關(guān)、格柵等技術(shù)；另外，互連的介質(zhì)上主要是傳統(tǒng)的硅電技術(shù)，基于光的芯片內(nèi)互連技術(shù)也將有望進(jìn)入實(shí)用階段。*一般來說，互連的層次離處理器核心越近，通信性能越高，實(shí)現(xiàn)難度也越大，在芯片內(nèi)部同樣存在互連層次上的實(shí)現(xiàn)差異。第二十一頁，共二十四頁，2022年，8月28日五、多核處理器對(duì)系統(tǒng)結(jié)構(gòu)設(shè)計(jì)的影響5.4多核和I/O結(jié)構(gòu)與單核環(huán)境比較，多核環(huán)境下系統(tǒng)的I/O變得復(fù)雜了，對(duì)于同構(gòu)的多核環(huán)境，每一個(gè)處理器核在系統(tǒng)中的地位是平等的，都有獨(dú)立I/O操作的可能，這使得系統(tǒng)特別是操作系統(tǒng)必須給予相應(yīng)的調(diào)度與管理技術(shù)支持；對(duì)于異構(gòu)的多核環(huán)境，主核運(yùn)行完整的操作系統(tǒng)，從核主要用于計(jì)算，I/O操作一般由主核統(tǒng)一完成，系統(tǒng)層面上，這與單核的情形相仿。所以，研究與計(jì)算能力相匹配的新