多核軟件開(kāi)發(fā)技術(shù)第一講：多核技術(shù)導(dǎo).ppt

多核軟件開(kāi)發(fā)技術(shù)第一講 多核技術(shù)導(dǎo)論 北京大學(xué)二零零八年春季 致謝 感謝Intel對(duì)本課程項(xiàng)目的資助 本講主要內(nèi)容 微處理器發(fā)展史并行計(jì)算機(jī)超大規(guī)模集成電路與系統(tǒng)芯片發(fā)展片上多核處理器架構(gòu)芯片組對(duì)多核的支持操作系統(tǒng)對(duì)多核處理器的支持方法 微處理器發(fā)展史 計(jì)算機(jī)與微處理器 1945年 美國(guó)研制世界上第一臺(tái)數(shù)字計(jì)算機(jī)第一代 1946 1958 電子管數(shù)字計(jì)算機(jī)第二代 1958 1964 晶體管數(shù)字計(jì)算機(jī)第三代 1964 1971 集成電路數(shù)字計(jì)算機(jī)第四代 1971年以后 大規(guī)模集成電路數(shù)字計(jì)算機(jī) 4位 8位與16位微處理器 第一代處理器 4位1971年 英特爾推出微處理器4004世界上第一款微處理器第二代處理器 Intel公司的8080 8085Zilog公司的Z80摩托羅拉公司的6800第三代處理器Intel公司的8086 8088 80286Zilog公司的Z8000摩托羅拉公司的68000 32位微處理器 1985年10月17日 英特爾80386DX正式發(fā)布1989年 英特爾推出80486芯片1993年 586CPU問(wèn)世 Pentium 奔騰 2002年 新款I(lǐng)ntelPentium4處理器內(nèi)含超線程技術(shù)2005年4月18日 英特爾首發(fā)基于雙核技術(shù)桌面產(chǎn)品英特爾奔騰D處理器 并行計(jì)算機(jī) 并行計(jì)算機(jī) 由一組處理單元組成各處理單元之間相互通信與協(xié)作以更快的速度共同完成一項(xiàng)大規(guī)模計(jì)算任務(wù) 并行計(jì)算機(jī)的分類(lèi) Flynn分類(lèi)法 根據(jù)指令流和數(shù)據(jù)流的不同組織方式單指令流單數(shù)據(jù)流 SingleInstructionstreamSingleDatastream SISD 單指令流多數(shù)據(jù)流 SingleInstructionstreamMultipleDatastream SIMD 多指令流單數(shù)據(jù)流 MultipleInstructionstreamSingleDatastream MISD 多指令流多數(shù)據(jù)流 MultipleInstructionstreamMultipleDatastream MISD 超級(jí)計(jì)算機(jī) 分布式存儲(chǔ)器的SIMD處理機(jī)含有多個(gè)同樣結(jié)構(gòu)的處理單元 PE 通過(guò)尋徑網(wǎng)絡(luò)以一定方式互相連接在陣列控制部件的統(tǒng)一指揮下 實(shí)現(xiàn)并行操作向量超級(jí)計(jì)算機(jī) 共享式存儲(chǔ)器SIMD 共享的多個(gè)并行存儲(chǔ)器通過(guò)對(duì)準(zhǔn)網(wǎng)絡(luò)與各處理單元PE相連對(duì)稱(chēng)多處理器 SMP 在一個(gè)計(jì)算機(jī)上匯集了一組處理器各處理器之間共享內(nèi)存子系統(tǒng)以及總線結(jié)構(gòu)工作負(fù)載能夠均勻地分配到所有可用處理器之上 超級(jí)計(jì)算機(jī) 并行向量處理機(jī) PVP 通過(guò)向量處理和多個(gè)向量處理器并行處理兩條途徑來(lái)提高處理能力使用定制的高帶寬網(wǎng)絡(luò)將向量處理器連向共享存儲(chǔ)器模塊集群計(jì)算機(jī)是一種并行或分布式處理系統(tǒng)由很多連接在一起的獨(dú)立計(jì)算機(jī)組成像一個(gè)單獨(dú)集成的計(jì)算機(jī)資源一樣協(xié)同工作 超大規(guī)模集成電路與系統(tǒng)芯片發(fā)展 超大規(guī)模集成電路技術(shù) 集成電路 采用半導(dǎo)體制作工藝 在一塊較小的單晶硅片上制作許多晶體管及電阻器 電容器等元器件 并按照多層布線或隧道布線的方法將元器件組合成完整的電子電路摩爾定律 微芯片上集成的晶體管數(shù)目每12個(gè)月翻一番 系統(tǒng)芯片 SoC 定義 狹義上 指在一個(gè)芯片上實(shí)現(xiàn)信號(hào)采集 轉(zhuǎn)換 存儲(chǔ) 處理和I O等功能 包含嵌入軟件及整個(gè)系統(tǒng)的全部?jī)?nèi)容廣義上 指一種芯片設(shè)計(jì)技術(shù) 可以實(shí)現(xiàn)從確定系統(tǒng)功能開(kāi)始 到軟硬件劃分 并完成設(shè)計(jì)的整個(gè)過(guò)程 IP核 IP核 IP IntellectualProperty 知識(shí)產(chǎn)權(quán) 是具有復(fù)雜系統(tǒng)功能的能夠獨(dú)立出售的VLSI塊SoC一般由可設(shè)計(jì)重用的IP核組成其IP核應(yīng)采用深亞微米以上工藝技術(shù) SoC的一般構(gòu)成 邏輯核 包括CPU 時(shí)鐘電路 定時(shí)器 中斷控制器 串并行接口 其它外圍設(shè)備 I O端口以及用于各種IP核之間的粘合邏輯等等存儲(chǔ)器核 包括各種易失 非易失以及Cache等存儲(chǔ)器 模擬核 包括ADc DAc PLL以及一些高速電路中所用的模擬電路 SoC的優(yōu)點(diǎn) 采用內(nèi)部訊號(hào)的傳輸 降低耗電量系統(tǒng)整合在一塊芯片上 減少體積和重量在相同面積上整合更多的功能元件和組件 豐富系統(tǒng)功能芯片內(nèi)部信號(hào)傳遞的距離縮短 速度提高IP模塊的出現(xiàn)可以減少研發(fā)成本 降低研發(fā)時(shí)間 可適度節(jié)省成本 片上多核處理器架構(gòu) 多核芯片 IBM在2001年發(fā)布雙核RISC處理器POWER4它將兩個(gè)64位PowerPC處理器內(nèi)核集成在同一顆芯片上 成為首款采用多核設(shè)計(jì)的服務(wù)器處理器HP和Sun也相繼在2004年2月和3月發(fā)布名為PA RISC8800和UltraSPARCIV的雙內(nèi)核處理器AMD在2005年4月推出了它的雙核處理器OpteronV的雙內(nèi)核處理器2006年11月 英特爾搶先推出了四核產(chǎn)品 片上多核處理器體系結(jié)構(gòu) 片上多核處理器 CMP 將多個(gè)計(jì)算內(nèi)核集成在一個(gè)處理器芯片中CMP可分為同構(gòu)多核和異構(gòu)多核計(jì)算內(nèi)核相同 地位對(duì)等的稱(chēng)為同構(gòu)多核計(jì)算內(nèi)核不同 地位不對(duì)等的稱(chēng)為異構(gòu)多核異構(gòu)多核多采用 主處理核 協(xié)處理核 的設(shè)計(jì) 典型多核芯片架構(gòu) 芯片組對(duì)多核的支持 南 北橋芯片 按照在主板上的排列位置的不同 芯片組通常分為北橋芯片和南橋芯片北橋芯片 提供對(duì)CPU的類(lèi)型和主頻 內(nèi)存的類(lèi)型和最大容量 ISA PCI AGP插槽 ECC糾錯(cuò)等支持南橋芯片 提供對(duì)KBC 鍵盤(pán)控制器 RTC 實(shí)時(shí)時(shí)鐘控制器 USB 通用串行總線 UltraDMA 33 66 EIDE數(shù)據(jù)傳輸方式和ACPI 高級(jí)能源管理 等的支持 固件 固件是一種嵌入到硬件設(shè)備中的軟件通常燒寫(xiě)在flash等擦寫(xiě)可編程芯片中其上的程序可以通過(guò)專(zhuān)門(mén)外部硬件進(jìn)行修改不能被一般的應(yīng)用程序改動(dòng)傳統(tǒng)的固件就是BIOS BIOS BasicInput OutputSystem 系統(tǒng)硬件和操作系統(tǒng)之間的抽象層啟動(dòng)操作系統(tǒng)并提供對(duì)系統(tǒng)設(shè)備底層的通訊通常由兩部分組成 上電自舉即POST PowerOnSelfTest 在線的中斷服務(wù) 主要由legacy操作系統(tǒng)使用 EFI ExtensibleFirmwareInterface 新一代固件技術(shù)在操作系統(tǒng)與平臺(tái)固件之間的軟件接口EFI規(guī)范定義的接口包括 包含平臺(tái)信息的數(shù)據(jù)表啟動(dòng)時(shí)及啟動(dòng)后的服務(wù) 例如時(shí)間 日期等Tiano是EFI的一個(gè)具體實(shí)現(xiàn) 完全符合EFI規(guī)范 Framework 是一種固件的架構(gòu)是EFI固件接口的一種實(shí)現(xiàn)用來(lái)完全替代傳統(tǒng)的BIOS是層次化和模塊化的由C語(yǔ)言來(lái)實(shí)現(xiàn) 圖表1 4Framework結(jié)構(gòu)圖 Framework結(jié)構(gòu)圖 Tiano EFI的一個(gè)具體實(shí)現(xiàn)完全符合EFI規(guī)范支持所有的Intel體系結(jié)構(gòu)系列Tiano按階段來(lái)初始化平臺(tái) Tiano固件階段 EFI對(duì)多核支持 Framework在多核計(jì)算機(jī)中初始化過(guò)程如下SEC 從實(shí)模式切換到保護(hù)模式 處理不同的重啟事件 對(duì)每個(gè)處理器進(jìn)行緩存設(shè)置PEI 做少量的硬件初始化DXE 對(duì)所有可用的硬件設(shè)備進(jìn)行初始化 為建立控制臺(tái)和啟動(dòng)操作系統(tǒng)提供必要的服務(wù)BDS 建立所需的控制臺(tái)設(shè)備 并在輸出控制臺(tái)上顯示用戶界面 操作系統(tǒng)對(duì)多核處理器的支持方法 系統(tǒng)調(diào)度 目前還沒(méi)有明確的標(biāo)準(zhǔn)與規(guī)范 研究熱點(diǎn) 程序的并行研究多進(jìn)程的時(shí)間相關(guān)性研究任務(wù)的分配與調(diào)度緩存的錯(cuò)誤共享一致性訪問(wèn)研究進(jìn)程間通信多處理器核內(nèi)部資源競(jìng)爭(zhēng)等 有代表性的多核調(diào)度算法 對(duì)任務(wù)的分配進(jìn)行優(yōu)化對(duì)任務(wù)的共享數(shù)據(jù)優(yōu)化對(duì)任務(wù)的負(fù)載均衡優(yōu)化 輸入輸出系統(tǒng) 高級(jí)編程中斷控制器 APIC 基于中斷控制器分散在兩個(gè)基礎(chǔ)功能單元 本地單元和I O單元的分布式體系結(jié)構(gòu)本地各I O單元能夠通過(guò)一個(gè)叫中斷控制通信 ICC 的總線互相之間通信APIC基本功能 減緩與中斷相關(guān)的內(nèi)存總線傳輸壓力幫助核之間更好的處理來(lái)自別的核的中斷接收來(lái)自處理器中斷引腳的來(lái)自?xún)?nèi)部或外部I OAPIC的中斷接受發(fā)送核內(nèi)中斷 Interprocessorinterrupt IPI 消息 虛擬化技術(shù) 虛擬化 是指對(duì)計(jì)算機(jī)資源進(jìn)行的抽象 在系統(tǒng) 應(yīng)用或用戶與資源進(jìn)行交互時(shí) 對(duì)計(jì)算機(jī)資源的物理特性進(jìn)行隱藏的一種技術(shù)虛擬化包括 將單一物理資源當(dāng)作多個(gè)邏輯資源將多個(gè)物理資源當(dāng)作單一邏輯資源 虛擬化技術(shù) 平臺(tái)虛擬化 由指定硬件平臺(tái)上宿主軟件來(lái)實(shí)行 為其它軟件提供一個(gè)模擬的計(jì)算機(jī)模擬環(huán)境資源虛擬化 合并單個(gè)資源形成更大的資源或者資源池分區(qū)將單一資源劃分成同種形式更易于管理的資源封裝通過(guò)創(chuàng)建簡(jiǎn)化的接口來(lái)隱藏資源復(fù)雜性 典型的支持多核的操作系統(tǒng) Linux2 0內(nèi)核是第一個(gè)支持SMP硬件的內(nèi)核 通過(guò)使用一種粗粒度的鎖來(lái)保證系統(tǒng)的完整性Linux2 6中 提出了一種新的O 1 的進(jìn)程調(diào)度器 此調(diào)度器可以更好的支持SMP系統(tǒng)Windows目前能夠在多內(nèi)核處理器上運(yùn)行 但并沒(méi)有針對(duì)這類(lèi)處理器進(jìn)行優(yōu)化 多線程的概念 多線程 線程是進(jìn)程上下文中執(zhí)行的代碼序列 多線程機(jī)制的優(yōu)點(diǎn) 創(chuàng)建一個(gè)線程比創(chuàng)建一個(gè)進(jìn)程的代價(jià)要小線程的切換比進(jìn)程間的切換代價(jià)小充分利用多處理器數(shù)據(jù)共享快速響應(yīng)特性 用戶級(jí)線程和內(nèi)核級(jí)線程 根據(jù)多線程實(shí)現(xiàn)機(jī)制 線程又被分為用戶級(jí)線程和內(nèi)核級(jí)線程用戶級(jí)線程 有關(guān)線程的所有管理工作都由在用戶級(jí)實(shí)現(xiàn)的線程庫(kù)來(lái)支持內(nèi)核級(jí)線程 所有管理操作都是由操作系統(tǒng)內(nèi)核完成的運(yùn)行速度 內(nèi)核級(jí)線程 用戶級(jí)線程 進(jìn)程 多線程的映射模型 用戶級(jí)線程和內(nèi)核級(jí)線程之間的映射方式多對(duì)一模型 把多個(gè)用戶級(jí)線程映射到一個(gè)內(nèi)核級(jí)線程一對(duì)一模型 把每個(gè)用戶級(jí)線程影射到一個(gè)內(nèi)核級(jí)線程多對(duì)多模型 將m個(gè)用戶級(jí)線程影射到n個(gè)內(nèi)核級(jí)線程 m n 多對(duì)多映射 線程的生命周期 線程的標(biāo)識(shí)線程的創(chuàng)建 線程的終止線程的狀態(tài) 線程的同步 線程共享同一進(jìn)程的內(nèi)存空間多個(gè)線程可能需要同時(shí)訪問(wèn)同一個(gè)數(shù)據(jù)在兩個(gè)線程訪問(wèn)共享數(shù)據(jù)時(shí)需要同步機(jī)制常用的同步機(jī)制包括 臨界區(qū) criticalsection