第4章 貪心算法

1、第4章 貪心算法12貪心方法是一種改進(jìn)了的分級(jí)處貪心方法是一種改進(jìn)了的分級(jí)處理方法，它可以解決這樣的一類(lèi)理方法，它可以解決這樣的一類(lèi)問(wèn)題：此問(wèn)題有問(wèn)題：此問(wèn)題有n個(gè)輸入，而它個(gè)輸入，而它的解就由這的解就由這n個(gè)輸入的某個(gè)子集個(gè)輸入的某個(gè)子集組成，只是這個(gè)子集必須滿(mǎn)足某組成，只是這個(gè)子集必須滿(mǎn)足某些事先給定的條件。些事先給定的條件。 找零錢(qián)找零錢(qián): 假如售貨員需要找給小孩假如售貨員需要找給小孩67美分的零錢(qián)?，F(xiàn)美分的零錢(qián)?，F(xiàn)在，售貨員手中只有在，售貨員手中只有25美分、美分、10美分、美分、5美分和美分和1美美分的硬幣。在小孩的催促下，售貨員想盡快將錢(qián)找分的硬幣。在小孩的催促下，售貨員想盡快將錢(qián)

2、找給小孩。她的做法是：先找不大于給小孩。她的做法是：先找不大于67美分的最大硬美分的最大硬幣幣25美分硬幣，再找不大于美分硬幣，再找不大于672542美分的最美分的最大硬幣大硬幣25美分硬幣，再找不大于美分硬幣，再找不大于422517美分的美分的最大硬幣最大硬幣10美分硬幣，再找不大于美分硬幣，再找不大于17107美分美分的最大硬幣的最大硬幣5美分硬幣，最后售貨員再找出兩個(gè)美分硬幣，最后售貨員再找出兩個(gè)1美美分的硬幣。至此，售貨員共找給小孩分的硬幣。至此，售貨員共找給小孩6枚硬幣。售貨枚硬幣。售貨員的原則是拿盡可能少的硬幣個(gè)數(shù)找給小孩。從另員的原則是拿盡可能少的硬幣個(gè)數(shù)找給小孩。從另一個(gè)角度看

3、，如果售貨員將撿出的硬幣逐一放在手一個(gè)角度看，如果售貨員將撿出的硬幣逐一放在手中，最后一起交給小孩，那么售貨員想使自己手中中，最后一起交給小孩，那么售貨員想使自己手中的錢(qián)數(shù)增加的盡量快些，所以每一次都盡可能地?fù)斓腻X(qián)數(shù)增加的盡量快些，所以每一次都盡可能地?fù)烀骖~大的硬幣。面額大的硬幣。3第4章 貪心算法 顧顧名思義，貪心算法總是作出在當(dāng)前看來(lái)最名思義，貪心算法總是作出在當(dāng)前看來(lái)最好的選擇。也就是說(shuō)貪心算法并不從整體最優(yōu)考好的選擇。也就是說(shuō)貪心算法并不從整體最優(yōu)考慮，它所作出的選擇只是在某種意義上的慮，它所作出的選擇只是在某種意義上的局部最局部最優(yōu)優(yōu)選擇。當(dāng)然，希望貪心算法得到的最終結(jié)果也選擇。當(dāng)然

4、，希望貪心算法得到的最終結(jié)果也是整體最優(yōu)的。雖然貪心算法不能對(duì)所有問(wèn)題都是整體最優(yōu)的。雖然貪心算法不能對(duì)所有問(wèn)題都得到整體最優(yōu)解，但對(duì)許多問(wèn)題它能產(chǎn)生整體最得到整體最優(yōu)解，但對(duì)許多問(wèn)題它能產(chǎn)生整體最優(yōu)解。如單源最短路經(jīng)問(wèn)題，最小生成樹(shù)問(wèn)題等。優(yōu)解。如單源最短路經(jīng)問(wèn)題，最小生成樹(shù)問(wèn)題等。在一些情況下，即使貪心算法不能得到整體最優(yōu)在一些情況下，即使貪心算法不能得到整體最優(yōu)解，其最終結(jié)果卻是最優(yōu)解的很好近似。解，其最終結(jié)果卻是最優(yōu)解的很好近似。4第4章 貪心算法本章主要知識(shí)點(diǎn)： 4.1 活動(dòng)安排問(wèn)題 4.2 貪心算法的基本要素 4.3 最優(yōu)裝載 4.4 哈夫曼編碼 4.5 單源最短路徑 4.6 最小

5、生成樹(shù) 4.7 多機(jī)調(diào)度問(wèn)題 4.8 貪心算法的理論基礎(chǔ)54.1 活動(dòng)安排問(wèn)題 活動(dòng)安排問(wèn)題就是要在所給的活動(dòng)集合中選出最大的相容活動(dòng)子集合，是可以用貪心算法有效求解的很好例子。該問(wèn)題要求高效地安排一系列爭(zhēng)用某一公共資源的活動(dòng)。貪心算法提供了一個(gè)簡(jiǎn)單、漂亮的方法使得盡可能多的活動(dòng)能兼容地使用公共資源。64.1 活動(dòng)安排問(wèn)題7 設(shè)有n個(gè)活動(dòng)的集合E=1,2,n，其中每個(gè)活動(dòng)都要求使用同一資源，如演講會(huì)場(chǎng)等，而在同一時(shí)間內(nèi)只有一個(gè)活動(dòng)能使用這一資源。每個(gè)活動(dòng)i都有一個(gè)要求使用該資源的起始時(shí)間si和一個(gè)結(jié)束時(shí)間fi,且si fi 。如果選擇了活動(dòng)i，則它在半開(kāi)時(shí)間區(qū)間si, fi)內(nèi)占用資源。若區(qū)間

6、si, fi)與區(qū)間sj, fj)不相交，則稱(chēng)活動(dòng)i與活動(dòng)j是相容的。也就是說(shuō)，當(dāng)sifj或sjfi時(shí)，活動(dòng)i與活動(dòng)j相容。 解決這個(gè)問(wèn)題的基本思路是在安排時(shí)應(yīng)該解決這個(gè)問(wèn)題的基本思路是在安排時(shí)應(yīng)該將結(jié)束時(shí)間早的活動(dòng)盡量往前安排，好給將結(jié)束時(shí)間早的活動(dòng)盡量往前安排，好給后面的活動(dòng)留出更多的空間，從而達(dá)到安后面的活動(dòng)留出更多的空間，從而達(dá)到安排最多活動(dòng)的目標(biāo)。排最多活動(dòng)的目標(biāo)。 在貪心算法中，將各項(xiàng)活動(dòng)的開(kāi)始時(shí)間和在貪心算法中，將各項(xiàng)活動(dòng)的開(kāi)始時(shí)間和結(jié)束時(shí)間分別用兩個(gè)數(shù)組結(jié)束時(shí)間分別用兩個(gè)數(shù)組s和和f存儲(chǔ)，并使得存儲(chǔ)，并使得數(shù)組中元素的順序按結(jié)束時(shí)間非減排列：數(shù)組中元素的順序按結(jié)束時(shí)間非減排列：

7、f1 f2 fn。84.1 活動(dòng)安排問(wèn)題在下面所給出的解活動(dòng)安排問(wèn)題的貪心算法greedySelectorgreedySelector :9各活動(dòng)的起始時(shí)間和結(jié)各活動(dòng)的起始時(shí)間和結(jié)束時(shí)間存儲(chǔ)于數(shù)組束時(shí)間存儲(chǔ)于數(shù)組s s和和f f中且按結(jié)束時(shí)間的非減中且按結(jié)束時(shí)間的非減序排列序排列 templatevoid GreedySelector(int n, Type s, Type f, bool A) A1=true; int j=1; for (int i=2;i=fj) Ai=true; j=i; else Ai=false; 4.1 活動(dòng)安排問(wèn)題 由于輸入的活動(dòng)以其完成時(shí)間的非減序非減序排列，

8、所以算法greedySelectorgreedySelector每次總是選擇具有最早具有最早完成時(shí)間完成時(shí)間的相容活動(dòng)加入集合A中。直觀(guān)上，按這種方法選擇相容活動(dòng)為未安排活動(dòng)留下盡可能多的時(shí)間。也就是說(shuō)，該算法的貪心選擇的意義是使剩使剩余的可安排時(shí)間段極大化余的可安排時(shí)間段極大化，以便安排盡可能多的相容活動(dòng)。 算法greedySelectorgreedySelector的效率極高。當(dāng)輸入的活動(dòng)已按結(jié)束時(shí)間的非減序排列，算法只需O(n)O(n)的時(shí)間安排n個(gè)活動(dòng)，使最多的活動(dòng)能相容地使用公共資源。如果所給出的活動(dòng)未按非減序排列，可以用O(nlogn)O(nlogn)的時(shí)間重排。 10 例子 設(shè)待

9、安排的11個(gè)活動(dòng)的開(kāi)始時(shí)間和結(jié)束時(shí)間按結(jié)束時(shí)間的非減次序排列如下： 11k1234567891011s2fk4567891011121314 解集合為 1,4,8,11.容易證明算法 greedySelector所得到的解是最優(yōu)解。4.1 活動(dòng)安排問(wèn)題 算算法法greedySelector greedySelector 的計(jì)算過(guò)程的計(jì)算過(guò)程如左圖所示。圖中每行相應(yīng)于算法的一次迭代。陰影長(zhǎng)條表示的活動(dòng)是已選入集合A的活動(dòng)，而空白長(zhǎng)條表示的活動(dòng)是當(dāng)前正在檢查相容性的活動(dòng)。 若被檢查的活動(dòng)i的開(kāi)始時(shí)間Si小于最近選擇的活動(dòng)j的結(jié)束時(shí)間fi，則不選擇活動(dòng)i，否則選擇活動(dòng)i加入

10、集合A中。 124.1 活動(dòng)安排問(wèn)題 貪心算法并不總能求得問(wèn)題的整整體最優(yōu)解體最優(yōu)解。但對(duì)于活動(dòng)安排問(wèn)題，貪心算法greedySelector卻總能求得的整體最優(yōu)解，即它最終所確定的相容活動(dòng)集合A的規(guī)模最大。這個(gè)結(jié)論可以用數(shù)學(xué)歸納法證明。134.2 貪心算法的基本要素 本節(jié)著重討論可以用貪心算法求解的問(wèn)題的一般特征。 對(duì)于一個(gè)具體的問(wèn)題，怎么知道是否可用貪心算法解此問(wèn)題，以及能否得到問(wèn)題的最優(yōu)解呢?這個(gè)問(wèn)題很難給予肯定的回答。 但是，從許多可以用貪心算法求解的問(wèn)題中看到這類(lèi)問(wèn)題一般具有2個(gè)重要的性質(zhì)：貪心選擇貪心選擇性質(zhì)性質(zhì)和最優(yōu)子結(jié)構(gòu)性質(zhì)最優(yōu)子結(jié)構(gòu)性質(zhì)。 144.2 貪心算法的基本要素1.1

11、.貪心選擇性質(zhì)貪心選擇性質(zhì) 所謂貪心選擇性質(zhì)貪心選擇性質(zhì)是指所求問(wèn)題的整體最優(yōu)解整體最優(yōu)解可以通過(guò)一系列局部最優(yōu)局部最優(yōu)的選擇，即貪心選擇來(lái)達(dá)到。這是貪心算法可行的第一個(gè)基本要素，也是貪心算法與動(dòng)態(tài)規(guī)劃算法的主要區(qū)別。 動(dòng)態(tài)規(guī)劃算法通常以自底向上自底向上的方式解各子問(wèn)題，而貪心算法則通常以自頂向下自頂向下的方式進(jìn)行，以迭代的方式作出相繼的貪心選擇，每作一次貪心選擇就將所求問(wèn)題簡(jiǎn)化為規(guī)模更小的子問(wèn)題。 對(duì)于一個(gè)具體問(wèn)題，要確定它是否具有貪心選擇性質(zhì)，必須證明每一步所作的貪心選擇最終導(dǎo)致問(wèn)題的整體最優(yōu)解。154.2 貪心算法的基本要素2.2.最優(yōu)子結(jié)構(gòu)性質(zhì)最優(yōu)子結(jié)構(gòu)性質(zhì) 當(dāng)一個(gè)問(wèn)題的最優(yōu)解包含其子

12、問(wèn)題的最優(yōu)解時(shí)，稱(chēng)此問(wèn)題具有最優(yōu)子結(jié)構(gòu)性質(zhì)最優(yōu)子結(jié)構(gòu)性質(zhì)。問(wèn)題的最優(yōu)子結(jié)構(gòu)性質(zhì)是該問(wèn)題可用動(dòng)態(tài)規(guī)劃算法或貪心算法求解的關(guān)鍵特征。 164.2 貪心算法的基本要素3.3.貪心算法與動(dòng)態(tài)規(guī)劃算法的差異貪心算法與動(dòng)態(tài)規(guī)劃算法的差異 貪心算法和動(dòng)態(tài)規(guī)劃算法都要求問(wèn)題具有最優(yōu)子結(jié)構(gòu)性質(zhì)，這是2類(lèi)算法的一個(gè)共同點(diǎn)。但是，對(duì)于具有最優(yōu)子結(jié)構(gòu)最優(yōu)子結(jié)構(gòu)的問(wèn)題應(yīng)該選用貪心算法還是動(dòng)態(tài)規(guī)劃算法求解?是否能用動(dòng)態(tài)規(guī)劃算法求解的問(wèn)題也能用貪心算法求解?下面研究2個(gè)經(jīng)典的組合優(yōu)化問(wèn)題組合優(yōu)化問(wèn)題，并以此說(shuō)明貪心算法與動(dòng)態(tài)規(guī)劃算法的主要差別。174.2 貪心算法的基本要素0-10-1背包問(wèn)題：背包問(wèn)題： 給定n種物品和一

13、個(gè)背包。物品i的重量是Wi，其價(jià)值為Vi，背包的容量為C。應(yīng)如何選擇裝入背包的物品，使得裝入背包中物品的總價(jià)值最大?18 在選擇裝入背包的物品時(shí)，對(duì)每種物品在選擇裝入背包的物品時(shí)，對(duì)每種物品i i只有只有2 2種選擇，即裝入背包或不裝入背包。不種選擇，即裝入背包或不裝入背包。不能將物品能將物品i i裝入背包多次，也不能只裝入部分裝入背包多次，也不能只裝入部分的物品的物品i i。4.2 貪心算法的基本要素 背包問(wèn)題：背包問(wèn)題： 與0-1背包問(wèn)題類(lèi)似，所不同的是在選擇物品i裝入背包時(shí)，可以選擇物品可以選擇物品i i的一部分的一部分，而不一定要全部裝入背包，1in。19 這2類(lèi)問(wèn)題都具有最優(yōu)子結(jié)構(gòu)最

14、優(yōu)子結(jié)構(gòu)性質(zhì)，極為相似，但背包問(wèn)題可以用貪心算法求解，而0-1背包問(wèn)題卻不能用貪心算法求解。 背包問(wèn)題: 已知容量為M的背包和n件物品。第i件物品的重量為wi，價(jià)值是vi。因而將物品i的一部分xi放進(jìn)背包即獲得vixi的價(jià)值。問(wèn)題是：怎樣裝包使所獲得的價(jià)值最大。即是如下的優(yōu)化問(wèn)題：20niiix1vmaxniwxMxwiiiniii1, 0, 0v, 101 采用貪心方法，有幾種原則可循： a.每次撿最輕的物品裝每次撿最輕的物品裝； b.每次撿價(jià)值最大的裝每次撿價(jià)值最大的裝； c.每次裝包時(shí)既考慮物品的重量又考慮物品的價(jià)值，每次裝包時(shí)既考慮物品的重量又考慮物品的價(jià)值，也就是說(shuō)每次撿單位價(jià)值最大

15、的裝。也就是說(shuō)每次撿單位價(jià)值最大的裝。 按原則a來(lái)裝只考慮到多裝些物品，但由于單位價(jià)值未必高，總價(jià)值不能達(dá)到最大；按原則b來(lái)裝，每次選擇的價(jià)值最大，但同時(shí)也可能占用了較大的空間，裝的物品少，未必能夠達(dá)到總價(jià)值最大。比較合理的原則是c。事實(shí)上，按照原則c來(lái)裝，確實(shí)能夠達(dá)到總價(jià)值最大。 21對(duì)于一個(gè)給定的問(wèn)題，初看起來(lái)，往往有若干種貪心準(zhǔn)則可選，但在實(shí)際上，其中的多數(shù)都不能使貪心算法達(dá)到問(wèn)題的最優(yōu)解。如背包問(wèn)題下面的實(shí)例：n=3, M=20, v=(25, 24, 15), w=(18,15,10)考察以上的三種貪心準(zhǔn)則。2223如果以?xún)r(jià)值最大為貪心準(zhǔn)則，則貪心算法的執(zhí)如果以?xún)r(jià)值最大為貪心準(zhǔn)則，則

16、貪心算法的執(zhí)行過(guò)程是：行過(guò)程是：首先考慮將物品1裝包，此時(shí)獲得效益值25，包的剩余容量是2。然后考慮將物品2裝包，但物品2的重量15超出包的剩余容量，只能裝入該種物品的2/15，效益值242/153.2。此時(shí)獲得的總效益值為25+3.2=28.2。這樣得到的可行解（1，2/15，0）并不是最優(yōu)解。24如果以物品的重量為貪心準(zhǔn)則：如果以物品的重量為貪心準(zhǔn)則：首先考慮將物品3裝包，此時(shí)獲得效益15，包的剩余重量為201010，此時(shí)考慮將物品2裝包，因?yàn)槲锲?重量1510，所以只能將物品2的2/3裝入，此時(shí)效益242/316，因此總效益值為151631，按此過(guò)程得解（0，2/3，1） 首首先考慮單位

17、價(jià)值大的物品裝包，即將物品先考慮單位價(jià)值大的物品裝包，即將物品2 2裝裝包，此時(shí)獲得效益值包，此時(shí)獲得效益值2424，背包的剩余容量是，背包的剩余容量是5 5。 然然后考慮裝物品后考慮裝物品3 3，只能裝入該物品，只能裝入該物品5/15/10 0=1/2=1/2, , 所得的總的效益值為所得的總的效益值為24+15/2=31.524+15/2=31.5。按此過(guò)程得解。按此過(guò)程得解（0 0，1 1，1/21/2）比前面的裝法的效益值大。）比前面的裝法的效益值大。實(shí)踐證明，實(shí)踐證明，選擇能產(chǎn)生最優(yōu)解的貪心準(zhǔn)則是設(shè)計(jì)貪心算法的核心選擇能產(chǎn)生最優(yōu)解的貪心準(zhǔn)則是設(shè)計(jì)貪心算法的核心問(wèn)題。問(wèn)題。25 如如果

18、以單位價(jià)值最大為貪心準(zhǔn)則，則貪果以單位價(jià)值最大為貪心準(zhǔn)則，則貪心算法的執(zhí)行過(guò)程是心算法的執(zhí)行過(guò)程是： 先先計(jì)算出各個(gè)物品的單位價(jià)值計(jì)算出各個(gè)物品的單位價(jià)值(25/18, 24/15, 15/10)=(1.389, 1.6, 1.5)。4.2 貪心算法的基本要素用貪心算法解背包問(wèn)題的基本步驟：用貪心算法解背包問(wèn)題的基本步驟： 首先計(jì)算每種物品單位重量的價(jià)值Vi/Wi，然后，依貪心選擇策略，將盡可能多的單位重量?jī)r(jià)值單位重量?jī)r(jià)值最高最高的物品裝入背包。若將這種物品全部裝入背包后，背包內(nèi)的物品總重量未超過(guò)C，則選擇單位重量?jī)r(jià)值次高的物品并盡可能多地裝入背包。依此策略一直地進(jìn)行下去，直到背包裝滿(mǎn)為止。

19、具體算法可描述如下頁(yè)： 2627 算法算法knapsackknapsack的主要計(jì)算時(shí)間在的主要計(jì)算時(shí)間在于將各種物品依其于將各種物品依其單位重量的價(jià)值從單位重量的價(jià)值從大到小排序。因此，大到小排序。因此，算法的計(jì)算時(shí)間上算法的計(jì)算時(shí)間上界為界為O O（nlognnlogn）。當(dāng)然，）。當(dāng)然，為了證明算法的正為了證明算法的正確性，還必須證明確性，還必須證明背包問(wèn)題具有貪心背包問(wèn)題具有貪心選擇性質(zhì)選擇性質(zhì)。float Knapsack(int n,float M,float v,float w,float x) Sort(n,v,w); int i; for (i=1;i=n;i+) xi=0;

20、 float c=M，opt=0; for (i=1;ic) break; xi=1; opt+=vi; c-=wi; if (i=n) xi=c/wi; opt+=xi*vi; return opt;4.2 貪心算法的基本要素 對(duì)于0-10-1背包問(wèn)題背包問(wèn)題，貪心選擇之所以不能得到最優(yōu)解是因?yàn)樵谶@種情況下，它無(wú)法保證最終能將背包裝滿(mǎn)，部分閑置的背包空間使每公斤背包空間的價(jià)值降低了。事實(shí)上，在考慮0-1背包問(wèn)題時(shí)，應(yīng)比較選擇該物品和不選擇該物品所導(dǎo)致的最終方案，然后再作出最好選擇。由此就導(dǎo)出許多互相重疊的子問(wèn)題。這正是該問(wèn)題可用動(dòng)態(tài)動(dòng)態(tài)規(guī)劃算法規(guī)劃算法求解的另一重要特征。 實(shí)際上也是如此，動(dòng)

21、態(tài)規(guī)劃算法的確可以有效地解0-1背包問(wèn)題。 284.3 最優(yōu)裝載 有一批集裝箱要裝上一艘載重量為c的輪船。其中集裝箱i的重量為Wi。最優(yōu)裝載問(wèn)題要求確定在裝載體積不受限制的情況下，將盡可能多的集裝箱裝上輪船。1.1.算法描述算法描述最優(yōu)裝載問(wèn)題可用貪心算法求解。采用重量最輕者先裝的貪心選擇策略，可產(chǎn)生最優(yōu)裝載問(wèn)題的最優(yōu)解。具體算法描述如下頁(yè)。 2930templatevoid Loading(int x, Type w, Type c, int n) int *t = new int n+1; Sort(w, t, n); for (int i = 1; i = n; i+) xi = 0;

22、for (int i = 1; i = n & wti = c; i+) xti = 1; c -= wti;4.3 最優(yōu)裝載2.2.貪心選擇性質(zhì)貪心選擇性質(zhì) 可以證明最優(yōu)裝載問(wèn)題具有貪心選擇性質(zhì)。 3.3.最優(yōu)子結(jié)構(gòu)性質(zhì)最優(yōu)子結(jié)構(gòu)性質(zhì)最優(yōu)裝載問(wèn)題具有最優(yōu)子結(jié)構(gòu)性質(zhì)。由最優(yōu)裝載問(wèn)題的貪心選擇性質(zhì)和最優(yōu)子結(jié)構(gòu)性質(zhì)，容易證明算法loadingloading的正確性。算法loadingloading的主要計(jì)算量在于將集裝箱依其重量從小到大排序，故算法所需的計(jì)算時(shí)間為 O(nlogn)O(nlogn)。 314.4 哈夫曼編碼哈夫曼編碼哈夫曼編碼是廣泛地用于數(shù)據(jù)文件壓縮的十分有效的編碼方法。其

23、壓縮率通常在20%90%之間。哈夫曼編碼算法用字符在文件中出現(xiàn)的頻率表來(lái)建立一個(gè)用0，1串表示各字符的最優(yōu)表示方式。 給出現(xiàn)頻率高的字符較短的編碼，出現(xiàn)頻率較低的字符以較長(zhǎng)的編碼，可以大大縮短總碼長(zhǎng)。1.1.前綴碼前綴碼對(duì)每一個(gè)字符規(guī)定一個(gè)0,1串作為其代碼，并要求任一字符的代碼都不是其他字符代碼的前綴。這種編碼稱(chēng)為前綴碼前綴碼。324.4 哈夫曼編碼 編碼的前綴性質(zhì)可以使譯碼方法非常簡(jiǎn)單。 表示最優(yōu)前綴碼最優(yōu)前綴碼的二叉樹(shù)總是一棵完全二叉樹(shù)完全二叉樹(shù)，即樹(shù)中任一結(jié)點(diǎn)都有2個(gè)兒子結(jié)點(diǎn)。平均碼長(zhǎng)平均碼長(zhǎng)定義為：使平均碼長(zhǎng)達(dá)到最小的前綴碼編碼方案稱(chēng)為給定編碼字符集C的最優(yōu)前綴碼最優(yōu)前綴碼。33)(

24、)()(cdcfTBTCc 八種字符,其頻率分別為:0.05,0.29,0.07,0.08,0.14,0.23,0.03,0.11字符頻率字符頻率編碼編碼0.050.0501100.290.29100.070.0711100.080.0811110.140.141100.230.23000.030.0301110.110.1101034532311178291400000001111114.4 哈夫曼編碼2.2.構(gòu)造哈夫曼編碼構(gòu)造哈夫曼編碼哈夫曼提出構(gòu)造最優(yōu)前綴碼的貪心算法，由此產(chǎn)生的編碼方案稱(chēng)為哈夫曼編碼哈夫曼編碼。哈夫曼算法以自底向上的方式構(gòu)造表示最優(yōu)前綴碼的二叉樹(shù)T。算法以|C|個(gè)葉結(jié)點(diǎn)

25、開(kāi)始，執(zhí)行|C|1次的“合并”運(yùn)算后產(chǎn)生最終所要求的樹(shù)T。 354.4 哈夫曼編碼 在書(shū)上給出的算法huffmanTree中，編碼字符集中每一字符c的頻率是f(c)。以以f f為鍵值的優(yōu)先隊(duì)為鍵值的優(yōu)先隊(duì)列列Q Q用在貪心選擇貪心選擇時(shí)有效地確定算法當(dāng)前要合并的2棵具有最小頻率的樹(shù)。一旦2棵具有最小頻率的樹(shù)合并后，產(chǎn)生一棵新的樹(shù)，其頻率為合并的2棵樹(shù)的頻率之和，并將新樹(shù)插入優(yōu)先隊(duì)列Q。經(jīng)過(guò)n1次的合并后，優(yōu)先隊(duì)列中只剩下一棵樹(shù)，即所要求的樹(shù)T。算法huffmanTree用最小堆實(shí)現(xiàn)優(yōu)先隊(duì)列Q。初始化優(yōu)先隊(duì)列需要O(n)計(jì)算時(shí)間，由于最小堆的removeMin和put運(yùn)算均需O(logn)時(shí)間，

26、n1次的合并總共需要O(nlogn)計(jì)算時(shí)間。因此，關(guān)于n個(gè)字符的哈夫曼算法的計(jì)算時(shí)間計(jì)算時(shí)間為O(nlogn) 。364.4 哈夫曼編碼3.3.哈夫曼算法的正確性哈夫曼算法的正確性要證明哈夫曼算法的正確性，只要證明最優(yōu)前綴碼問(wèn)題具有貪心選擇性質(zhì)貪心選擇性質(zhì)和最優(yōu)子結(jié)構(gòu)性質(zhì)最優(yōu)子結(jié)構(gòu)性質(zhì)。(1)貪心選擇性質(zhì)(2)最優(yōu)子結(jié)構(gòu)性質(zhì)374.5 單源最短路徑給定帶權(quán)有向圖G =(V,E)，其中每條邊的權(quán)是非負(fù)實(shí)數(shù)。另外，還給定V中的一個(gè)頂點(diǎn)，稱(chēng)為源源。現(xiàn)在要計(jì)算從源到所有其他各頂點(diǎn)的最短路長(zhǎng)度最短路長(zhǎng)度。這里路的長(zhǎng)度是指路上各邊權(quán)之和。這個(gè)問(wèn)題通常稱(chēng)為單源最短路徑問(wèn)題單源最短路徑問(wèn)題。1.1.算法基本

27、思想算法基本思想Dijkstra算法是解單源最短路徑問(wèn)題的貪心算法。384.5 單源最短路徑其基本思想基本思想是，設(shè)置頂點(diǎn)集合S并不斷地作貪心選擇貪心選擇來(lái)擴(kuò)充這個(gè)集合。一個(gè)頂點(diǎn)屬于集合S當(dāng)且僅當(dāng)從源到該頂點(diǎn)的最短路徑長(zhǎng)度已知。初始時(shí)，S中僅含有源。設(shè)u是G的某一個(gè)頂點(diǎn)，把從源到u且中間只經(jīng)過(guò)S中頂點(diǎn)的路稱(chēng)為從源到u的特殊路徑，并用數(shù)組dist記錄當(dāng)前每個(gè)頂點(diǎn)所對(duì)應(yīng)的最短特殊路徑長(zhǎng)度。Dijkstra算法每次從V-S中取出具有最短特殊路長(zhǎng)度的頂點(diǎn)u，將u添加到S中，同時(shí)對(duì)數(shù)組dist作必要的修改。一旦S包含了所有V中頂點(diǎn)，dist就記錄了從源到所有其他頂點(diǎn)之間的最短路徑長(zhǎng)度。394.5 單源最

28、短路徑例如例如，對(duì)右圖中的有向圖，應(yīng)用Dijkstra算法計(jì)算從源頂點(diǎn)1到其他頂點(diǎn)間最短路徑的過(guò)程列在下頁(yè)的表中。404.5 單源最短路徑迭代迭代S Su udist2dist2 dist3dist3 dist4dist4 dist5dist5初始初始1-10maxint301001 11,221060301002 21,2,44105030903 31,2,4,33105030604 41,2,4,3,551050306041Dijkstra算法的迭代過(guò)程： 4.5 單源最短路徑2.2.算法的正確性和計(jì)算復(fù)雜性算法的正確性和計(jì)算復(fù)雜性(1)貪心選擇性質(zhì)(2)最優(yōu)子結(jié)構(gòu)性質(zhì)(3)計(jì)算復(fù)雜性對(duì)于

29、具有n個(gè)頂點(diǎn)和e條邊的帶權(quán)有向圖，如果用帶權(quán)鄰接矩陣表示這個(gè)圖，那么Dijkstra算法的主循環(huán)體需要 時(shí)間。這個(gè)循環(huán)需要執(zhí)行n-1次，所以完成循環(huán)需要 時(shí)間。算法的其余部分所需要時(shí)間不超過(guò) 。42)(nO)(2nO)(2nO4.6 最小生成樹(shù) 設(shè)G =(V,E)是無(wú)向連通帶權(quán)圖，即一個(gè)網(wǎng)絡(luò)網(wǎng)絡(luò)。E中每條邊(v,w)的權(quán)為cvw。如果G的子圖G是一棵包含G的所有頂點(diǎn)的樹(shù)，則稱(chēng)G為G的生成樹(shù)。生成樹(shù)上各邊權(quán)的總和稱(chēng)為該生成樹(shù)的耗費(fèi)耗費(fèi)。在G的所有生成樹(shù)中，耗費(fèi)最小的生成樹(shù)稱(chēng)為G的最小生成樹(shù)最小生成樹(shù)。網(wǎng)絡(luò)的最小生成樹(shù)在實(shí)際中有廣泛應(yīng)用。例如例如，在設(shè)計(jì)通信網(wǎng)絡(luò)時(shí)，用圖的頂點(diǎn)表示城市，用邊(v,w

30、)的權(quán)cvw表示建立城市v和城市w之間的通信線(xiàn)路所需的費(fèi)用，則最小生成樹(shù)就給出了建立通信網(wǎng)絡(luò)的最經(jīng)濟(jì)的方案。 434.6 最小生成樹(shù)1.1.最小生成樹(shù)性質(zhì)最小生成樹(shù)性質(zhì)用貪心算法設(shè)計(jì)策略可以設(shè)計(jì)出構(gòu)造最小生成樹(shù)的有效算法。本節(jié)介紹的構(gòu)造最小生成樹(shù)的PrimPrim算法算法和KruskalKruskal算法算法都可以看作是應(yīng)用貪心算法設(shè)計(jì)策略的例子。盡管這2個(gè)算法做貪心選擇的方式不同，它們都利用了下面的最小生成樹(shù)性質(zhì)最小生成樹(shù)性質(zhì)：設(shè)G=(V,E)是連通帶權(quán)圖，U是V的真子集。如果(u,v)E，且uU，vV-U，且在所有這樣的邊中，(u,v)的權(quán)cuv最小，那么一定存在G的一棵最小生成樹(shù)，它以(

31、u,v)為其中一條邊。這個(gè)性質(zhì)有時(shí)也稱(chēng)為MSTMST性質(zhì)性質(zhì)。 444.6 最小生成樹(shù)2.Prim2.Prim算法算法 設(shè)G=(V,E)是連通帶權(quán)圖，V=1,2,n。構(gòu)造G的最小生成樹(shù)的Prim算法的基本思想基本思想是：首先置S=1，然后，只要S是V的真子集，就作如下的貪心選貪心選擇擇：選取滿(mǎn)足條件iS，jV-S，且cij最小的邊，將頂點(diǎn)j添加到S中。這個(gè)過(guò)程一直進(jìn)行到S=V時(shí)為止。在這個(gè)過(guò)程中選取到的所有邊恰好構(gòu)成G的一棵最小最小生成樹(shù)生成樹(shù)。 454.6 最小生成樹(shù)利用最小生成樹(shù)性質(zhì)和數(shù)學(xué)歸納法容易證明，上述算法中的邊集合邊集合T T始終始終包含包含G G的某棵最小生成樹(shù)中的某棵最小生成樹(shù)

32、中的邊的邊。因此，在算法結(jié)束時(shí)，T中的所有邊構(gòu)成G的一棵最小生成樹(shù)。 例如例如，對(duì)于右圖中的帶權(quán)圖，按PrimPrim算法算法選取邊的過(guò)程如下頁(yè)圖所示。464.6 最小生成樹(shù)474.6 最小生成樹(shù)在上述Prim算法中，還應(yīng)當(dāng)考慮如何有效地找出滿(mǎn)如何有效地找出滿(mǎn)足條件足條件i i S,jS,j V-SV-S，且權(quán)，且權(quán)cijcij最小的邊最小的邊(i,j)(i,j)。實(shí)現(xiàn)這個(gè)目的的較簡(jiǎn)單的辦法是設(shè)置2個(gè)數(shù)組closest和lowcost。在Prim算法執(zhí)行過(guò)程中，先找出V-S中使lowcost值最小的頂點(diǎn)j，然后根據(jù)數(shù)組closest選取邊(j,closestj)，最后將j添加到S中，并對(duì)closest和lowcost作必要的修改。用這個(gè)辦法實(shí)現(xiàn)的Prim算法所需的計(jì)算時(shí)間計(jì)算時(shí)間為 48)(2nO4.6 最小生成樹(shù)3.Kruskal3.Kruskal算法算法Kruskal算法構(gòu)造G的最小生成樹(shù)的基本思想基本思想是，首先將G