計(jì)算機(jī)算法回溯法

計(jì)算機(jī)算法回溯法1第1頁(yè)，共30頁(yè)，2023年，2月20日，星期四通過(guò)應(yīng)用范例學(xué)習(xí)回溯法的設(shè)計(jì)策略。（1）裝載問(wèn)題；（2）批處理作業(yè)調(diào)度；（3）符號(hào)三角形問(wèn)題（4）n后問(wèn)題；（5）0-1背包問(wèn)題；（6）最大團(tuán)問(wèn)題；（7）圖的m著色問(wèn)題（8）旅行售貨員問(wèn)題（9）圓排列問(wèn)題（10）電路板排列問(wèn)題（11）連續(xù)郵資問(wèn)題2第2頁(yè)，共30頁(yè)，2023年，2月20日，星期四有許多問(wèn)題，當(dāng)需要找出它的解集或者要求回答什么解是滿足某些約束條件的最佳解時(shí)，往往要使用回溯法?；厮莘ǖ幕咀龇ㄊ撬阉?，或是一種組織得井井有條的，能避免不必要搜索的窮舉式搜索法。這種方法適用于解一些組合數(shù)相當(dāng)大的問(wèn)題?；厮莘ㄔ趩?wèn)題的解空間樹(shù)中，按深度優(yōu)先策略，從根結(jié)點(diǎn)出發(fā)搜索解空間樹(shù)。算法搜索至解空間樹(shù)的任意一點(diǎn)時(shí)，先判斷該結(jié)點(diǎn)是否包含問(wèn)題的解。如果肯定不包含，則跳過(guò)對(duì)該結(jié)點(diǎn)為根的子樹(shù)的搜索，逐層向其祖先結(jié)點(diǎn)回溯；否則，進(jìn)入該子樹(shù)，繼續(xù)按深度優(yōu)先策略搜索?；厮莘?第3頁(yè)，共30頁(yè)，2023年，2月20日，星期四問(wèn)題的解空間問(wèn)題的解向量：回溯法希望一個(gè)問(wèn)題的解能夠表示成一個(gè)n元式(x1,x2,…,xn)的形式。顯約束：對(duì)分量xi的取值限定。隱約束：為滿足問(wèn)題的解而對(duì)不同分量之間施加的約束。解空間：對(duì)于問(wèn)題的一個(gè)實(shí)例，解向量滿足顯式約束條件的所有多元組，構(gòu)成了該實(shí)例的一個(gè)解空間。注意：同一個(gè)問(wèn)題可以有多種表示，有些表示方法更簡(jiǎn)單，所需表示的狀態(tài)空間更?。ù鎯?chǔ)量少，搜索方法簡(jiǎn)單）。n=3時(shí)的0-1背包問(wèn)題用完全二叉樹(shù)表示的解空間4第4頁(yè)，共30頁(yè)，2023年，2月20日，星期四生成問(wèn)題狀態(tài)的基本方法擴(kuò)展結(jié)點(diǎn):一個(gè)正在產(chǎn)生兒子的結(jié)點(diǎn)稱為擴(kuò)展結(jié)點(diǎn)活結(jié)點(diǎn):一個(gè)自身已生成但其兒子還沒(méi)有全部生成的節(jié)點(diǎn)稱做活結(jié)點(diǎn)死結(jié)點(diǎn):一個(gè)所有兒子已經(jīng)產(chǎn)生的結(jié)點(diǎn)稱做死結(jié)點(diǎn)深度優(yōu)先的問(wèn)題狀態(tài)生成法：如果對(duì)一個(gè)擴(kuò)展結(jié)點(diǎn)R，一旦產(chǎn)生了它的一個(gè)兒子C，就把C當(dāng)做新的擴(kuò)展結(jié)點(diǎn)。在完成對(duì)子樹(shù)C（以C為根的子樹(shù)）的窮盡搜索之后，將R重新變成擴(kuò)展結(jié)點(diǎn)，繼續(xù)生成R的下一個(gè)兒子（如果存在）寬度優(yōu)先的問(wèn)題狀態(tài)生成法：在一個(gè)擴(kuò)展結(jié)點(diǎn)變成死結(jié)點(diǎn)之前，它一直是擴(kuò)展結(jié)點(diǎn)回溯法：為了避免生成那些不可能產(chǎn)生最佳解的問(wèn)題狀態(tài)，要不斷地利用限界函數(shù)(boundingfunction)來(lái)處死那些實(shí)際上不可能產(chǎn)生所需解的活結(jié)點(diǎn)，以減少問(wèn)題的計(jì)算量。具有限界函數(shù)的深度優(yōu)先生成法稱為回溯法5第5頁(yè)，共30頁(yè)，2023年，2月20日，星期四回溯法的基本思想(1)針對(duì)所給問(wèn)題，定義問(wèn)題的解空間；(2)確定易于搜索的解空間結(jié)構(gòu)；(3)以深度優(yōu)先方式搜索解空間，并在搜索過(guò)程中用剪枝函數(shù)避免無(wú)效搜索。常用剪枝函數(shù)：用約束函數(shù)在擴(kuò)展結(jié)點(diǎn)處剪去不滿足約束的子樹(shù)；用限界函數(shù)剪去得不到最優(yōu)解的子樹(shù)。用回溯法解題的一個(gè)顯著特征是在搜索過(guò)程中動(dòng)態(tài)產(chǎn)生問(wèn)題的解空間。在任何時(shí)刻，算法只保存從根結(jié)點(diǎn)到當(dāng)前擴(kuò)展結(jié)點(diǎn)的路徑。如果解空間樹(shù)中從根結(jié)點(diǎn)到葉結(jié)點(diǎn)的最長(zhǎng)路徑的長(zhǎng)度為h(n)，則回溯法所需的計(jì)算空間通常為O(h(n))。而顯式地存儲(chǔ)整個(gè)解空間則需要O(2h(n))或O(h(n)!)內(nèi)存空間。6第6頁(yè)，共30頁(yè)，2023年，2月20日，星期四遞歸回溯回溯法對(duì)解空間作深度優(yōu)先搜索，因此，在一般情況下用遞歸方法實(shí)現(xiàn)回溯法。voidbacktrack(intt){

if(t>n)output(x);

elsefor(inti=f(n,t);i<=g(n,t);i++){x[t]=h(i);if(constraint(t)&&bound(t))backtrack(t+1);}}7第7頁(yè)，共30頁(yè)，2023年，2月20日，星期四迭代回溯采用樹(shù)的非遞歸深度優(yōu)先遍歷算法，可將回溯法表示為一個(gè)非遞歸迭代過(guò)程。voiditerativeBacktrack(){intt=1;

while(t>0){

if(f(n,t)<=g(n,t))for(inti=f(n,t);i<=g(n,t);i++){x[t]=h(i);

if(constraint(t)&&bound(t)){

if(solution(t))output(x);

elset++;}}

elset--;}}8第8頁(yè)，共30頁(yè)，2023年，2月20日，星期四子集樹(shù)與排列樹(shù)遍歷子集樹(shù)需O(2n)計(jì)算時(shí)間遍歷排列樹(shù)需要O(n!)計(jì)算時(shí)間voidbacktrack(intt){if(t>n)output(x);elsefor(inti=0;i<=1;i++){x[t]=i;if(legal(t))backtrack(t+1);}}voidbacktrack(intt){if(t>n)output(x);elsefor(inti=t;i<=n;i++){swap(x[t],x[i]);if(legal(t))backtrack(t+1);swap(x[t],x[i]);}}9第9頁(yè)，共30頁(yè)，2023年，2月20日，星期四裝載問(wèn)題有一批共n個(gè)集裝箱要裝上2艘載重量分別為c1和c2的輪船，其中集裝箱i的重量為wi，且裝載問(wèn)題要求確定是否有一個(gè)合理的裝載方案可將這個(gè)集裝箱裝上這2艘輪船。如果有，找出一種裝載方案。容易證明，如果一個(gè)給定裝載問(wèn)題有解，則采用下面的策略可得到最優(yōu)裝載方案。(1)首先將第一艘輪船盡可能裝滿；(2)將剩余的集裝箱裝上第二艘輪船。將第一艘輪船盡可能裝滿等價(jià)于選取全體集裝箱的一個(gè)子集，使該子集中集裝箱重量之和最接近。由此可知，裝載問(wèn)題等價(jià)于以下特殊的0-1背包問(wèn)題。用回溯法設(shè)計(jì)解裝載問(wèn)題的O(2n)計(jì)算時(shí)間算法。在某些情況下該算法優(yōu)于動(dòng)態(tài)規(guī)劃算法。10第10頁(yè)，共30頁(yè)，2023年，2月20日，星期四裝載問(wèn)題解空間：子集樹(shù)可行性約束函數(shù)(選擇當(dāng)前元素)：上界函數(shù)(不選擇當(dāng)前元素)：當(dāng)前載重量cw+剩余集裝箱的重量r當(dāng)前最優(yōu)載重量bestwvoidbacktrack(inti){//搜索第i層結(jié)點(diǎn)

if(i>n)//到達(dá)葉結(jié)點(diǎn)更新最優(yōu)解bestx,bestw;return;r-=w[i];

if(cw+w[i]<=c){//搜索左子樹(shù)

x[i]=1;cw+=w[i];

backtrack(i+1);cw-=w[i];}

if(cw+r>bestw){x[i]=0;//搜索右子樹(shù)

backtrack(i+1);}r+=w[i];}11第11頁(yè)，共30頁(yè)，2023年，2月20日，星期四批處理作業(yè)調(diào)度給定n個(gè)作業(yè)的集合{J1,J2,…,Jn}。每個(gè)作業(yè)必須先由機(jī)器1處理，然后由機(jī)器2處理。作業(yè)Ji需要機(jī)器j的處理時(shí)間為tji。對(duì)于一個(gè)確定的作業(yè)調(diào)度，設(shè)Fji是作業(yè)i在機(jī)器j上完成處理的時(shí)間。所有作業(yè)在機(jī)器2上完成處理的時(shí)間和稱為該作業(yè)調(diào)度的完成時(shí)間和。批處理作業(yè)調(diào)度問(wèn)題要求對(duì)于給定的n個(gè)作業(yè)，制定最佳作業(yè)調(diào)度方案，使其完成時(shí)間和達(dá)到最小。tji機(jī)器1機(jī)器2作業(yè)121作業(yè)231作業(yè)323這3個(gè)作業(yè)的6種可能的調(diào)度方案是1,2,3；1,3,2；2,1,3；2,3,1；3,1,2；3,2,1；它們所相應(yīng)的完成時(shí)間和分別是19，18，20，21，19，19。易見(jiàn)，最佳調(diào)度方案是1,3,2，其完成時(shí)間和為18。12第12頁(yè)，共30頁(yè)，2023年，2月20日，星期四批處理作業(yè)調(diào)度解空間：排列樹(shù)voidFlowshop::Backtrack(inti){if(i>n){for(intj=1;j<=n;j++)bestx[j]=x[j];bestf=f;}elsefor(intj=i;j<=n;j++){f1+=M[x[j]][1];f2[i]=((f2[i-1]>f1)?f2[i-1]:f1)+M[x[j]][2];f+=f2[i];if(f<bestf){Swap(x[i],x[j]);Backtrack(i+1);Swap(x[i],x[j]);}f1-=M[x[j]][1];f-=f2[i];}}classFlowshop{friendFlow(int**,int,int[]);private:voidBacktrack(inti);int**M,//各作業(yè)所需的處理時(shí)間*x,//當(dāng)前作業(yè)調(diào)度*bestx,//當(dāng)前最優(yōu)作業(yè)調(diào)度*f2,//機(jī)器2完成處理時(shí)間

f1,//機(jī)器1完成處理時(shí)間

f,//完成時(shí)間和

bestf,//當(dāng)前最優(yōu)值

n;//作業(yè)數(shù)};13第13頁(yè)，共30頁(yè)，2023年，2月20日，星期四符號(hào)三角形問(wèn)題++-+-+++----+-+++--++--+---+下圖是由14個(gè)“+”和14個(gè)“-”組成的符號(hào)三角形。2個(gè)同號(hào)下面都是“+”，2個(gè)異號(hào)下面都是“-”。在一般情況下，符號(hào)三角形的第一行有n個(gè)符號(hào)。符號(hào)三角形問(wèn)題要求對(duì)于給定的n，計(jì)算有多少個(gè)不同的符號(hào)三角形，使其所含的“+”和“-”的個(gè)數(shù)相同。14第14頁(yè)，共30頁(yè)，2023年，2月20日，星期四符號(hào)三角形問(wèn)題解向量：用n元組x[1:n]表示符號(hào)三角形的第一行?？尚行约s束函數(shù)：當(dāng)前符號(hào)三角形所包含的“+”個(gè)數(shù)與“-”個(gè)數(shù)均不超過(guò)n*(n+1)/4無(wú)解的判斷：n*(n+1)/2為奇數(shù)voidTriangle::Backtrack(intt){if((count>half)||(t*(t-1)/2-count>half))return;if(t>n)sum++;elsefor(inti=0;i<2;i++){p[1][t]=i;count+=i;for(intj=2;j<=t;j++){p[j][t-j+1]=p[j-1][t-j+1]^p[j-1][t-j+2];count+=p[j][t-j+1];}Backtrack(t+1);for(intj=2;j<=t;j++)count-=p[j][t-j+1];count-=i;}}++-+-+++----+-+++--++--+---+復(fù)雜度分析計(jì)算可行性約束需要O(n)時(shí)間，在最壞情況下有O(2n)個(gè)結(jié)點(diǎn)需要計(jì)算可行性約束，故解符號(hào)三角形問(wèn)題的回溯算法所需的計(jì)算時(shí)間為O(n2n)。15第15頁(yè)，共30頁(yè)，2023年，2月20日，星期四n后問(wèn)題在n×n格的棋盤上放置彼此不受攻擊的n個(gè)皇后。按照國(guó)際象棋的規(guī)則，皇后可以攻擊與之處在同一行或同一列或同一斜線上的棋子。n后問(wèn)題等價(jià)于在n×n格的棋盤上放置n個(gè)皇后，任何2個(gè)皇后不放在同一行或同一列或同一斜線上。1234567812345678QQQQQQQQ16第16頁(yè)，共30頁(yè)，2023年，2月20日，星期四解向量：(x1,x2,…,xn)顯約束：xi=1,2,…,n隱約束：

1)不同列：xixj2)不處于同一正、反對(duì)角線：|i-j||xi-xj|n后問(wèn)題boolQueen::Place(intk){for(intj=1;j<k;j++)if((abs(k-j)==abs(x[j]-x[k]))||(x[j]==x[k]))returnfalse;returntrue;}voidQueen::Backtrack(intt){if(t>n)sum++;elsefor(inti=1;i<=n;i++){x[t]=i;if(Place(t))Backtrack(t+1);}}17第17頁(yè)，共30頁(yè)，2023年，2月20日，星期四0-1背包問(wèn)題解空間：子集樹(shù)可行性約束函數(shù)：上界函數(shù)：template<classTypew,classTypep>TypepKnap<Typew,Typep>::Bound(inti){//計(jì)算上界

Typewcleft=c-cw;//剩余容量

Typepb=cp;//以物品單位重量?jī)r(jià)值遞減序裝入物品

while(i<=n&&w[i]<=cleft){cleft-=w[i];b+=p[i];i++;}//裝滿背包

if(i<=n)b+=p[i]/w[i]*cleft;returnb;}18第18頁(yè)，共30頁(yè)，2023年，2月20日，星期四最大團(tuán)問(wèn)題給定無(wú)向圖G=(V，E)。如果UV，且對(duì)任意u，vU有(u，v)E，則稱U是G的完全子圖。G的完全子圖U是G的團(tuán)當(dāng)且僅當(dāng)U不包含在G的更大的完全子圖中。G的最大團(tuán)是指G中所含頂點(diǎn)數(shù)最多的團(tuán)。如果UV且對(duì)任意u，vU有(u，v)E，則稱U是G的空子圖。G的空子圖U是G的獨(dú)立集當(dāng)且僅當(dāng)U不包含在G的更大的空子圖中。G的最大獨(dú)立集是G中所含頂點(diǎn)數(shù)最多的獨(dú)立集。對(duì)于任一無(wú)向圖G=(V，E)其補(bǔ)圖G=(V1，E1)定義為：V1=V，且(u，v)E1當(dāng)且僅當(dāng)(u，v)E。U是G的最大團(tuán)當(dāng)且僅當(dāng)U是G的最大獨(dú)立集。124531245319第19頁(yè)，共30頁(yè)，2023年，2月20日，星期四最大團(tuán)問(wèn)題解空間：子集樹(shù)可行性約束函數(shù)：頂點(diǎn)i到已選入的頂點(diǎn)集中每一個(gè)頂點(diǎn)都有邊相連。上界函數(shù)：有足夠多的可選擇頂點(diǎn)使得算法有可能在右子樹(shù)中找到更大的團(tuán)。voidClique::Backtrack(inti){//計(jì)算最大團(tuán)

if(i>n){//到達(dá)葉結(jié)點(diǎn)

for(intj=1;j<=n;j++)bestx[j]=x[j];bestn=cn;return;}//檢查頂點(diǎn)i與當(dāng)前團(tuán)的連接

intOK=1;for(intj=1;j<i;j++)if(x[j]&&a[i][j]==0){//i與j不相連

OK=0;break;}if(OK){//進(jìn)入左子樹(shù)

x[i]=1;cn++;Backtrack(i+1);x[i]=0;cn--;}if(cn+n-i>bestn){//進(jìn)入右子樹(shù)

x[i]=0;Backtrack(i+1);}}復(fù)雜度分析最大團(tuán)問(wèn)題的回溯算法backtrack所需的計(jì)算時(shí)間顯然為O(n2n)。1245320第20頁(yè)，共30頁(yè)，2023年，2月20日，星期四進(jìn)一步改進(jìn)選擇合適的搜索順序，可以使得上界函數(shù)更有效的發(fā)揮作用。例如在搜索之前可以將頂點(diǎn)按度從小到大排序。這在某種意義上相當(dāng)于給回溯法加入了啟發(fā)性。定義Si={vi,vi+1,...,vn}，依次求出Sn,Sn-1,...,S1的解。從而得到一個(gè)更精確的上界函數(shù)，若cn+Si<=max則剪枝。同時(shí)注意到：從Si+1到Si，如果找到一個(gè)更大的團(tuán)，那么vi必然屬于找到的團(tuán)，此時(shí)有Si=Si+1+1，否則Si=Si+1。因此只要max的值被更新過(guò)，就可以確定已經(jīng)找到最大值，不必再往下搜索了。21第21頁(yè)，共30頁(yè)，2023年，2月20日，星期四圖的m著色問(wèn)題給定無(wú)向連通圖G和m種不同的顏色。用這些顏色為圖G的各頂點(diǎn)著色，每個(gè)頂點(diǎn)著一種顏色。是否有一種著色法使G中每條邊的2個(gè)頂點(diǎn)著不同顏色。這個(gè)問(wèn)題是圖的m可著色判定問(wèn)題。若一個(gè)圖最少需要m種顏色才能使圖中每條邊連接的2個(gè)頂點(diǎn)著不同顏色，則稱這個(gè)數(shù)m為該圖的色數(shù)。求一個(gè)圖的色數(shù)m的問(wèn)題稱為圖的m可著色優(yōu)化問(wèn)題。22第22頁(yè)，共30頁(yè)，2023年，2月20日，星期四解向量：(x1,x2,…,xn)表示頂點(diǎn)i所著顏色x[i]

可行性約束函數(shù)：頂點(diǎn)i與已著色的相鄰頂點(diǎn)顏色不重復(fù)。圖的m著色問(wèn)題voidColor::Backtrack(intt){if(t>n){sum++;for(inti=1;i<=n;i++)cout<<x[i]<<'';cout<<endl;}elsefor(inti=1;i<=m;i++){x[t]=i;if(Ok(t))Backtrack(t+1);}}boolColor::Ok(intk){//檢查顏色可用性

for(intj=1;j<=n;j++)if((a[k][j]==1)&&(x[j]==x[k]))returnfalse;returntrue;}復(fù)雜度分析圖m可著色問(wèn)題的解空間樹(shù)中內(nèi)結(jié)點(diǎn)個(gè)數(shù)是對(duì)于每一個(gè)內(nèi)結(jié)點(diǎn)，在最壞情況下，用ok檢查當(dāng)前擴(kuò)展結(jié)點(diǎn)的每一個(gè)兒子所相應(yīng)的顏色可用性需耗時(shí)O(mn)。因此，回溯法總的時(shí)間耗費(fèi)是23第23頁(yè)，共30頁(yè)，2023年，2月20日，星期四旅行售貨員問(wèn)題解空間：排列樹(shù)template<classType>voidTraveling<Type>::Backtrack(inti){if(i==n){if(a[x[n-1]][x[n]]!=NoEdge&&a[x[n]][1]!=NoEdge&&(cc+a[x[n-1]][x[n]]+a[x[n]][1]<bestc||bestc==NoEdge)){for(intj=1;j<=n;j++)bestx[j]=x[j];bestc=cc+a[x[n-1]][x[n]]+a[x[n]][1];}}else{for(intj=i;j<=n;j++)//是否可進(jìn)入x[j]子樹(shù)?if(a[x[i-1]][x[j]]!=NoEdge&&(cc+a[x[i-1]][x[i]]<bestc||bestc==NoEdge)){//搜索子樹(shù)

Swap(x[i],x[j]);cc+=a[x[i-1]][x[i]];Backtrack(i+1);cc-=a[x[i-1]][x[i]];Swap(x[i],x[j]);}}}復(fù)雜度分析算法backtrack在最壞情況下可能需要更新當(dāng)前最優(yōu)解O((n-1)!)次，每次更新bestx需計(jì)算時(shí)間O(n)，從而整個(gè)算法的計(jì)算時(shí)間復(fù)雜性為O(n!)。24第24頁(yè)，共30頁(yè)，2023年，2月20日，星期四圓排列問(wèn)題給定n個(gè)大小不等的圓c1,c2,…,cn，現(xiàn)要將這n個(gè)圓排進(jìn)一個(gè)矩形框中，且要求各圓與矩形框的底邊相切。圓排列問(wèn)題要求從n個(gè)圓的所有排列中找出有最小長(zhǎng)度的圓排列。例如，當(dāng)n=3，且所給的3個(gè)圓的半徑分別為1，1，2時(shí)，這3個(gè)圓的最小長(zhǎng)度的圓排列如圖所示。其最小長(zhǎng)度為25第25頁(yè)，共30頁(yè)，2023年，2月20日，星期四圓排列問(wèn)題floatCircle::Center(intt){//計(jì)算當(dāng)前所選擇圓的圓心橫坐標(biāo)

floattemp=0;for(intj=1;j<t;j++){floatvaluex=x[j]+2.0*sqrt(r[t]*r[j]);if(valuex>temp)temp=valuex;}returntemp;}voidCircle::Compute(void){//計(jì)算當(dāng)前圓排列的長(zhǎng)度

floatlow=0,high=0;for(inti=1;i<=n;i++){if(x[i]-r[i]<low)low=x[i]-r[i];if(x[i]+r[i]>high)high=x[i]+r[i];}if(high-low<min)min=high-low;}voidCircle::Backtrack(intt){if(t>n)Compute();elsefor(intj=t;j<=n;j++){Swap(r[t],r[j]);floatcenterx=Center(t);if(centerx+r[t]+r[1]<min){//下界約束

x[t]=centerx;Backtrack(t+1);}Swap(r[t],r[j]);}}復(fù)雜度分析由于算法backtrack在最壞情況下可能需要計(jì)算O(n!)次當(dāng)前圓排列長(zhǎng)度，每次計(jì)算需O(n)計(jì)算時(shí)間，從而整個(gè)算法的計(jì)算時(shí)間復(fù)雜性為O((n+1)!)

上述算法尚有許多改進(jìn)的余地。例如，象1,2,…,n-1,n和n,n-1,…,2,1這種互為鏡像的排列具有相同的圓排列長(zhǎng)度，只計(jì)算一個(gè)就夠了，可減少約一半的計(jì)算量。另一方面，如果所給的n個(gè)圓中有k個(gè)圓有相同的半徑，則這k個(gè)圓產(chǎn)生的k!個(gè)完全相同的圓排列，只計(jì)算一個(gè)就夠了。26第26頁(yè)，共30頁(yè)，2023年，2月20日，星期四連續(xù)郵資問(wèn)題假設(shè)國(guó)家發(fā)行了n種不同面值的郵票，并且規(guī)定每張信封上最多只允許貼m張郵