信息管理原理與方法(第二版)第6章課件

6.1信息加工6.1.1信息加工的內(nèi)涵6.1.2信息加工的方法6.1.3決策樹方法6.2信息決策概述6.2.1決策對信息質(zhì)量的要求6.2.2決策的過程6.2.3有效決策的障礙6.3信息決策準(zhǔn)則6.3.1不確定性情況下的決策準(zhǔn)則6.3.2風(fēng)險情況下的決策準(zhǔn)則第6章信息加工與信息決策（1）理解信息加工的基本概念和基本方法；（2）理解和掌握決策樹分析方法；（3）理解信息決策的基本過程；（5）理解不確定性情況下和風(fēng)險情況下的信息決策準(zhǔn)則。[學(xué)習(xí)目標(biāo)]6.1.1信息加工的內(nèi)涵信息加工是對收集來的信息進行去偽存真、去粗取精、由表及里、由此及彼的加工過程。這一過程將使信息增值。要進行信息加工，首先要進行需求分析。需求分析要考慮的問題：（1）問題研究：解決此問題需要哪些信息、使用什么樣的方法、采用什么樣的形式來表達處理結(jié)果等。（2）人機分工：哪些工作由機器處理比較方便，哪些工作留給人做更合適。（3）評價標(biāo)準(zhǔn)：對加工結(jié)果進行解釋，并確定如何衡量信息加工的結(jié)果。6.1信息加工6.1.2信息加工的方法信息加工方法統(tǒng)計學(xué)習(xí)方法相關(guān)分析回歸分析主成分分析聚類分析時間序列分析判別分析機器學(xué)習(xí)方法規(guī)則歸納案例學(xué)習(xí)方法遺傳算法免疫算法蟻群算法決策樹方法不確定性理論貝葉斯網(wǎng)絡(luò)模糊邏輯粗糙集理論證據(jù)理論灰色理論可拓理論數(shù)據(jù)庫/數(shù)據(jù)倉庫技術(shù)面向數(shù)據(jù)集方法面向?qū)傩詺w納數(shù)據(jù)庫統(tǒng)計數(shù)據(jù)挖掘技術(shù)數(shù)據(jù)倉庫技術(shù)聯(lián)機分析技術(shù)可視化技術(shù)6.1信息加工6.1.3決策樹方法1．決策樹的概念決策樹具有類似流程圖的樹結(jié)構(gòu)。它是用樣本的屬性作為節(jié)點，用屬性的取值作為分支的樹結(jié)構(gòu)。決策樹的根節(jié)點是所有樣本中信息量最大的屬性。樹的中間節(jié)點為根的子樹所包含的樣本子集中信息量最大的屬性。決策樹的葉節(jié)點是樣本的類別值。如果每個內(nèi)節(jié)點都恰好有兩個分枝，則稱為二叉樹。如果內(nèi)節(jié)點有多于兩個的分枝，則稱為多叉樹。從根節(jié)點到每個葉節(jié)點的路徑稱為“決策規(guī)則”。決策樹可用于對新樣本的分類，即通過決策樹對新樣本屬性值進行測試，從樹的根節(jié)點開始，按照樣本屬性的取值，逐漸沿著決策樹向下，直到樹的葉節(jié)點，該葉節(jié)點表示的類別就是新樣本的類別，也能有效地識別新樣本的類別。6.1信息加工每個實體在世界中屬于不同的類型，為簡單起見，假定僅有兩個類別，分別為

P（Positiveexample）類和

N（Negativeexample）類，即正例類和反例類，它們的實體分別稱為概念的正例和反例。將一些已知的正例和反例放在一起便得到訓(xùn)練集。下表給出了一個訓(xùn)練集：6.1信息加工No.屬性類別天氣氣溫濕度風(fēng)1晴熱高無風(fēng)N2晴熱高有風(fēng)N3多云熱高無風(fēng)P4雨適中高無風(fēng)P5雨冷正常無風(fēng)P6雨冷正常有風(fēng)N7多云冷正常有風(fēng)P8晴適中高無風(fēng)N9晴冷正常無風(fēng)P10雨適中正常無風(fēng)P11晴適中正常有風(fēng)P12多云適中高有風(fēng)P13多云冷正常無風(fēng)P14雨適中高有風(fēng)N天氣訓(xùn)練集：6.1信息加工ID3主算法的具體步驟：（1）從訓(xùn)練集中隨機選擇一個既含正例又含反例的子集（稱為“窗口”）；（2）用“建樹算法”對當(dāng)前窗口形成一棵決策樹；（3）對訓(xùn)練集（窗口除外）中的例子用所得決策樹進行類別判定，找出錯判的例子；（4）若存在錯判的例子，把它們插入窗口，重復(fù)步驟(2)，否則結(jié)束。6.1信息加工ID3主算法流程：

訓(xùn)練集PE、NE取子集建窗口窗口PE1、NE1生成決策樹測試PE、NE擴展窗口PE1=PE1+PE2，NE1=NE1+NE2此決策樹為最后結(jié)果存在錯判的PE2、NE2嗎？是否6.1信息加工ID3建樹算法的具體步驟：（1）對當(dāng)前例子集合，計算各特征的互信息；（2）選擇互信息最大的屬性Ak；（3）把在Ak處取值相同的例子歸于同一子集，Ak取幾個值就得幾個子集；（4）對既含正例又含反例的子集，遞歸調(diào)用建樹算法;（5）若子集僅有正例或反例，對應(yīng)分枝標(biāo)上P或N，返回調(diào)用處。6.1信息加工（2）條件熵的計算

對屬性A1=“天氣”，對應(yīng)的屬性值為：

v1=“晴”，v2=“多云”，v3=“雨”由于在A1處取值為“晴”的例子有5個，取值為“多云”的例子有4個，取值為

“雨”的例子有5個，所以有：

取值為“晴”的例子中有2個正例，3個反例，所以有：

故同理，有：6.1信息加工（3）互信息計算

對屬性A1=“天氣”，同理，有：

I(氣溫)=0.029bit,

I(濕度)=0.151bit,

I(風(fēng))=0.048bit6.1信息加工（5）遞歸建樹分別對F1和F3子集利用ID3算法，在每個子集中對各屬性(仍為4個屬性)求互信息。①

在F1中，“天氣”全取“晴”值，故且

在余下的3個屬性中求出“濕度”互信息最大，以它為該分枝的根節(jié)點，再向下分枝?！皾穸取比　案摺钡睦尤珵镹類，該分枝標(biāo)記為N。取值為正常的例子全為P類，該分枝標(biāo)記為P。②在F3中，對4個特征求互信息，得到“風(fēng)”屬性互信息最大，則以它為該分枝根節(jié)點。再向下分枝，“風(fēng)”取“有風(fēng)”時全為N類，該分枝標(biāo)記為N；取“無風(fēng)”時全為P類，該分枝標(biāo)記為P。6.1信息加工這樣就得到了右圖的決策樹。從該決策樹，根據(jù)某天早晨天氣情況的屬性，就可以識別當(dāng)天的天氣情況類型，確定是“天氣情況相對好一些”的P類，還是“天氣情況相對壞一些”的N類。“相對好一些”的P類天氣包括三種情形：①“不晴不雨”的“多云”天氣；②“晴而濕度正?！钡奶鞖?；③“無風(fēng)的雨天”天氣?！跋鄬囊恍钡腘類天氣包括兩種情形：①“晴而濕度高”的天氣；②“有風(fēng)的雨天”天氣。6.1信息加工總之，ID3算法在選擇重要屬性時利用了互信息的概念，算法的基礎(chǔ)理論清晰，使得算法較簡單，是個很有實用價值的示例學(xué)習(xí)算法。6.1信息加工6.2.1決策對信息質(zhì)量的要求（1）可信度要求一是原始信息是真實的、準(zhǔn)確的；二是經(jīng)過加工的信息是真實的和準(zhǔn)確的。（2）完整度要求指決策信息應(yīng)包含決策所需的全部信息，有范圍、種類、時間等多方面的涵義。（3）精確度要求指決策信息應(yīng)準(zhǔn)確反映決策對象的細微特征。6.2信息決策概述6.2.2信息決策的過程著名學(xué)者H.A.西蒙認為決策過程主要由4個階段組成:（1）情報活動：確定決策目標(biāo)，獲取相關(guān)信息；（2）設(shè)計活動：擬訂各種備選方案；（3）選擇活動：從各種備選方案中進行選擇；（4）評價活動：執(zhí)行所選方案，對整個過程及其結(jié)果進行檢查、評價，將所得信息備做下次決策的參考，或者提出新問題，啟動新一輪決策過程。6.2信息決策概述四個階段可分成更詳細的九個步驟。如下圖所示：

情報活動設(shè)計活動選擇活動評價活動提出問題確定目標(biāo)價值準(zhǔn)則擬定方案分析評估選擇方案實施驗證普遍實施修改決策追蹤決策反饋檢驗6.2信息決策概述4.遞增承諾在已經(jīng)對行動方案投入了大量的資源以后，即使收到的反饋證明這一項目正在走下坡路，甚至面臨徹底失敗的命運，決策者仍然繼續(xù)承諾為這一項目提供更多的資源。在這里，對于特定項目的個人責(zé)任影響了決策者的分析，從而導(dǎo)致了“遞增承諾”（escalatingcommitment）這一現(xiàn)象。5.集體決策所包含的危險

（1）群體中的個人主導(dǎo)現(xiàn)象（2）集體決策多以滿意為主（3）集體思維的危險（4）集體決策中出現(xiàn)的目標(biāo)替換一般地，恰當(dāng)?shù)念I(lǐng)導(dǎo)類型、建設(shè)性地使用爭議和沖突以及提高創(chuàng)造性是克服集體決策的有效途徑。6.2信息決策概述決策準(zhǔn)則：在信息決策分析中，一個基礎(chǔ)問題是要確定決策者在選擇策略時所依據(jù)的效益計算方法。信息決策準(zhǔn)則用于衡量各備選方案，包括目的、目標(biāo)、屬性和正確性的標(biāo)準(zhǔn)。不同的信息決策準(zhǔn)則會導(dǎo)致不同的最優(yōu)策略，對于不同的決策問題應(yīng)當(dāng)有與之相適應(yīng)的決策準(zhǔn)則。選擇什么樣的信息決策準(zhǔn)則是在決策之前應(yīng)該加以考慮的。一般地，這取決于決策者面對問題所向往的目標(biāo)以及在處理此類問題時愿意承擔(dān)多大的風(fēng)險。

6.3信息決策準(zhǔn)則例6.1

設(shè)某工廠按批生產(chǎn)，并按批銷售某產(chǎn)品。每件產(chǎn)品的成本和批發(fā)價格分別為30元和35元。若每月生產(chǎn)的產(chǎn)品當(dāng)月銷售不完，則每件損失1元。工廠每投產(chǎn)一批是10件，最大月生產(chǎn)能力是40件。假設(shè)決策者對其產(chǎn)品的需求情況一無所知，試問這時應(yīng)如何決策？解：構(gòu)造決策矩陣事件s策略a01020304000000010-105050505020-204010010010030-30309015015040-402080140200表6.3例6.1的決策矩陣6.3信息決策準(zhǔn)則1.悲觀主義（maxmin）決策準(zhǔn)則即是從各“策略-事件”對的結(jié)果中選出最小值，將它們列于表的最右列，再從此列中選出最大者，以它對應(yīng)的策略為決策者應(yīng)選的決策策略，計算見表6.4。它對應(yīng)的策略是“什么也不生產(chǎn)”，在實際中表示先看看，以后再作決定。010203040Min0000000←max10-1050505050-1020-2040100100100-2030-303090150150-3040-402080140200-40max(0,-10,-20,-30,-40)=0

表6.4悲觀主義決策準(zhǔn)則計算實例

事件s策略a6.3信息決策準(zhǔn)則2.樂觀主義(maxmax)決策準(zhǔn)則從各“策略-事件”對的結(jié)果中選出最大值，將它們列于表的最右列，再從此列中選出最大者，以它對應(yīng)的策略為決策者應(yīng)選的決策策略，計算見表6.5。它對應(yīng)的策略是“每月生產(chǎn)40件”。事件s策略amax(0,50,100,150,200)=200

表6.5樂觀主義決策準(zhǔn)則計算實例

010203040Max000000010-10505050505020-204010010010010030-30309015015015040-402080140200200←max6.3信息決策準(zhǔn)則3.折衷主義準(zhǔn)則選取一個樂觀系數(shù)。收益值表示為：Hi=a·

aimax+(1-a)·aimin。本例中假設(shè)a=1/3，將計算出來的收益值列于表的最右列，再從此列中選出最大者，以它對應(yīng)的策略為決策者應(yīng)選的決策策略，計算見表6.6。它對應(yīng)的策略是“每月生產(chǎn)40件”。事件s策略amax(0,10,20,30,40)=40

表6.6折衷主義準(zhǔn)則計算實例

010203040Hi000000010-10505050501020-20401001001002030-3030901501503040-40208014020040←max6.3信息決策準(zhǔn)則6.3.2風(fēng)險情況下的信息決策準(zhǔn)則風(fēng)險決策是指決策者對客觀情況不甚了解，但對將發(fā)生各事件的概率是已知的。決策者往往通過調(diào)查，根據(jù)過去的經(jīng)驗或主觀估計等途徑獲得這些概率。常用的準(zhǔn)則：期望值和效用值。1.期望收益值準(zhǔn)則（EMV）決策矩陣的各元素代表“策略-事件”對的收益值，各事件發(fā)生的概率記為pj，先計算各策略的期望收益值：，i=1,2,···,n，然后從這些期望收益值中選取最大者，它對應(yīng)的策略即為決策應(yīng)選策略。6.3信息決策準(zhǔn)則以例6.1的數(shù)據(jù)進行計算，假設(shè)已知其中各事件發(fā)生的概率，結(jié)果見表6.7。它對應(yīng)的策略是“每月生產(chǎn)30件”。概率P收益策略a010203040EMV0.10.20.40.20.1000000010-10505050504420-20401001001007630-30309015015084←max40-40208014020080max(0,44,76,84,80)=84

表6.7最大期望收益決策準(zhǔn)則計算實例一6.3信息決策準(zhǔn)則在風(fēng)險情況下，采用最大期望值準(zhǔn)則進行決策也會出現(xiàn)不合理的現(xiàn)象。比如表6.8的信息決策問題，按照EMV決策準(zhǔn)則，三個方案沒有優(yōu)劣之分，但顯然，這三個方案不是等價的。S1S2S3S4EMV0.350.350.150.15A1418.3418.3-60-60275A2650-100650-100275A3483211.3480-267275概率P收益策略a表6.8最大期望收益決策準(zhǔn)則計算實例二6.3信息決策準(zhǔn)則期望收益值準(zhǔn)則在實際應(yīng)用中的局限性較大，主要表現(xiàn)在：（1）期望收益值準(zhǔn)則難以全面評價產(chǎn)生非貨幣化結(jié)果的決策問題。（2）期望收益值準(zhǔn)則沒有考慮決策者的主觀因素。（3）期望收益值準(zhǔn)則不適合于具有嚴(yán)重后果的決策問題。針對這些局限性，1738年，貝努利（D.Berneul