人工智能算法分析 課件 【ch08】因果學(xué)習(xí)

人工智能算法分析新知識(shí)體系人工智能教材因果學(xué)習(xí)第八章因果學(xué)習(xí)極其

研究現(xiàn)狀018.1.1因果學(xué)習(xí)概念因果模型從另個(gè)更基礎(chǔ)的結(jié)構(gòu)開始，個(gè)因果蘊(yùn)含個(gè)概率模型，但它包含了后者未包含的其他信息。根據(jù)本書中使用的術(shù)語，因果推理表示從因果模型中得出結(jié)論的過程，與概率論允許推理隨機(jī)實(shí)驗(yàn)結(jié)果的方式類似。然而，因果模型包含的信息多于概率模型，因果推理比概率推理更有力，這是因?yàn)橐蚬评硎谷藗兡軌蚍治龈深A(yù)措施或分布變化的影響。就像統(tǒng)計(jì)學(xué)習(xí)是概率論的逆向問題，我們可以考慮如何從經(jīng)驗(yàn)含義中推斷因果結(jié)構(gòu)。經(jīng)驗(yàn)含義可以是純粹觀察性的，但它們也可以包括干預(yù)下的（如隨機(jī)試驗(yàn)）或分布變化下的數(shù)據(jù)。8.1.1因果學(xué)習(xí)概念研究人員使用各種術(shù)語來指代這些問題，包括結(jié)構(gòu)學(xué)習(xí)和因果發(fā)現(xiàn)。這里提到一個(gè)密切相關(guān)的問題，我們將可以從聯(lián)合分布推斷因果結(jié)構(gòu)的性質(zhì)稱為結(jié)構(gòu)可識(shí)別性。與上面描述的統(tǒng)計(jì)學(xué)習(xí)的標(biāo)準(zhǔn)問題不同，即使掌握概率論的全部知識(shí)，也不會(huì)使解決方案變得很容易，仍需要額外的假設(shè)。然而，該困難不應(yīng)該讓人們偏離一個(gè)事實(shí)，即通常的統(tǒng)計(jì)問題的病態(tài)性仍然存在（因此重要的是考慮在因果關(guān)系上函數(shù)類的表示能力，如使用加性噪聲模型），只是人們被一個(gè)額外的困難搞糊涂了，這個(gè)困難來自我們?cè)噲D估計(jì)一個(gè)比概率結(jié)構(gòu)更豐富的結(jié)構(gòu)。我們將整個(gè)問題稱為因果學(xué)習(xí)。圖8.1總結(jié)了上述問題和模型之間的關(guān)系。8.1.1因果學(xué)習(xí)概念為了從觀測(cè)分布中學(xué)習(xí)因果結(jié)構(gòu)，需要了解因果模型和統(tǒng)計(jì)模型是如何相互關(guān)聯(lián)的?，F(xiàn)在提供一個(gè)例子，一個(gè)眾所周知的觀點(diǎn)認(rèn)為，相關(guān)并不意味著因果關(guān)系，換句話說，僅統(tǒng)計(jì)特性本身并不能確定因果結(jié)構(gòu)。另一個(gè)不太為人所知的觀點(diǎn)認(rèn)為，人們可能會(huì)假設(shè)，盡管無法推斷出具體的因果結(jié)構(gòu)，但至少可以從統(tǒng)計(jì)依賴中推斷出因果聯(lián)系的存在。這是由Reichenbach首先提出的，Reichenbach提出的因果見解示意圖如圖8.2所示。8.1.1因果學(xué)習(xí)概念

Reichenbach的共同原因原則認(rèn)為，若兩個(gè)隨機(jī)變量X和Y統(tǒng)計(jì)相關(guān)，則存在第三個(gè)變量Z對(duì)兩者都有因果影響（作為一種特殊情況，Z可能與X或Y重合）。此外，變量Z可以屏蔽X和Y，即在給定Z的情況下，X和Y將變得相互獨(dú)立。

實(shí)際上，Reichenbach見解產(chǎn)生的原因也可能與共同原則中提到的原因不同例如：①如果觀測(cè)到的隨機(jī)變量以其他變量為條件（通常含蓄地稱為選擇偏見），將回到產(chǎn)生原因與共同原因不同的這個(gè)問題上；②隨機(jī)變量似乎只是相關(guān)的，如它們可能是對(duì)大量隨機(jī)變量對(duì)的搜索過程結(jié)果，這些隨機(jī)變量對(duì)是在沒有多次測(cè)試更正的情況下運(yùn)行的，在這種情況下，推斷變量之間的相關(guān)性并不滿足所需要的第I類差錯(cuò)控制；③類似地，兩個(gè)隨機(jī)變量都可以繼承時(shí)間相關(guān)性并遵循簡(jiǎn)單的物理規(guī)律，如呈指數(shù)級(jí)增長(zhǎng)，這些變量看起來好像是相互依賴的，但是因?yàn)檫`反了獨(dú)立同分布的假設(shè)，所以沒有適用標(biāo)準(zhǔn)獨(dú)立性測(cè)試的理由。應(yīng)特別注意，當(dāng)隨機(jī)變量之間“偽相關(guān)”時(shí)，應(yīng)該牢記②③。8.1.2因果學(xué)習(xí)研究現(xiàn)狀

世上萬事萬物，有因就有果，有果必有因。事物為什么會(huì)發(fā)生，為什么會(huì)得到某種結(jié)果，都是通過論述事物的因果關(guān)系來完成的。然而，因果學(xué)習(xí)一直被視為機(jī)器學(xué)習(xí)理論中缺失的部分，除了執(zhí)果索困的貝葉斯定理，很少有方法能對(duì)因果關(guān)系進(jìn)行建模。目前，因果關(guān)系是一個(gè)極具吸引力的研究領(lǐng)域。其理論研究和應(yīng)用試探才剛剛起步，許多概念性問題仍然存在爭(zhēng)論。因果學(xué)習(xí)是探討利用數(shù)據(jù)確定因果關(guān)系、度量因果效應(yīng)的方法。近年來，包括哲學(xué)、統(tǒng)計(jì)學(xué)、計(jì)算機(jī)科學(xué)、社會(huì)學(xué)、醫(yī)學(xué)和公共衛(wèi)生等領(lǐng)域的研究者對(duì)因果學(xué)習(xí)及其學(xué)習(xí)方法進(jìn)行了廣泛的探討和研究。因果圖模型提供了一種用概率圖進(jìn)行因果推理的框架。因?yàn)樗苤庇^表示因果知識(shí)，有效地對(duì)因果效應(yīng)進(jìn)行概率推斷，所以與它相關(guān)的方法成為統(tǒng)計(jì)學(xué)、機(jī)器學(xué)習(xí)、生物信息等領(lǐng)域的一個(gè)研究熱點(diǎn)。然而，利用數(shù)據(jù)，特別是觀察數(shù)據(jù)進(jìn)行因果學(xué)習(xí)和推。理的方法還不完善，大多基于實(shí)際數(shù)據(jù)的因果分析很難得到理想的效果。

隨著因果學(xué)習(xí)的不斷發(fā)展，一些因果學(xué)習(xí)算法也不斷被提出，而結(jié)構(gòu)因果模型和多變量結(jié)構(gòu)識(shí)別算法作為因果學(xué)習(xí)發(fā)展中最重要的兩個(gè)算法，對(duì)因果學(xué)習(xí)的發(fā)展至關(guān)重要。因此，在本章我們將介紹結(jié)構(gòu)因果模型和多變量結(jié)構(gòu)識(shí)別算法。結(jié)構(gòu)因果模型028.2.1兩種類型的因果陳述本小節(jié)將對(duì)只包含兩個(gè)變量的因果模型中涉及的一些基本概念進(jìn)行形式化。假設(shè)這兩個(gè)變量是非平凡相關(guān)的，并且它們的相關(guān)性不是僅由一個(gè)共同的原因引起的，這就構(gòu)成了一個(gè)原因效果模型。這里簡(jiǎn)要介紹結(jié)構(gòu)因果模型、干預(yù)和反事實(shí)。這些概念都將在多元因果模型的背景下被重新定義，這里我們先從兩個(gè)變量開始，這樣更容易入手。結(jié)構(gòu)因果模型（SCM）是聯(lián)系因果和概率表述的重要工具。下面首先給出定義。定義8.1(SCM）一個(gè)C和一個(gè)E所表示的SCM中包含兩個(gè)賦值8.2.1兩種類型的因果陳述1.干預(yù)人們通常對(duì)主動(dòng)干預(yù)下的系統(tǒng)行為感興趣。干預(yù)系統(tǒng)會(huì)引起另一種不同于觀測(cè)分布的分布。如果任何類型的干預(yù)都可能導(dǎo)致系統(tǒng)的任意更改，那么這兩個(gè)分布就變得無關(guān)了，可以將它們看作兩個(gè)獨(dú)立的系統(tǒng)，而不是共同研究這兩個(gè)系統(tǒng)。這就激發(fā)了一種想法，即在干預(yù)后，只有部分?jǐn)?shù)據(jù)生成過程發(fā)生變化。例如，我們可能對(duì)變量E的值被設(shè)置為4（不考慮C的值〉而不改變產(chǎn)生C的機(jī)制的情況感興趣，這稱為（硬〉干預(yù)，用do(E=4）來表示。修改后的結(jié)構(gòu)因果模型蘊(yùn)含一個(gè)C的分布，后者明確表示結(jié)構(gòu)因果模型C是出發(fā)點(diǎn)。但是，此操作可以更通用。例如，通過干預(yù)保持對(duì)C的函數(shù)依賴，但改變了噪聲分布，這是一個(gè)軟干預(yù)的例子，可以替換兩個(gè)方程［式（8-1）和式餌，2)］中的任何一個(gè)。下面的示例說明了“原因”和“效果”的命名。8.2.1兩種類型的因果陳述無論干預(yù)E的程度如何，C的分布還是以前的樣子。這種模式很好地對(duì)應(yīng)了C引起E的改變。例如，無論某人的牙齒多么白皙，這對(duì)這個(gè)人的吸煙習(xí)慣都沒有任何影響。重要的是，當(dāng)給定E=2時(shí)，C的條件分布不等于干預(yù)E將其設(shè)為2時(shí)C的條件分布。原因與結(jié)果之間的不對(duì)稱性也可以形式化為獨(dú)立性表述：當(dāng)用E=NE（考慮隨機(jī)化E)替換賦值時(shí)，C和E之間的相關(guān)性被打破。在下式中可以發(fā)現(xiàn)C⊥E。當(dāng)隨機(jī)化C時(shí)，這種獨(dú)立性不成立。只要就可以發(fā)現(xiàn)在下式中，C⊥E,C和E之間的相關(guān)性保持非零8.2.1兩種類型的因果陳述SCM的具體代碼如下所述：8.2.1兩種類型的因果陳述2.反事實(shí)結(jié)構(gòu)因果模型的修改之一就是改變了結(jié)構(gòu)因果模型中的所有噪聲分布。這種變化可以由觀測(cè)值引起，并能夠回答反事實(shí)的問題。為了說明這一點(diǎn)，設(shè)想以下場(chǎng)景。我們舉一個(gè)簡(jiǎn)單的例子，有一種相當(dāng)有效的治療眼部疾病的方法，對(duì)99%的患者有效，患者痊愈（B=0）；如果不進(jìn)行治療，這些患者會(huì)在一天內(nèi)失明（B=1）。對(duì)于剩余的1%的患者，治療效果相反，他們會(huì)在一天內(nèi)失明（B=1）；如果不治療，他們會(huì)恢復(fù)正常視力(B=0）?；颊邔儆谀囊活愂怯梢环N罕見情況控制的，而這種情況醫(yī)生并不知道，因此醫(yī)生決定是杳給予治療（T=1)與幾無關(guān)。把它寫成一個(gè)噪聲變量。假定基礎(chǔ)的SCM為8.2.1兩種類型的因果陳述請(qǐng)注意，這里只是更新噪聲分布；條件不會(huì)改變賦值式本身的結(jié)構(gòu)。這個(gè)想法是物理機(jī)制是不變（在上述例子中，表示是什么導(dǎo)致了治愈和失明），但是我們己經(jīng)收集了關(guān)于給定患者以前未知的噪聲變量的知識(shí)。接下來，計(jì)算do(T=0）對(duì)該患者的影響顯然，所限定的分布將所有的質(zhì)量都集中在（0,0）上，因此這意味著，如果醫(yī)生沒有給他治療，換句話說，如果do(T=0），那么患者將因此得到治愈(B=0）。因?yàn)樗匀匀豢梢哉J(rèn)為醫(yī)生的行為是最佳的（根據(jù)現(xiàn)有的知識(shí)）8.2.1兩種類型的因果陳述

有趣的是，上面的例子表明，可以使用反事實(shí)的陳述來證偽潛在因果模型：假設(shè)這種罕見的條件可以被測(cè)試，但是測(cè)試結(jié)果需要一天以上的時(shí)間。

在這種情況下，可能會(huì)觀察到與的測(cè)量結(jié)果相矛盾的反事實(shí)陳述。一些研究者持有同樣的觀點(diǎn)。由于反事實(shí)的科學(xué)內(nèi)容己經(jīng)被廣泛討論，應(yīng)該強(qiáng)調(diào)的是，這里的反事實(shí)陳述是可證偽的，因?yàn)樵肼曌兞吭谠瓌t上不是不可觀測(cè)的，但只有在需要醫(yī)生做出決定時(shí)，反事實(shí)陳述是不可證偽的。8.2.2SCM的標(biāo)準(zhǔn)表示現(xiàn)在已經(jīng)討論了兩種類型的國(guó)果陳述，都是由SCM蘊(yùn)含的：第一，系統(tǒng)在潛在干預(yù)下的行為；第二，反事實(shí)際述。為了進(jìn)一步理解反事實(shí)陳述與干預(yù)陳述之間的區(qū)別，我們引入了以下關(guān)于SCM的“標(biāo)準(zhǔn)表示”。根據(jù)結(jié)構(gòu)賦值對(duì)于噪聲的每個(gè)固定值，E是C的確定性函數(shù)換句話說，如果C和E分別在C和ε中取值，那么噪聲在從C到E的不同函數(shù)之間切換。不失一般性，因此可以假設(shè)在從C到的函數(shù)集合中取值，表示為。使用這個(gè)約定，也可以將上式寫為并將其稱為關(guān)聯(lián)C和E的結(jié)構(gòu)方程的標(biāo)準(zhǔn)表示。8.2.2SCM的標(biāo)準(zhǔn)表示現(xiàn)在讓我們解釋為什么兩個(gè)標(biāo)準(zhǔn)表示不同的SCM可以引入相同的干預(yù)概率，盡管它們的反事實(shí)陳述仍然不同?，F(xiàn)在把注意力集中在C從有限集合C={1，…，k｝中獲得值的情況。然后從C到

的函數(shù)集由k折疊笛卡兒乘積給出注意，兩個(gè)形式化不同的SCM不僅可以產(chǎn)生相同的干預(yù)分布，也可以產(chǎn)生相同的反事實(shí)陳述。給定賦值表達(dá)式NE的重新參數(shù)化顯然是無關(guān)的。確切地說，對(duì)于某個(gè)定義在低取值范圍上的E，我們可以重新定義噪聲變量，從而可以得到重新參數(shù)化函數(shù)，可表示為8.2.2SCM的標(biāo)準(zhǔn)表示使用標(biāo)準(zhǔn)表示公式，我們擺脫了這種額外的自由度，這種自由度可能會(huì)混淆上面關(guān)于反事實(shí)的討論。在前面的內(nèi)容中，我們介紹了SCM，其中，結(jié)果E是通過函數(shù)賦值從原因C計(jì)算出來的。人們可能會(huì)想，單看C和E的聯(lián)合概率分布，這種數(shù)據(jù)生成過程（也就是說，E是由C計(jì)算得到的，但反過來不成立）的不對(duì)稱性是否會(huì)變得明顯？也就是說，兩個(gè)變量不Y的聯(lián)合分布Px.y是否告訴人們它是由SCM從X到Y(jié)還是從Y到X產(chǎn)生的？換言之，該結(jié)構(gòu)是否可以從聯(lián)合分布中被識(shí)別出來？下面的己知結(jié)果表明，如果考慮到一般的SCM，那么答案是“不”。定義8.3（圖結(jié)構(gòu)的唯一性）對(duì)于兩個(gè)實(shí)值變量的每個(gè)聯(lián)合分布Px.y，有一個(gè)結(jié)構(gòu)因果模型8.2.3SCM的改進(jìn)型1.非高斯加性噪聲的線性模型雖然有高斯噪聲的線性結(jié)構(gòu)方程得到了廣泛研究，但是最近人們觀察到非線性高斯無環(huán)模型為因果推斷提供了新的方法。特別地，從觀測(cè)數(shù)據(jù)中發(fā)現(xiàn)是X引起Y還是Y引起X就變得可行了。假設(shè)結(jié)果E是原因C的線性函數(shù)加上加性噪聲項(xiàng)其中，定義8.4（非線性高斯模型的可識(shí)別性）假設(shè)Px,y滿足線性模型其中，X,Y和

是連續(xù)隨機(jī)變量，則存在β∈R和一個(gè)隨機(jī)變量

滿足8.2.3SCM的改進(jìn)型當(dāng)且僅當(dāng)

和X是高斯分布時(shí)，上式成立。因此，如果C或

非高斯分布，就足以確定因果方向，如圖8.3所示。下面更加詳細(xì)地介紹一下這個(gè)結(jié)果是如何證明的。定義8.5是Shimizu等人引入的模型類LiNGAM的二元情況，他們用獨(dú)立成分分析證明了定義8.4的多元版本。獨(dú)立成分分析的證明是基于高斯分布的特性進(jìn)行的，這是由Skitovic和Darmois獨(dú)立證明的，內(nèi)容如下。定義8.5(Darmois-Skitovic）

是獨(dú)立的非退化隨機(jī)變量。如果存在非零系數(shù)

和

（對(duì)所有i,

）使得兩個(gè)線性組合是獨(dú)立的，那么每個(gè)

服從正態(tài)分布8.2.3SCM的改進(jìn)型上述結(jié)果證明，定義8.4所述的二元版本是Darmois-Skitovic定理的一個(gè)簡(jiǎn)短而直接的推論。此外，還可以證明雙變量SCM的可識(shí)別性可以推廣到多變量SCM的可識(shí)別性上。由此，LiNGAM的多變量可識(shí)別性從定義8.4開始推廣。帶有非高斯加性噪聲的線性模型也可以應(yīng)用于一個(gè)從機(jī)器學(xué)習(xí)的角度昕起來很不尋常的問題，但從理論物理學(xué)的角度來看，這是→個(gè)有趣的問題：由數(shù)據(jù)估算時(shí)間。Peters等人表明，當(dāng)噪聲變量服從正態(tài)分布時(shí)，自回歸模型是時(shí)間可逆的。為了探索經(jīng)驗(yàn)時(shí)間序列的不對(duì)稱，他們通過擬合兩個(gè)自回歸模型來推斷時(shí)間方向：一個(gè)從過去到未來：另一個(gè)從未來到過去。在他們的實(shí)驗(yàn)中，前一個(gè)方向的噪聲變量確實(shí)比反向時(shí)間方向的噪聲變量更加獨(dú)立。Bauer等人將這一思想擴(kuò)展到多元時(shí)間序列。Janzing將這種觀察到的不對(duì)稱性與熱力學(xué)的時(shí)間箭頭聯(lián)系起來，這表明本節(jié)中討論的因果之間的不對(duì)稱也與統(tǒng)計(jì)物理學(xué)的基本問題有關(guān)。8.2.3SCM的改進(jìn)型2.非線性加性噪聲模型現(xiàn)在描述的是加性噪聲模型（ANM），這是SCM類的一個(gè)不那么極端的限制，這種結(jié)構(gòu)因果模型仍然強(qiáng)大到足以使SCM推斷可行。首先，給出定義。定義8.6(ANM）聯(lián)合分布

允許一個(gè)從X到Y(jié)的ANM，如果有一個(gè)可測(cè)量的函數(shù)

和一個(gè)噪聲變量

滿足通過重載術(shù)語，可以說如果上式成立，那么

允許ANM.定義8.7表明了“一般性”，一個(gè)分布不能同時(shí)滿足兩個(gè)方向上的ANM定義8.7（ANM的可識(shí)別性）如果

和X有嚴(yán)格的正密度

和Px,并且

、

和是三階可微的，那么稱ANM平滑。假設(shè)允許一個(gè)從X到Y(jié)的平滑ANM，并且存在一個(gè)這樣的y∈R滿足方程對(duì)多數(shù)的x值而言，得到的聯(lián)合分布與從Y到X的平滑ANM的對(duì)數(shù)密度的集合被認(rèn)為是包含在一個(gè)三維仿射空間中的。8.2.3SCM的改進(jìn)型3.離散加性噪聲模型加性噪聲不僅可以定義為實(shí)值變量，也可以定義為在環(huán)中獲得值的任何變量。Peters等人為環(huán)Z和Z/mZ引入了ANM，也就是引入了整數(shù)集和mEZ模的整數(shù)集。在后一個(gè)環(huán)中，通過除以m來確定余數(shù)相同的數(shù)。例如，整數(shù)132和4都在除以8后有余數(shù)（4），寫成132=4mod8。當(dāng)一個(gè)域繼承一個(gè)循環(huán)結(jié)構(gòu)時(shí)，這種模算法可能是合適的。例如，如果考慮一年中的一天，可能希望12月31日和1月1日與8月25日和8月26日有同樣的距離。在連續(xù)情況下可以證明，在一般情況下，一個(gè)聯(lián)合分布最多允許一個(gè)ANM在一個(gè)方向上。下面的結(jié)果考慮了環(huán)Z的例子。定義8.8（離散ANM的可識(shí)別性）假設(shè)一個(gè)分布

允許一個(gè)從X到Y(jié)的ANM,

，或者X或Y有有限的支持。當(dāng)且僅當(dāng)存在不相交分解時(shí)，

允許一個(gè)從Y到X的ANM，以便滿足下面的條件。8.2.3SCM的改進(jìn)型通過對(duì)稱性來看，對(duì)于Y的支持也存在著不相交的分解，圖8.4所示為在兩個(gè)方向中允許ANM的示例。對(duì)于離散的ANM也有相似的結(jié)果。然而，均勻噪聲分布起著特殊的作用：

加上一個(gè)均勻分布在｛0,...,m-1｝上的噪聲變量會(huì)導(dǎo)致獨(dú)立的X和Y，因此也允許從Y到X的ANM。

一個(gè)離散的ANM對(duì)底層處理施加了強(qiáng)大的假設(shè)，這些假設(shè)在實(shí)踐中經(jīng)常被違反。與連續(xù)情況一樣，如果處理允許在一個(gè)方向上有一個(gè)離散的ANM，那么推斷這個(gè)方向?yàn)橐蚬P(guān)系是合理的。8.2.3SCM的改進(jìn)型4.后非線性模型首先給出后非線性模型的定義。定義8.9(后非線性模型）如果存在函數(shù)

和一個(gè)噪聲變量

滿足下式，則分布被認(rèn)為是一個(gè)后非線性模型其中，⊥表示獨(dú)立。從本質(zhì)上看，除了一些罕見的非泛型情況，后非線性模型最多只存在一個(gè)方向。后非線性模型的可識(shí)別性：表示一個(gè)從X到Y(jié)的后非線性模型，如上式所示，、是三階可微的。只有當(dāng)相互調(diào)整，使得它們滿足描述的微分方程時(shí),才表示一個(gè)從Y到X的后非線性模型。8.2.4案例分析本節(jié)介紹如何使用SCM對(duì)實(shí)際數(shù)據(jù)進(jìn)行推斷分析。首先，我們有一些數(shù)據(jù)記錄在data.csv文件中，這個(gè)文件中的數(shù)據(jù)如下:?Xl,X2,X3為協(xié)變量（也稱控制變量）。?y為因變量。?istreatment處置變量D,標(biāo)注每條數(shù)據(jù)隸屬于treatment或control組。1表示treatment,0表示control。讀取數(shù)據(jù)的程序如下所示：8.2.4案例分析8.2.4案例分析從表8.1中可以看出，該數(shù)據(jù)有5000行、5列，即該數(shù)據(jù)是包含5000組、3個(gè)自變量和2個(gè)因變量的數(shù)據(jù)整體。由于因果學(xué)習(xí)集中有專門的學(xué)習(xí)包，因此我們只需要調(diào)用繼承好的學(xué)習(xí)包就可以了，下面對(duì)數(shù)據(jù)進(jìn)行描述性統(tǒng)計(jì)分析，具體程序如下所示：8.2.4案例分析運(yùn)行程序，會(huì)得到如圖8.5所示的算法描述統(tǒng)計(jì)分析結(jié)果。接著，我們需要使用OLS估計(jì)處置效應(yīng)，因?yàn)閷?duì)于處置效應(yīng)而言，OLS是最簡(jiǎn)單的方法。OLS方法的公式化示意如下所示8.2.4案例分析而對(duì)于OLS方法而言，其有一個(gè)參數(shù)adj.?adj=0，模型未使用X（協(xié)變量）。?adj=1，模型使用了D（是否為處置組）和X（協(xié)變量)。?adj=2，模型使用了D（是否為處置組）、X（協(xié)變量)、D與X的交互。一般情況下，adj默認(rèn)為2。接著寫入以下程序：運(yùn)行程序，會(huì)得到如圖8.6所示的應(yīng)用OLS方法的結(jié)果。8.2.4案例分析下面，我們進(jìn)行傾向得分估計(jì)。估計(jì)處置效應(yīng)時(shí)，很希望處置組和控制組類似。例如，當(dāng)研究受教育水平對(duì)個(gè)人收入的影響時(shí)，其他變量(如家庭背景、年齡、地區(qū)等協(xié)變量）存在差異，我們希望控制組和處置組之間的協(xié)變量的平衡性盡可能好，這樣兩個(gè)組就會(huì)很像，當(dāng)對(duì)這兩個(gè)組的受教育水平進(jìn)行操作時(shí)，可以認(rèn)為這兩個(gè)組的收入差異是由受教育水平導(dǎo)致的。接著寫入傾向得分估計(jì)的程序，具體如下所示：8.2.4案例分析運(yùn)行程序，會(huì)得到如圖8.7所示的傾向得分估計(jì)結(jié)果。進(jìn)行傾向得分估計(jì)時(shí)，應(yīng)讓兩個(gè)組盡量相似，但實(shí)際上相似值的范圍有些大。例如，假設(shè)受教育水平對(duì)個(gè)人收入有影響，身高、體重等顏值信息（協(xié)變量）其實(shí)對(duì)收入也是有影響的，那么就應(yīng)該對(duì)人群進(jìn)行分層，以估計(jì)不同顏值水平(分組）下受教育水平對(duì)個(gè)人收入的影響。分層方法估計(jì)函數(shù)為CausalModel.stratify_s（），之后輸出協(xié)變量。接著寫入以下程序：8.2.4案例分析運(yùn)行程序，會(huì)得到如圖8.8所示的分層方法估計(jì)處置效應(yīng)結(jié)果。通過本案例，我們成功地估計(jì)了數(shù)據(jù)中自變量（或稱協(xié)變量）與結(jié)果變量之間的因果關(guān)系，通過應(yīng)用因果學(xué)習(xí)算法，能夠更容易地了解數(shù)據(jù)之間的因果關(guān)系，從而得出更有利于因果推斷的數(shù)據(jù)。多變量結(jié)構(gòu)

識(shí)別算法03通過8.2節(jié)的學(xué)習(xí)，我們認(rèn)識(shí)了結(jié)構(gòu)因果模型。本節(jié)的目的是展示如何利用一些因果學(xué)習(xí)算法對(duì)多變量結(jié)構(gòu)進(jìn)行識(shí)別推理。兩種識(shí)別因果結(jié)構(gòu)的方法如圖8.9所示，這里提供了方法概述，并試圖將重點(diǎn)放在方法的具體內(nèi)容上。有大量的方法，我們相信未來的研究需要證明哪些方法在實(shí)踐中是最有用的。不過，這里試圖強(qiáng)調(diào)一些方法的潛在問題和最關(guān)鍵的假設(shè)。雖然一些論文研究了所提出方法的一致性，但這里忽略大部分這樣的結(jié)果，僅提供一些想法。

如圖8.9所示，我們展示了兩種識(shí)別因果結(jié)構(gòu)的方法。包括基于獨(dú)立的方法測(cè)試數(shù)據(jù)中的條件獨(dú)立，這些性質(zhì)通過馬爾可夫性和忠實(shí)性與因果圖關(guān)聯(lián)。通常，因果圖并不是唯一可識(shí)別的，因此，該方法可以輸出不同的因果圖?；蛘撸梢韵拗颇Ｐ皖?，直接匹配多變量SCM。

在提供關(guān)于現(xiàn)有方法的更多細(xì)節(jié)之前，先增加兩個(gè)注釋：①雖然有幾個(gè)模擬研究可以利用，一個(gè)很少受到關(guān)注的主題是損失函數(shù)的問題：給定真正潛在的因果結(jié)構(gòu)，如何評(píng)價(jià)一個(gè)估計(jì)的因果圖的好壞？在實(shí)踐中，人們經(jīng)常使用漢明距離來評(píng)價(jià)因果圖的好壞，它計(jì)算錯(cuò)誤邊的數(shù)量。作為替代，Peters和Bii-hlmann建議基于其預(yù)測(cè)干預(yù)分布的能力來評(píng)估圖。②下面提供的一些方法假設(shè)結(jié)構(gòu)賦值和相應(yīng)的函數(shù)萬是簡(jiǎn)單的。通常，這些方法不僅提供對(duì)因果結(jié)構(gòu)的估計(jì)，也提供了對(duì)賦值的估計(jì)，這些通常也可以用來計(jì)算殘差。原則上，在這個(gè)模型下，可以應(yīng)用相互獨(dú)立性測(cè)試的方法來測(cè)試噪聲變量是否獨(dú)立。8.3.1基于獨(dú)立的方法基于獨(dú)立的方法（如歸納因果（IC）算法、SGS算法和PC算法）假設(shè)分布對(duì)潛在的有向無環(huán)圖（DAG）是忠實(shí)的。這使得馬爾可夫等價(jià)類，也就是相應(yīng)的CPDAGC完全部分有向無環(huán)圖）可識(shí)別。在圖8.9中，d分離和P中的條件獨(dú)立之間存在一一對(duì)應(yīng)關(guān)系。因此，任何對(duì)d分離論述的詢問都可以通過檢查相應(yīng)的條件獨(dú)立性測(cè)試來回答。假設(shè)優(yōu)化了關(guān)于條件獨(dú)立問題的正確答案，在“條件獨(dú)立性測(cè)試”段落中討論了一些有限的樣本問題。估計(jì)骨架，大多數(shù)基于獨(dú)立性的方法應(yīng)首先估計(jì)骨架，也就是無向邊，然后盡可能多地確定邊的方向。對(duì)于骨架搜索，下面的定義是非常有效的。定義8.9假設(shè)以下兩個(gè)陳述成立：(1）在DAG(X，ε）中的兩個(gè)節(jié)點(diǎn)，當(dāng)且僅當(dāng)它們不能被任何一個(gè)子集s包含于v{x,Y}d分離時(shí)，它們是相鄰的。(2）若在DAG(X，ε）中的兩個(gè)節(jié)點(diǎn)X、Y不相鄰，則它們由或分離。8.3.1基于獨(dú)立的方法

根據(jù)定義8.9，如果兩個(gè)變量總是相互依賴，不管它們是否以其他變量為條件，那么這兩個(gè)變量必須是相鄰的。IC算法和SGS算法用到了這一結(jié)果。對(duì)于任意一對(duì)節(jié)點(diǎn)（X,Y),這些方法搜索所有可能的不包含X和Y的變量集合A，檢查在給定A的前提下，X和Y是否d分離。經(jīng)過所有測(cè)試后，當(dāng)且僅當(dāng)不存在A能d分離X和Y的時(shí)候，X和Y是相鄰的。搜索所有可能的子集A似乎不是最佳方法，特別是在圖是稀疏圖的情況下。PC算法從一個(gè)完全連通的無向圖開始，逐步增大條件集合A的大小，從＃A=O開始。在迭代k中，它考慮集合A，其大小為制＝k，使用以下技巧：檢測(cè)X和Y是否可以d分離，只需要通過集合A。這里A是X的鄰接點(diǎn)或Y鄰接點(diǎn)的子集。這個(gè)想法是基于定義8.9的，并且明顯縮短了計(jì)算時(shí)間，特別是對(duì)于稀疏圖來說。

邊的方向根據(jù)前面所述，一般能夠在因果圈中確定非正則結(jié)構(gòu)〈或v結(jié)構(gòu)）的方向。如果兩個(gè)節(jié)點(diǎn)在得到的骨架中沒有直接連接，那么一定存在一個(gè)集合，可以d分離這些節(jié)點(diǎn)。假設(shè)骨架中包含X-Z-Y的結(jié)構(gòu)，X和Y之間沒有直接連接的邊，那么進(jìn)一步可知，集合A能夠d分離X和Y。結(jié)構(gòu)X-Z-Y是一個(gè)非正則結(jié)構(gòu)，因此，當(dāng)且僅當(dāng)ZtlA時(shí)，其方向?yàn)閄→←Y。在確定非正則結(jié)構(gòu)的方向后，可以為邊標(biāo)定方向，以避免出現(xiàn)環(huán)。有一套這樣的標(biāo)定方向的規(guī)則已經(jīng)被證明是完備的，并被稱為Meek方向規(guī)則。8.3.1基于獨(dú)立的方法可滿足性方法

描述因果圖的一種替代方案是將因果學(xué)習(xí)作為可滿足性（SAT）問題。首先，將圖關(guān)系形式化為布爾變量，如A＝“存在從X到Y(jié)的直接連接邊”。然后，像d分離陳述的一樣，非平凡部分將獨(dú)立性語句轉(zhuǎn)化為包含布爾變量和操作“and”與“or＂的公式（仍假定它們由一個(gè)獨(dú)立性先知提供）。然后，SAT問題詢問是否能為每個(gè)布爾變量賦值“true＂或“false”，使整個(gè)公式為真或假。SAT求解器不僅檢查是否屬于這種情況，而且向人們提供是否使整個(gè)公式都為真的賦值信息，某些變量總是被分配給相同的值。例如，d分離陳述可以被對(duì)應(yīng)不同賦值的不同圖結(jié)構(gòu)滿足，但是如果在所有這樣的賦值中，來自上面的布爾變量A都取值“真”，那么可以推斷在潛在圖中，X必須是Y的一個(gè)父節(jié)點(diǎn)。盡管己知布爾SAT問題是一種非確定性問題，有啟發(fā)式算法可以解決涉及數(shù)百萬個(gè)變量的大問題的實(shí)例。因果學(xué)習(xí)中的SAT方法允許人們查詢關(guān)于祖先關(guān)系的特定語句，而不是估計(jì)完整的圖。它們讓人們納入不同類型的先驗(yàn)知識(shí)，此外，如果認(rèn)為某些（統(tǒng)計(jì)）結(jié)果彼此矛盾，那么可以增加獨(dú)立性約束。這些方法己擴(kuò)展到循環(huán)、隱藏變量和重疊數(shù)據(jù)集中。8.3.1基于獨(dú)立的方法條件獨(dú)立性測(cè)試前面，假設(shè)存在一個(gè)獨(dú)立性先知，告訴人們分布中是否存在特定的（條件的）獨(dú)立性。然而，在實(shí)踐中，必須從有限的數(shù)據(jù)中推斷出這一結(jié)果。這帶來了兩個(gè)主要挑戰(zhàn)：①所有因果發(fā)現(xiàn)方法都基于條件獨(dú)立性測(cè)試，從依賴性和獨(dú)立性兩方面得出結(jié)論。然而，在實(shí)踐中，人們通常使用統(tǒng)計(jì)推理和顯著性檢驗(yàn)，這些檢驗(yàn)本質(zhì)上是不對(duì)稱的。因此，人們通常會(huì)忘記顯著性等級(jí)的原始含義，并將其視為調(diào)整參數(shù)。此外，由于樣本有限，測(cè)試結(jié)果甚至可能相互矛盾，也就是說，不存在圖結(jié)構(gòu)包含推斷條件獨(dú)立的確切集合。②盡管最近有一些基于核的測(cè)試，但非參數(shù)條件獨(dú)立性測(cè)試在有限數(shù)據(jù)上執(zhí)行起來非常困難。因此，往往將自己限制在一個(gè)可能的依賴關(guān)系的子類中。8.3.1基于獨(dú)立的方法假設(shè)變量遵循高斯分布，可以通過求偏相關(guān)系數(shù)來確定。在忠實(shí)性的情況下，潛在DAG的馬爾可夫等價(jià)類變得可以識(shí)別。事實(shí)上，在高斯環(huán)境中，具有偏相關(guān)檢驗(yàn)的PC算法為正確的CPDAG提供了一致估計(jì)。非參數(shù)條件獨(dú)立性測(cè)試在理論和實(shí)踐中是一個(gè)難題。注意，對(duì)于非高斯分布，消失偏相關(guān)既不是條件獨(dú)立的必要條件，也不是條件獨(dú)立的充分條件，正如下面這個(gè)例子所顯示的那樣。定義8.10（條件獨(dú)立性和偏相關(guān)性）8.3.1基于獨(dú)立的方法

因?yàn)樵谶@里，Pxyz是Nx和Ny之間的相關(guān)性。以下測(cè)試用于測(cè)試在給定Z的前提下，X和Y是否條件無關(guān)：①（非線性〉在Z上回歸X并測(cè)試殘差是否獨(dú)立于Y：②（非線性）在Z上回歸Y并測(cè)試殘差是否獨(dú)立于X；③若上述獨(dú)立性中有一個(gè)滿足，則可以推斷X⊥YZ。在加性模型中，這似乎是正確的測(cè)試。例如，對(duì)于這三個(gè)變量，有以下結(jié)果。定義8.11考慮由ANM產(chǎn)生的分布PX,Y,Z所有變量具有嚴(yán)格的正密度。如果X和Y在給定Z的情況下是d分離的，那么剛剛描述的過程輸出相應(yīng)的在X～E陰勾獨(dú)立于Y或Y～E［YZ]，獨(dú)立于X在一般意義上就具有了條件獨(dú)立性。該定義表明（在總體意義上），所描述的測(cè)試適用于具有三個(gè)變量的ANMo考慮4個(gè)變量X、Y、Z才可能會(huì)出現(xiàn)問題。顯然，圖X←Z→W→YX→Z→W→Y是馬爾可夫等價(jià)的。雖然前者的測(cè)試輸出為X午到Z，但是后者沒有這樣的保證。因此上述對(duì)可用于構(gòu)造可行的條件獨(dú)立性測(cè)試的隨機(jī)變量之間的相關(guān)模型的限制，導(dǎo)致了馬爾可夫等價(jià)類圖的不對(duì)稱處理。許多其他類型的條件獨(dú)立性測(cè)試方法具有類似的影響。這種不對(duì)稱并不一定是缺點(diǎn)，因?yàn)檎缥覀兯吹降哪菢?，限制的函?shù)類可能會(huì)導(dǎo)致馬爾可夫等價(jià)類內(nèi)的可識(shí)別性，但這肯定需要具體情況具體分析。8.3.2基于分?jǐn)?shù)的方法在前面的內(nèi)容中，直接使用了獨(dú)立性陳述來推斷圖的結(jié)構(gòu)?；蛘?，可以測(cè)試不同的圖結(jié)構(gòu)匹配數(shù)據(jù)的能力。其基本原理是，編碼錯(cuò)誤的條件獨(dú)立性的圖結(jié)構(gòu)會(huì)產(chǎn)生不好的模型匹配。盡管基于分?jǐn)?shù)的因果學(xué)習(xí)方法可以追溯到更早，但我們主要參考Geiger和Hecker-man等人提出的方法。最大－最小爬山算法結(jié)合了基于分?jǐn)?shù)和獨(dú)立性的方法。最佳評(píng)分圖給定來自變量X的數(shù)據(jù)D=(X1，…，x·），即樣本包含n個(gè)獨(dú)立同分布的觀察量，這個(gè)想法是為每一個(gè)圖G分配一個(gè)分?jǐn)?shù)S(D,G）。然后在DAG空間搜索分?jǐn)?shù)最高的圖有幾種可能性來定義評(píng)分函數(shù)So通常假定參數(shù)模型（如線性高斯方程或多項(xiàng)分布），這將引入一組參數(shù)θ。（懲罰）似然分?jǐn)?shù)對(duì)于每個(gè)圖，可以考慮θ的最大似然估計(jì)量礦，通過貝葉斯信息準(zhǔn)則(BIC）定義分類函數(shù)8.3.2基于分?jǐn)?shù)的方法其中，1ogp(DI礦，G）是對(duì)數(shù)似然；n是樣本數(shù)。輸出最大（懲罰）似然的估計(jì)器通常是一致的，這是由BIC的一致性和模型類的可識(shí)別性導(dǎo)致的。然而，為了保證收斂速度，人們通常依賴“可識(shí)別程度”。在實(shí)踐中，在所有可能的圖中找到最佳評(píng)分圖可能是不可行的，因此需要圖空間上的搜索技術(shù)〈如“貪婪搜索方法勺。與BIC不同的正式化也是可能的。例如，Roos等人利用了最小描述長(zhǎng)度原則的得分：Chickering利用Haughton的工作討論了BIC方法如何與接下來討論的貝葉斯公式相關(guān)聯(lián)。8.3.2基于分?jǐn)?shù)的方法

這里，估計(jì)量G是后驗(yàn)分布的模，通常稱為最大后驗(yàn)概率（MAP）估計(jì)量。人們可能更感興趣DAG上完整的后驗(yàn)分布，而不是MAP估計(jì)量。原則上，輸出更多的信息是可能的。

例如，可以對(duì)所有圖進(jìn)行平均，以獲得特定邊存在的后驗(yàn)概率。作為一個(gè)例子，考慮只有有限多個(gè)值的隨機(jī)變量。對(duì)于給定的結(jié)構(gòu)G，可以假設(shè)對(duì)于每個(gè)父節(jié)點(diǎn)結(jié)構(gòu)，隨機(jī)變量都服從多項(xiàng)分布。如果假定參數(shù)（及參數(shù)獨(dú)立性和模塊的條件〉的先驗(yàn)為Dirichlet分布，那么可以得到Dirichlet得分。在參數(shù)模型固定的情況下，如果對(duì)于每個(gè)參數(shù)4存在對(duì)應(yīng)的參數(shù)碼，使得從G，與4獲得的分布與從碼和G2獲得的分布相同，那么稱兩個(gè)圖G，和G2分布等價(jià)，反之亦然。可以證明在線性高斯情況下，如果對(duì)于每個(gè)參數(shù)存在對(duì)應(yīng)的參數(shù)碼，使得從G1獲得的分布與從碼和G2獲得的分布相同，那么稱兩個(gè)圖G1和G2分布等價(jià)，反之亦然。可以證明在線性高斯情況下，如當(dāng)且僅當(dāng)兩個(gè)圖馬爾可夫等價(jià)時(shí)，兩個(gè)圖分布等價(jià)。因此有人認(rèn)為對(duì)于馬爾可夫等價(jià)圖，p(DIGI）和p(DIG2）應(yīng)該是相同的。貝葉斯Dirichlet分?jǐn)?shù)適用于此屬性，它通常稱為貝葉斯Dirichlet等價(jià)（BDE）得分。Buntine提出了這一得分具有更少超參數(shù)的特定版本。8.3.2基于分?jǐn)?shù)的方法貪婪搜索方法

所有DAG的搜索空間在變量數(shù)量上呈指數(shù)級(jí)增長(zhǎng)，2、3、4和10變量的DAG數(shù)量分別為3、25、543和4175098976430598143。因此，通過搜索所有圖來計(jì)算σ的解通常是不可行的。相反，貪婪搜索算法可以用來求解G，每一步都有一個(gè)候選圖和一組相鄰圖。對(duì)于所有這些相鄰圖，計(jì)算得分并將最佳評(píng)分圖作為新的候選圖。若沒有一個(gè)相鄰圖獲得更好的分?jǐn)?shù)，則搜索過程終（〈不知道是否只獲得局部最優(yōu)）。因此必須定義一個(gè)鄰域關(guān)系。例如，從圖G開始，能夠定義所有可以通過去除、添加或倒轉(zhuǎn)一個(gè)邊來獲得的圖作為G的相鄰圖。在線性高斯SCM的情況下，不能區(qū)分馬爾可夫等價(jià)圖。事實(shí)證明，將搜索空間更改為馬爾可夫等價(jià)類而不是DAG是有益的。貪婪等價(jià)搜索（GES）優(yōu)化了BIC準(zhǔn)則，它從空?qǐng)D開始，由兩個(gè)階段組成：在第一個(gè)階段，添加邊，直到達(dá)到局部最大值為止；在第二個(gè)階段，除去邊，直到達(dá)到局部最大值為止，然后將其作為算法的輸出。8.3.2基于分?jǐn)?shù)的方法直接方法

一般來說，找到最佳評(píng)分DAG是非確定性（NP）問題，但仍然有許多有趣的研究試圖擴(kuò)大直接方法。這里，“直接”是指給定有限的數(shù)據(jù)集，找到最佳評(píng)分圖(DAG）。貪婪搜索方法通常是啟發(fā)式的，通常只有在無限數(shù)據(jù)的極限情況下有保障。一種研究動(dòng)態(tài)基于動(dòng)態(tài)規(guī)劃。這些方法利用了實(shí)踐中使用的許多分?jǐn)?shù)的可分解性，由于馬爾可夫因數(shù)分解，對(duì)D=(X1,···，Xn），有這是d個(gè)“局部”分?jǐn)?shù)的總和?；趧?dòng)態(tài)規(guī)劃的方法利用了這種可分解性，盡管算法復(fù)雜性呈指數(shù)級(jí)增長(zhǎng)，但它們可以找到大于或等于30個(gè)變量的最佳評(píng)分圖，即使不限制父節(jié)點(diǎn)的個(gè)數(shù)也可以找到?？紤]到變量的數(shù)量是非常多的，因此這是一個(gè)了不起的結(jié)果。8.3.3多變量加性噪聲模型與8.2節(jié)不同的是，本節(jié)講述多變量下的加性噪聲模型。ANM可以通過基于分?jǐn)?shù)的方法學(xué)習(xí)，并結(jié)合貪婪搜索技術(shù)，這己經(jīng)被用于具有相同誤差和方差的線性高斯模型或非線性高斯ANM。例如，在非線性高斯的情況下，可以采用類似二元情況的方法，對(duì)于一個(gè)給定的圖結(jié)構(gòu)G，在其父節(jié)點(diǎn)集上回歸每個(gè)變量，得到分?jǐn)?shù)其中，var[Rj]是殘差為Rj的經(jīng)驗(yàn)方差，通過對(duì)變量乓在其父節(jié)點(diǎn)集上回歸得到。直觀地說，模型匹配的數(shù)據(jù)越多，殘差的方差越小，分?jǐn)?shù)越高。形式上，該過程是最大似然的例子，可以證明一致的。從計(jì)算方面講，可以再次利用分?jǐn)?shù)在不同節(jié)點(diǎn)上分解的屬性：當(dāng)計(jì)算相鄰圖的分?jǐn)?shù)時(shí)，僅改變一個(gè)變量的父節(jié)點(diǎn)集，只需要更新相應(yīng)的被加數(shù)。例如，如果噪聲不能被假定為具有高斯分布那么可以估計(jì)噪聲分布并獲得類似；腦的分?jǐn)?shù)。或者，可以使用獨(dú)立性測(cè)試以迭代的方式估計(jì)結(jié)構(gòu)。Mooij等人和Peters等人提出了隨后獨(dú)立性測(cè)試（RESIT）回歸，該方法基于噪聲變量與之前的所有變量的獨(dú)立性。對(duì)于非線性高斯模型，Shimizu等人提供了一種基于獨(dú)立