隨機過程知識點

1、.第一章：預(yù)備知識§1.1概率空間隨機試驗，樣本空間記為。定義1.1設(shè)是一個集合，F(xiàn)是的某些子集組成的集合族。如果（1）F；（2）F，F(xiàn)； （3）若F，則F；則稱F為代數(shù)(Borel域)。(,F)稱為可測空間，F(xiàn)中的元素稱為事件。由定義易知：定義1.2 設(shè)(,F)是可測空間，P(·)是定義在上的實值函數(shù)。如果則稱P是上的概率，（）稱為概率空間，P(A)為事件A的概率。定義1.3 設(shè)（）是概率空間，如果對任意，有： 則稱為獨立事件族。§1.2 隨機變量及其分布隨機變量X，分布函數(shù)，n維隨機變量或n維隨機向量，聯(lián)合分布函數(shù)，是獨立的。§1.3隨機變量的數(shù)字特

2、征定義1.7 設(shè)隨機變量X的分布函數(shù)為，若，則稱為X的數(shù)學(xué)期望或均值。上式右邊的積分稱為Lebesgue-Stieltjes積分。方差，為X、Y的協(xié)方差，而為X、Y的相關(guān)系數(shù)。若則稱X、Y不相關(guān)。（Schwarz不等式）若則§ 1.4 特征函數(shù)、母函數(shù)和拉氏變換 定義1. 10 設(shè)隨機變量的分布函數(shù)為F（x），稱為X的特征函數(shù)隨機變量的特征函數(shù)具有下列性質(zhì)：(1)1( 2 ) g (t)在 上一致連續(xù)。（3）(4)若是相互獨立的隨機變量，則的特征函數(shù)，其中是隨機變量X的特征函數(shù)，.定義1 . 11 設(shè) 是n維隨機變量，t = () 則稱,為X的特征函數(shù)。定義1.12 設(shè)X是非負整數(shù)值

3、隨機變量，分布列則稱為X的母函數(shù)。§ 1.5 n維正態(tài)分布 定義1.13 若n維隨機變量的聯(lián)合概率密度為 式中，是常向量，是正定矩陣，則稱為n維正態(tài)隨機變量或服從n維正態(tài)分布，記作。 可以證明，若，則的特征函數(shù)為 為了應(yīng)用的方便，下面，我們不加證明地給出常用的幾個結(jié)論。 性質(zhì)1 若則。 性質(zhì)2 設(shè)，若正定，則。即正態(tài)隨機變量的線性變換仍為正態(tài)隨機變量。性質(zhì)3 設(shè)是四維正態(tài)隨機變量，則§ 1.6 條件期望 給定Y=y時，X的條件期望定義為由此可見除了概率是關(guān)于事件Y=y的條件概率以外，現(xiàn)在的定義與無條件的情況完全一樣。 E(X|Y=y)是y的函數(shù)，y是Y的一個可能值。若在已知

4、Y的條件下，全面地考慮X的均值，需要以Y代替y，E(X|Y)是隨機變量Y的函數(shù)，也是隨機變量，稱為 X在 Y下的條件期望。 條件期望在概率論、數(shù)理統(tǒng)計和隨機過程中是一個十分重要的概念，下面我們介紹一個極其有用的性質(zhì)。性質(zhì) 若隨機變量X與Y的期望存在，則 -(1) 如果Y是離散型隨機變量，則上式為如果Y是連續(xù)型，具有概率密度f(x)，則（1）式為第二章 隨機過程的概念與基本類型§2.1 隨機過程的基本概念定義2.1 設(shè)（）是概率空間,T是給定的參數(shù)集,若對每個tT，有一個隨機變量X(t,e)與之對應(yīng)，則稱隨機變量族是（）的隨機過程,簡記為隨機過程。T稱為參數(shù)集，通常表示時間。通常將隨機

5、過程解釋為一個物理系統(tǒng)。X(t)表示在時刻t所處的狀態(tài)。X(t)的所有可能狀態(tài)所構(gòu)成的集合稱為狀態(tài)空間或相空間，記為I。從數(shù)學(xué)的觀點來說，隨機過程是定義在T×上的二元函數(shù)。對固定的t，X(t,e)是定義在T上的普通函數(shù)，稱為隨機過程的一個樣本函數(shù)或軌道，樣本函數(shù)的全體稱為樣本函數(shù)的空間。§ 2.2 隨機過程的函數(shù)特征=X(t),tT 的有限維分布函數(shù)族。有限維特征函數(shù)族：其中：定義2.3 設(shè)=X(t),tT 的均值函數(shù)，。二階矩過程，協(xié)方差函數(shù)：相關(guān)函數(shù)：定義2.4 設(shè)X(t),tT ，Y(t),tT是兩個二階矩過程，互協(xié)方差函數(shù)，互相關(guān)函數(shù)。§ 2.3 復(fù)隨機過

6、程定義 2.5 設(shè)，是取實數(shù)值的兩個隨機過程，若對任意，其中 ，則稱為復(fù)隨機過程定理 2.2 復(fù)隨機過程的協(xié)方差函數(shù) 具有性質(zhì) （1）對稱性：；（2）非負定性§2.4 幾種重要的隨機過程一、正交增量過程定義2.6 設(shè)是零均值的二階矩過程，若對任意的有公式，則稱正交增量過程。二、獨立增量過程定義2.7 設(shè)是隨機過程，若對任意的正整數(shù)和隨機變量是互相獨立的，則稱是獨立增量過程，又稱可加過程。定義 2.8 設(shè)是平穩(wěn)獨立增量過程，若對任意隨機變量的分布僅依賴于，則稱是平穩(wěn)獨立增量過程。三、馬爾可夫過程定義2.9設(shè)為隨機過程，若對任意正整數(shù)n及,，且其條件分布=，(2.6) 則稱為馬爾可夫過程

7、。四、正態(tài)過程和維納過程定義 2.10設(shè)是隨機過程，若對任意正整數(shù)n和,(,)是n維正態(tài)隨機變量，則稱是正態(tài)過程或高斯過程。定義 2.11設(shè)為隨機過程，如果（1）；（2）它是獨立、平穩(wěn)增量過程；（3）對，增量，則稱為維納過程，也稱布朗運動過程。定理 2.3 設(shè)是參數(shù)為的維納過程，則（1） 任意t,；（2） 對任意,特別：。五、平穩(wěn)過程定義 2.12 設(shè)是隨機過程，如果對任意常數(shù)和正整數(shù)當時，與有相同的聯(lián)合分布，則稱為嚴平穩(wěn)過程，也稱狹義平穩(wěn)過程。定義 2.13 設(shè)是隨機過程，如果（1）是二階矩過程；（2）對于任意常數(shù)；（3）對任意的，則稱為廣義平穩(wěn)過程，簡稱為平穩(wěn)過程。若T為離散集，則稱平穩(wěn)過

8、程為平穩(wěn)序列。第三章 泊松過程§.1 泊松過程的定義和例子定義3.1 計數(shù)過程定義3.2 稱計數(shù)過程為具有參數(shù)0的泊松過程，若它滿足下列條件 (1) X(0)= 0； (2) X(t)是獨立增量過程； (3) 在任一長度為t的區(qū)間中，事件A發(fā)生的次數(shù)服從參數(shù)t0的泊松分布，即對任意s,t0，有 注意，從條件(3)知泊松過程是平穩(wěn)增量過程且。由于，表示單位時間內(nèi)事件A發(fā)生的平均個數(shù)，故稱為此過程的速率或強度。定義3.3 稱計數(shù)過程為具有參數(shù)0的泊松過程，若它滿足下列條件 (1) X(0)= 0； (2) X(t)是獨立、平穩(wěn)增量過程；(3) X(t) 滿足下列兩式： (3.2)定理3.

9、1 定義3.2與定義3.3是等價的。3.2 泊松過程的基本性質(zhì)一、數(shù)字特征設(shè)是泊松過程， 一般泊松過程的有。有特征函數(shù)定義，可得泊松過程的特征函數(shù)為二、時間間隔與等待時間的分布為第n次事件A出現(xiàn)的時刻或第n次事件A的等待時間，是第n個時間間隔，它們都是隨機變量。定理3.2 設(shè)是具有參數(shù)的泊松分布，是對應(yīng)的時間間隔序列，則隨機變量是獨立同分布的均值為的指數(shù)分布。定理3.3 設(shè)是與泊松過程對應(yīng)的一個等待時間序列，則服從參數(shù)為n與的分布，其概率密度為三、到達時間的條件分布定理3.4 設(shè)是泊松過程，已知在0,t內(nèi)事件A發(fā)生n次，則這n次到達時間與相應(yīng)于n個0,t上均勻分布的獨立隨機變量的順序統(tǒng)計量有相

10、同的分布。§3.3 非齊次泊松過程定義3.4 稱計數(shù)過程為具有跳躍強度函數(shù)的非齊次泊松過程，若它滿足下列條件：(1) ；(2) 是獨立增量過程；(3) 非齊次泊松過程的均值函數(shù)為：定理3.5 設(shè)是具有均值函數(shù)的非齊次泊松過程，則有或 上式表明不僅是的函數(shù)，也是的函數(shù)。3.4 復(fù)合泊松過程定義3.5 設(shè)是強度為的泊松過程，是一列獨立同分布隨機變量，且與獨立，令則稱為復(fù)合泊松過程。定理3.6 設(shè)是復(fù)合泊松過程，則（1）。是獨立增量過程；（2）X(t)的特征函數(shù)，其中是隨機變量的特征函數(shù)；是事件的到達率。（3）若則第4章 馬爾可夫鏈§4.1 馬爾可夫鏈的概念及轉(zhuǎn)移概率 一、馬爾可

11、夫鍵的定義定義1 設(shè)有隨機過程，若對于任意的整數(shù)和任意的，條件概率滿足則稱為馬爾可夫鏈，簡稱馬氏鏈。二、轉(zhuǎn)移概率定義2 稱條件概率為馬爾可夫鏈在時刻n的一步轉(zhuǎn)移概率，其中，簡稱為轉(zhuǎn)移概率。定義 3 若對任意的，馬爾可夫鏈的轉(zhuǎn)移概率與n無關(guān)，則稱馬爾可夫鏈是齊次的，并記為。定義4 稱條件概率為馬爾可夫鏈的n步轉(zhuǎn)移概率， 定理 1 設(shè)為馬爾可夫鏈，則對任意整數(shù)和，n步轉(zhuǎn)移概率具有下列性質(zhì)：定義5 設(shè)為馬爾可夫鏈，稱為的初始概率和絕對概率，并分別稱和為的初始分布和絕對分布，簡記為和。定理2 設(shè)為馬爾可夫鏈，則對任意和，絕對概率具有下列性質(zhì)：定理3 設(shè)為馬爾可夫鏈，則對任意和，有§4.2 馬

12、爾可夫鏈的狀態(tài)分類一、狀態(tài)分類假設(shè)是齊次馬爾可夫鏈，其狀態(tài)空間，轉(zhuǎn)移概率是, 初始分布為 。定義4.6 如集合非空，則稱該集合的最大公約數(shù)為狀態(tài)的周期。如就稱為周期的，如就稱為非周期的。（若對每一個不可被整除的，有=0，且是具有此性質(zhì)的最大正整數(shù)，則稱為狀態(tài)的周期。）引理4.1 如的周期為d，則存在正整數(shù)M，對一切，有。定義 對記 （4.15）稱是系統(tǒng)在0時從出發(fā)經(jīng)過步轉(zhuǎn)移后首次到達狀態(tài)的概率，而則是在0時從出發(fā)，系統(tǒng)在有限步轉(zhuǎn)移內(nèi)不可能到達狀態(tài)的概率。我們將和統(tǒng)稱為首達概率（又稱首中概率）。引理 （1） （2） 首達概率可以用一步轉(zhuǎn)移概率來表示：定義4.7 若=1，則稱狀態(tài)為常返的；若<

13、;1，則稱狀態(tài)為非常返的。定義4.8 如，則稱常返態(tài)為正常返的；如，則稱常返態(tài)為零常返的，非周期的正常返態(tài)稱為遍歷狀態(tài)。從狀態(tài)是否常返，如常返的話是否正常返，如正常返的話是否非周期等三層次上將狀態(tài)區(qū)分為以下的類型：與有如下關(guān)系：定理4.4 對任意狀態(tài)，及，有 （4.16）引理4.2 二、常返態(tài)的性質(zhì)及其性質(zhì) 定理4.5狀態(tài)常返的充要條件為（4.18）如非常返，則定理4.7 設(shè)常返且有周期d，則. （4.26）其中為的平均返回時間。當時，.推論設(shè)常返，則(1) 零常返；（2）遍歷。定理4.8 可達關(guān)系與互通關(guān)系都具有傳遞性，即如果，則；如果，則。定理4.9 如,則（1） 與同為常返或非常返，若為

14、常返，則它們同為正常返或零常返；（2） 與有相同的周期。§4.3 狀態(tài)空間的分解定義4.9 狀態(tài)空間I的子集C稱為（隨機）閉集，如對任意及都有。閉集C稱為不可約的，如C的狀態(tài)互通。馬氏鏈稱為不可約的，如其狀態(tài)空間不可約。引理4.4 C是閉集的充要條件為對任意及kC都有=0，n1。稱狀態(tài)i為吸收的，如=1。顯然狀態(tài)吸收等價于單點集為閉集。定理4.10 任一馬氏鏈的狀態(tài)空間I，可唯一地分解成有限個或可列個互不相交的子集之和，使得 每一是常返態(tài)組成的不可約閉集。 中的狀態(tài)同類，或全是正常返，或全是零常返。它們有相同的周期且, 。 D由全體非常返狀態(tài)組成。自中的狀態(tài)不能到達D中的狀態(tài)。定義4

15、.10 稱矩陣（）為隨機矩陣，如其元素非負且每有1。顯然k步轉(zhuǎn)移矩陣（）為隨機矩陣。引理4.5 設(shè)C為閉集，又G（）,jC,是C上所得的（即與C相應(yīng)的）k步轉(zhuǎn)移子矩陣，則G仍是隨機矩陣。定理4.11周期為d的不可約馬氏鏈，其狀態(tài)空間可唯一地分解為個互不相交地子集之和，即（4.31）且使得自中任一狀態(tài)出發(fā)，經(jīng)一步轉(zhuǎn)移必進入中（其中）。定理4.12 設(shè)是周期為的不可約馬氏鏈，則在定理4.11的結(jié)論下有(1)如只在時刻上考慮，即得一新馬氏鏈，其轉(zhuǎn)移陣，對此新鏈，每一是不可約閉集，且中的狀態(tài)是非周期的。(2)如原馬氏鏈常返，也常返。§4.4的漸近性質(zhì)與平穩(wěn)分布一、的漸近性質(zhì)定理4.13 如j

16、非常返或零常返，則0， （4.33）推論1 有限狀態(tài)的馬氏鏈，不可能全是非常返狀態(tài)，也不可能含有零常返狀態(tài)，從而不可約的有限馬氏鏈必為正常返的。推論2 如馬氏鏈有一個零常返狀態(tài)，則必有無限多個零常返狀態(tài)。定理4.14如j正常返，周期為d，則對任意i及有 （4.37）推論 設(shè)不可約、正常返、周期d的馬氏鏈，其狀態(tài)空間為C，則對一切,有 （4.38）其中為定理4.11中所給出。特別，如d=1，則對一切有 (4.39)定理 4.15對任意狀態(tài)有推論 如不可約，常返，則對任意,有時，理解0定義4.11 稱概率分布為馬爾可夫鏈的平穩(wěn)分布，若它滿足 （4.41）值得注意的是，對平穩(wěn)分布，有 (4.42)定

17、理4.16 不可約非周期馬爾可夫鏈是正常返的充要條件是存在平穩(wěn)分布，且此平穩(wěn)分布就是極限分布。推論1 有限狀態(tài)的不可約非周期馬爾可夫鏈必存在平穩(wěn)分布。推論2 若不可約馬爾可夫鏈的所有狀態(tài)是非常返或零常返的，則不存在平穩(wěn)分布.推論3 若是馬爾可夫鏈的平穩(wěn)分布，則第五章 連續(xù)時間的馬爾可夫鏈§5.1連續(xù)時間的馬爾可夫鏈定義5.1 設(shè)隨機過程X(t),t0,狀態(tài)空間,若對于任意及有= (5.1)則稱X(t),t0為連續(xù)時間的馬爾可夫鏈。記(5.1)式條件概率的一般形式為 (5.2) 定義 5.2 若(5.2)式的轉(zhuǎn)移概率與s無關(guān)，則稱連續(xù)時間馬爾可夫鏈具有平穩(wěn)的或齊次的轉(zhuǎn)移概率，此時轉(zhuǎn)移概

18、率簡記為 (5.3)其轉(zhuǎn)移概率矩陣簡記為。以下的討論均假定我們所考慮的連續(xù)時間馬爾柯夫鏈都具有齊次轉(zhuǎn)移概率。為方便起見，簡稱為齊次馬爾可夫過程。定理5.1.1 齊次馬爾可夫過程的轉(zhuǎn)移概率具有以下性質(zhì)：其中（3）式為馬爾可夫過程的Chapman-Kolmogorov（簡稱C-K）方程。（1），（2）由概率定義及的定義易知，下面只證明（3）。定義5.1.3對于任一t0,記分別稱和為齊次馬爾可夫過程的絕對概率分布和初始概率分布。性質(zhì)5.1.1齊次馬爾可夫過程的絕對概率及有限維概率分布具有以下性質(zhì)：§5.2柯爾莫哥洛夫微分方程引理5.2.1 設(shè)齊次馬爾可夫過程滿足正則性條件，則對于任意固定的

19、是t的一致連續(xù)函數(shù)。定理5.3 設(shè)是齊次馬爾可夫過程的轉(zhuǎn)移概率，則下列極限存在我們稱為齊次馬爾可夫過程從狀態(tài)到狀態(tài)的轉(zhuǎn)移速率或跳躍強度。推論對有限齊次馬爾可夫過程，有 （5.2.1）定理5.4 (柯爾莫哥洛夫向后方程)假設(shè)，則對一切及t³0，有 （5.2.4）定理5.2.3 （柯爾莫哥洛夫向前方程）在適當?shù)恼齽t條件下 (5.2.6)定理5.2.4 齊次馬爾可夫鏈過程在t時刻處于狀態(tài)jI的絕對概率滿足如下方程：定理5.2.5設(shè)馬爾可夫過程是不可約的，則有下列性質(zhì)：(1)若它是正常返的，則極限存在且等于,這里是方程組的唯一非負解，此時稱是該過程的平穩(wěn)分布，并且有(2)若它是零常返的或非常

20、返的，則§5.3 生滅過程定義 設(shè)齊次馬爾可夫過程的狀態(tài)空間為，轉(zhuǎn)移概率為，如果則稱為生滅過程。其中，稱為出生率，稱為死亡率。(1)若 (,為正常數(shù))，則稱為線性生滅過程；(2)若，則稱為純生過程；(3)若，則稱為純滅過程。第六章平穩(wěn)隨機過程§6.1 平穩(wěn)過程的概念與例子一、平穩(wěn)過程的定義1.平穩(wěn)過程定義 §6.2 聯(lián)合平穩(wěn)過程及相關(guān)函數(shù)的性質(zhì)一、聯(lián)合平穩(wěn)過程定義 設(shè)和是兩個平穩(wěn)過程，若它們的互相關(guān)函數(shù)及僅與有關(guān)，而與無關(guān)，則稱和是聯(lián)合平穩(wěn)隨機過程。定理6.1設(shè)為平穩(wěn)過程，則其相關(guān)函數(shù)具下列性質(zhì):(1) (2)(3)(4) 是非負定的，即對任意實數(shù)及復(fù)數(shù)，有(5)

21、 若是周期為T的周期函數(shù)，即，則；(6) 若是不含周期分量的非周期過程，當時，與相互獨立，則類似地，聯(lián)合平穩(wěn)過程和的互相關(guān)函數(shù)由下列性質(zhì)：(1)(2)§ 6.3 隨機分析一、收斂性概念1、處處收斂對于概率空間上的隨機序列，每個試驗結(jié)果e都對應(yīng)一序列。 （6.2）故隨機序列實際上代表一族(6.2)式的序列，故不能用普通極限形式來定義隨機序列的收斂性。若(6.2)式對每個e都收斂，則稱隨機序列處處收斂，即滿足其中X為隨機變量。2、以概率1收斂若使隨機序列滿足的e的集合的概率為1，即我們稱二階矩隨機序列以概率1收斂于二階矩隨機變量X(e)，或稱幾乎處處收斂于X(e)，記作。3、依概率收斂若

22、對于任給的>0， 若有 ，則稱二階矩隨機序列依概率收斂于二階矩隨機變量X(e)，記作。4、均方收斂設(shè)有二階矩隨機序列和二階矩隨機變量X，若有 (6.3)成立，則稱均方收斂，記作。注：(6.3)式一般記為或。5、依分布收斂設(shè)有二階矩隨機序列和二階矩隨機變量X，若相應(yīng)的分布函數(shù)列，在X的分布函數(shù)F(x)的每一個連續(xù)點處，有則稱二階矩隨機序列依分布收斂于二階矩隨機變量X，記作對于以上四種收斂定義進行比較，有下列關(guān)系：(1) 若，則(2) 若，則(3) 若，則定理2 二階矩隨機序列收斂于二階矩隨機變量X的充要條件為定理3 設(shè)都是二階矩隨機序列，U為二階矩隨機變量，為常數(shù)序列，a，b，c為常數(shù)。令

23、，。則（1） ；（2） ；（3） ；（4） ；（5） ；（6） ；特別有。定理4 設(shè)為二階矩隨機序列，則均方收斂的充要條件為下列極限存在。二、均方連續(xù)定義 設(shè)有二階矩過程，若對，有，則稱在點均方連續(xù)，記作。若對T中一切點都均方連續(xù)，則稱在T上均方連續(xù)。定理（均方連續(xù)準則）二階矩過程在t點均方連續(xù)的充要條件為相關(guān)函數(shù)。推論 若相關(guān)函數(shù)在上連續(xù)，則它在T×T上連續(xù)三、均方導(dǎo)數(shù)定義7 設(shè)是二階矩過程，若存在一個隨機過程，滿足類似的有稱為在的廣義二階導(dǎo)數(shù)，記為定理6 均方可微準則 二階矩過程在t點均方可微的充要條件為相關(guān)函數(shù)的廣義二階導(dǎo)數(shù)存在。推論1 二階矩過程在T上均方可微的充要條件為相關(guān)

24、函數(shù)在上每一點廣義二階可微。推論2 若在上每一點廣義二階可微，則在T上以及在上存在，且有四、均方積分定義8 如果時，均方收斂于，即，則稱在上均方可積，并記為定理7 （均方可積準則）在區(qū)間上均方可積的充要條件為存在。特別的，二階矩過程在上均方可積的充要條件為在上可積。定理8 設(shè)在區(qū)間上均方可積，則有(1) 特別有 (2) 特別的有 。定理9 設(shè)二階矩過程在上均方連續(xù)，則在均方意義下存在，且隨機過程在上均方可微，且有。推論 設(shè)均方可微，且均方連續(xù)，則特別有§4 平穩(wěn)過程的各態(tài)歷經(jīng)性定義9 設(shè)為均方連續(xù)的平穩(wěn)過程，則分別稱為該過程的時間均值和時間相關(guān)函數(shù)。定義10 設(shè)是均方連續(xù)的平穩(wěn)過程，若，即以概率1成立，則稱該平穩(wěn)過程的均值具有各態(tài)歷經(jīng)性。若，即以概率1成立，則稱該平穩(wěn)過程的相關(guān)函數(shù)具有各態(tài)歷經(jīng)性。定義11 如果均方連續(xù)的平穩(wěn)過程的均值和相關(guān)函數(shù)都具有各態(tài)歷經(jīng)性，則稱該平穩(wěn)過程為具有各態(tài)歷經(jīng)性或遍歷性。定理 10 設(shè)是均方連續(xù)的平穩(wěn)過程，則它的均值具有各態(tài)歷經(jīng)性的充要條件為 (6.9)定理6.11 設(shè)為均方連續(xù)的平穩(wěn)過程，則其相關(guān)函數(shù)具有各態(tài)歷經(jīng)性的充