隨機過程基本概念

隨機過程基本概念第一章隨機過程基本概念自然界和現(xiàn)實生活中發(fā)生的現(xiàn)象一般分為兩類現(xiàn)象，一類為確定性現(xiàn)象，另一類為不確定性現(xiàn)象。何謂確定性現(xiàn)象呢？如果我們向上拋一支粉筆，則該粉筆必然下落；水在100℃必然會開；同性相斥，異性相吸等等，這類現(xiàn)象稱為確定性現(xiàn)象。大學一二年級所學的微積學、代數(shù)、議程等主要是研究確定性現(xiàn)象。對于確定性現(xiàn)象又可稱為必然現(xiàn)象。必然現(xiàn)象的主要特點是條件和結果之間存在著必然聯(lián)系，即條件具備，某種結果必然發(fā)生，因此我們可由條件預測結果。第2頁,共30頁，2024年2月25日，星期天而另一類現(xiàn)象在自然界社會工程中也是經(jīng)常出現(xiàn)，即不確定性現(xiàn)象，又可稱為隨機現(xiàn)象，或偶然現(xiàn)象，其特點是條件和結果之間不存在的必然聯(lián)系，無必然的因果關系，因此不能用必然條件的方法來加以定量研究。如，在相同條件拋同一枚硬幣，其出現(xiàn)的結果可能有兩種，正面或反面，但最終結果到底是正面還是反面不能預先斷言。又如商店每天的營業(yè)額，一天中不同時刻的氣溫等這些現(xiàn)象都是不確定現(xiàn)象。由于不確定現(xiàn)象不存在因果關系，是不是它們就沒有規(guī)律可研究呢？事實上，人們經(jīng)過長期實踐研究后發(fā)現(xiàn)，雖然隨機現(xiàn)象就每一次試驗結果來說具有不確定性，但在相同條件下大量重復試驗其結果就呈現(xiàn)出某種規(guī)律性，著名的蒲豐試驗表明在相同條件下大量重復拋一枚硬幣出現(xiàn)正面的次數(shù)大致等于出現(xiàn)反面的次數(shù)。第3頁,共30頁，2024年2月25日，星期天上述事實表明，隨機現(xiàn)象從一次試驗上看，似乎沒有什么規(guī)律存在，但當它們大量出現(xiàn)時，從總體上講卻呈現(xiàn)出一種總體規(guī)律性，這就是統(tǒng)計規(guī)律，這種統(tǒng)計規(guī)律的存在，就是隨機數(shù)學的研究基礎。因此今后我們在隨機數(shù)學中，一說“統(tǒng)計規(guī)律”時大家就要想到大量重復的試驗。概率統(tǒng)計隨機過程就是研究隨機現(xiàn)象是否具有統(tǒng)計規(guī)律性的一門數(shù)學學科。統(tǒng)計方法的基本思想是從一組樣本分析、判斷整個系統(tǒng)的狀態(tài)，或判定某一論斷以多大的概率來保證其正確性，或算出發(fā)生錯誤判斷的概率，簡言之就是“由局部推測總體”，“由特殊來研究一般”，是歸納法的具體應力。第4頁,共30頁，2024年2月25日，星期天為了研究隨機現(xiàn)象，下面我們首先需要給出如下幾個定義解釋：隨機試驗：具有下述三個特點的試驗稱為隨機試驗。①可以在相同的條件下重復進行。②每次試驗的可能結果不止一個，并且能事先確定試驗的所有可能結果。③每次試驗前不能確定哪個結果會出現(xiàn)。隨機事件：隨機試驗的所有可能出現(xiàn)的結果。必然事件：隨機試驗中必然發(fā)生的事情。注意：必然事件和不可能事件不是隨機事件，但為了今后討論，我們把它作一種特殊的隨機事件。第5頁,共30頁，2024年2月25日，星期天樣本空間：隨機試驗中所有可能出現(xiàn)的結果(事件樣本)，組成的集合叫做隨機試驗的樣本空間，記為S。隨機變量：設E是隨機試驗，它的樣本空間S={e}，如果對于每一個，都有一個實數(shù)X(e)與之對應，則X為定義在S上的隨機變量。有了隨機變量我們就可以在一定的統(tǒng)計意義下，定量地用隨機變量描述隨機現(xiàn)象的變化規(guī)律，從而達到認識世界和改造世界的目的。再者，引入了隨機變量，我們可以利用數(shù)學分析的方法更好地研究隨機現(xiàn)象。由此我們可以簡單的說概率統(tǒng)計的研究對象就是研究隨機世界(空間)中隨機變量的變化規(guī)律，為此我們自然需要考慮建立隨機變量的“函數(shù)關系”，這個“函數(shù)關系”在隨機數(shù)學中我們一般用隨機變量的分布函數(shù)、或者分布律及數(shù)字特征等來描述。第6頁,共30頁，2024年2月25日，星期天§1.1隨機過程的概念引入

我們知道，在自然界中的變化過程可以廣義地分為兩類。一類為確定性過程，另一類為不確定性過程或隨機過程。何謂過程呢？通俗講凡和時間有關的變化稱為過程。例如真空中的自巾落體運動，假定初速為零，則有第7頁,共30頁，2024年2月25日，星期天這個函數(shù)關系確定了物體在任意時刻離開初點的精確位置，存在必然確定的因果關系，顯然X與時間t有關，構成一個過程。這個過程我們把它稱為確定性過程。另一類過程是沒有確定的變化形式，沒有必然的變化規(guī)律，如商店每天的營業(yè)額M，顯然是一個不確定量即隨機變量，進一步分析知該營業(yè)額M還和時間t有關，即M(t)，由此M構成一個過程，這里稱這個過程為隨機過程；又如傳呼臺傳呼小組每天接到傳呼的次數(shù)，X顯然不能確定，即為隨機變量，進一步分析知這個X還和時間t有關，即X(t)，所以X(t)也構成一個過程，即隨機過程；類似地，氣溫、氣壓、商店每天的顧客流量等都構成一個隨機過程。第8頁,共30頁，2024年2月25日，星期天下面我通過一個具體的過程實例來導出隨機過程一般的數(shù)學定義。設有一電子直流放大器其中U(t)為輸入信號，K為放大器，也表示對輸入信號U(t)的放大倍數(shù)，X(t)為放后的輸出信號。顯然對于該放大器，當U(t)=0，也就是沒有輸入信號時，X(t)應為零，但是由于放大器內部元件以及外部電磁波等各種干撓的影響，使得當U(t)=0時，輸出U(t)≠0，由此造成所謂的輸出零點漂移。第9頁,共30頁，2024年2月25日，星期天進一步分析發(fā)現(xiàn)這個輸出零點漂移在相同條件，比如每天的某一時刻進行觀測，如果我們觀測是了n天，就可得n條輸出零點漂移曲線，把這些曲作出，如圖1.2所示。圖1.2電子直流放大器的零點漂移第10頁,共30頁，2024年2月25日，星期天可以發(fā)現(xiàn)這些曲線形態(tài)不一樣，即每條曲線各不相同，不能用統(tǒng)一的確定函數(shù)表示，但它們都是時間t的函數(shù)即零點漂移構成一個隨機過程記為X(t)，也可以說這些曲線的全體（時間函數(shù)的全體）集合就構成了一個零點漂移隨機過程，即X(t)={x1(t)…,xn(t)…}，其中每一曲線xi(t)又可稱為隨機過程的樣本曲線函數(shù)（時間函數(shù)），i=1,2…,n…。顯然，由圖1.2所所示的在一次實驗結果中，隨機過程必取一個樣本函數(shù)，但究竟取哪一個函數(shù)則在試驗前不能確定，但是在大量的重復實驗中，可知道隨機過程呈現(xiàn)出統(tǒng)計規(guī)律性。因此直觀地講，隨機過程既是時間t的函數(shù)，也是試驗可能結果e的函數(shù)，記為X(t,e)。第11頁,共30頁，2024年2月25日，星期天進一步分析可以看出對于隨機過程X(t)={x1(t)…}。當我們取定t=ti時刻時有由圖1.2可以看出，取值各不相同，沒有必然的規(guī)律。若把x1(ti),…,xn(ti)看成是隨機過程X(t)在時刻ti的各種可能取值，很顯然X(ti)是一個隨機變量。第12頁,共30頁，2024年2月25日，星期天在地震勘探工作中，我們通過檢波器把混有隨機干擾的隨時間變動的地層結構信號記錄下來，如圖1.3所示。圖1.3第13頁,共30頁，2024年2月25日，星期天在O點放炮，在A點記錄儀把接收到的混有干擾的地震信號波記錄下來，我們在相同條件下做了n次記錄，則可得n個彼此有差異的地震波形（曲線）。如在時間t0觀察它們的信號波的值X(t0)是一個隨機變量，也就是說，混有隨機干擾的地層結構信號波構成一個依賴于時間t的隨機過程。定義隨機過程：設E是隨機試驗，它的樣本空間是，若對于每一個，總有一個確定的時間函數(shù)與之對應。這樣對于所有，就可能得到一族時間t的函數(shù)，稱為隨機過程，族中的每一個函數(shù)稱為這個隨機過程的樣本函數(shù)。第14頁,共30頁，2024年2月25日，星期天由定義可知，對于一個特定的試驗結果，總有一個確定時間函數(shù)。該函數(shù)是普通意義下確定的時間函數(shù)（樣本函數(shù)），又由定義知，當取定與e有關，由于是一個隨機變量，如果讓變動，，可得一族隨機變量。因此從這個意義上講隨機過程又可看成是依賴于時間t的一族隨機變量。由此可給出下面另一種形式的隨機過程定義。為簡便起見，省略e，用表示隨機過程。如是對于每一給定的都是隨機變量，則X(t)是一個隨機過程。或者說，隨機過程是依賴于時間的一族隨機變量。隨機過程的兩種定義本質是一致的，一般在理論分析采用第二定義，在實際應用中采用第一定義。第15頁,共30頁，2024年2月25日，星期天§1.2隨機過程的分類

1.按隨機變量和指標集類型分類（1）連續(xù)型隨機過程：對于隨機過程X(t,e)，如果隨機變量X(e)是連續(xù)變化的，也是連續(xù)變化的，則稱X(t,e)為連續(xù)型隨機過程。注意這里指標集為0≤t＜+∞，or。如正弦波隨機過程。（2）離散型隨機過程：對于隨機過程，如果取值離散，而t是連續(xù)，則稱為離散型隨機過程，如電報信號過程。也可簡單地說時間連續(xù)，狀態(tài)離散。第16頁,共30頁，2024年2月25日，星期天（3）連續(xù)型隨序列：對于隨機過程，如果連續(xù)，而是離散變化，如或，則稱為連續(xù)型隨機序列，也就是時間離散，狀態(tài)連續(xù)。（4）離散型隨機序列：對于隨機過程，如果狀態(tài)離散，時間t也是離散，則稱為離散型隨機序列。注意，為了適應數(shù)字技術的需要，對連續(xù)型隨機過程進行量化、分層，就得離散隨機序列。如伯努力試驗、隨機游動等。第17頁,共30頁，2024年2月25日，星期天2.按隨機過程功能分類

①平穩(wěn)過程；②高斯過程；③馬爾可夫過程；④二階過程；⑤獨立增量過程；⑥維也納過程；⑦白噪聲過程等。其它過程還很多，如泊松過程、分枝過程、更新過程、生滅過程等。第18頁,共30頁，2024年2月25日，星期天§1.3隨機過程的描述

我們知道概率統(tǒng)計的研究對象是隨機變量的變化規(guī)律，由此我們需要建立隨機變量的數(shù)學模型或稱函數(shù)關系，這里函數(shù)關系在概率統(tǒng)計中就叫分布函數(shù)（或稱概率密度函數(shù)）。類似的，隨機過程也是要研究X(t)的變化規(guī)律，進而建立隨機過程的數(shù)學模型或函數(shù)關系，下面我們來分析如何建立所謂隨機過程的函數(shù)關系。對于一個隨機過程X(t)，嚴格地說我們不能在圖上用一條曲線簡單地表示一個過程，因為按隨機過程的定義，該隨機過程可表為：第19頁,共30頁，2024年2月25日，星期天為了研究隨機過程的變化規(guī)律，我們暫且假定隨機過程可以在圖上用一條曲線來表示，如圖1.4。當然這條曲線不能作為具體的樣本函數(shù)，而應把它看作全部可能樣本函數(shù)的集合。圖1.4第20頁,共30頁，2024年2月25日，星期天現(xiàn)在我們動用記錄器來記錄X(t)的變化過程，由于記錄器不可能連續(xù)地記下過程，而只能記下過程X(t)在確定時刻下的狀態(tài)。前面已講過，在確定的時刻t上，隨機過程變成為通常的隨機變量，于是記錄器在時刻，就記錄下相應的結果。顯然，當記錄器的速度相當快時，即時間間隔很?。ɑ騨很大）時，我們可用這n個隨機變量的變化來描述隨機過程的變化規(guī)律。這樣，在一定的近似程度下，我們可以通過研究多維隨機變量的變化規(guī)律，即分布函數(shù)關系來代替研究隨機過程的變化規(guī)律，由此進而建立起近似隨機過程的數(shù)學模型。第21頁,共30頁，2024年2月25日，星期天定義一維分布函數(shù)：對于隨機過程X(t)，當取定時，為隨機變量，該隨機變量X(t1)的分布函數(shù)記為則稱為隨機過程X(t)的一維分布函數(shù)。同隨機變量一樣，若對x1的偏導數(shù)存在，則有這里稱為隨機過程的一維概率密度。第22頁,共30頁，2024年2月25日，星期天例1.1求隨機過程的一維概率密度函數(shù)，式中是常數(shù)，x是一個服從標準正態(tài)分布的隨機變量。解對于任意取定時間是一個隨機變量，由隨機過程的一維分布函數(shù)及一維概率密度函數(shù)定義知又∵第23頁,共30頁，2024年2月25日，星期天注意，的二元函數(shù)，又可稱為是時刻的狀態(tài)第24頁,共30頁，2024年2月25日，星期天結合概率統(tǒng)計知識，顯然隨機過程X(t)的一維分布函數(shù)、一維概率密度具有普遍隨機變量分布函數(shù)和概率密度函數(shù)的各種性質。惟一的差別是隨機過程的一維分布函數(shù)和一維密度都是時間t的函數(shù)，即是一個動態(tài)的分布函數(shù)和概率密度。由上面的分布知隨機過程的一維分布函數(shù)僅僅描述了隨機過程X(t)在t=(t1)時刻所對應的一個狀態(tài)X(t1)的變化規(guī)律。顯然此時由隨機過程的一維分布函數(shù)來近似描述X(t)的變化規(guī)律，其數(shù)學模型誤差太大。為了比較全面地描述隨機過程X(t)的變化規(guī)律，我們引入隨機過程的二維分布函數(shù)。第25頁,共30頁，2024年2月25日，星期天定義隨機過程的二維分布函數(shù)：對于隨機過程X(t)在任意兩個時刻兩個隨機變量（兩個狀態(tài)），我們把這兩個隨機變量的二維分布函數(shù)記為：稱為隨機函數(shù)過程X(t)的二維分布函數(shù)。若對的二階偏異數(shù)存在，則有稱之為隨機過程X(t)的二維概率密度。第26頁,共30頁，2024年2月25日，星期天隨機過程的二維分布函數(shù)比一維分布函數(shù)包含了隨機過程變化規(guī)律更多的信息，但它仍不能完整地反映出隨機過程的全部特性及變化規(guī)律。用同樣的方法，我們可以引入隨機過程