隨機(jī)過程簡(jiǎn)史

1、HarbinInstituteofTechnology6/6課程設(shè)計(jì)（論文）課程名稱設(shè)計(jì)題目院系班級(jí)設(shè)計(jì)者學(xué)號(hào)指導(dǎo)教師設(shè)計(jì)時(shí)間應(yīng)用隨機(jī)過程隨機(jī)過程簡(jiǎn)史電氣工程學(xué)院11S0104孫延博11S001070田波平2011-10-23隨機(jī)過程簡(jiǎn)史摘要本文簡(jiǎn)要地介紹了隨機(jī)過程從20世紀(jì)初創(chuàng)立至今，100年的發(fā)展歷程考察了導(dǎo)致隨機(jī)過程產(chǎn)生的歷史契機(jī)，以及早期數(shù)學(xué)家在這方面作出的杰出工作。并簡(jiǎn)要介紹了隨機(jī)過程的概念，研究方法和研究?jī)?nèi)容，在現(xiàn)代工程技術(shù)領(lǐng)域的應(yīng)用。關(guān)鍵詞：隨機(jī)過程平穩(wěn)隨機(jī)過程平穩(wěn)隨機(jī)序列1. 隨機(jī)過程的概念研究方法及研究?jī)?nèi)容隨機(jī)過程是現(xiàn)代概率論研究的一個(gè)重要分支。數(shù)學(xué)上的隨機(jī)過程是由實(shí)際隨機(jī)過

2、程概念引起的一種數(shù)學(xué)結(jié)構(gòu)。人們研究這種過程，是因?yàn)樗菍?shí)際隨機(jī)過程的數(shù)學(xué)模型，或者是因?yàn)樗膬?nèi)在數(shù)學(xué)意義以及它在概率論領(lǐng)域之外的應(yīng)用。數(shù)學(xué)上的隨機(jī)過程可以簡(jiǎn)單的定義為一組隨機(jī)變量，即指定一參數(shù)集，對(duì)于其中每一參數(shù)點(diǎn)t指定一個(gè)隨機(jī)變量x(t)。如果回憶起隨機(jī)變量自身就是一個(gè)函數(shù)，以®表示隨機(jī)變量x(t)的定義域中的一點(diǎn)，并以x(t，)表示隨機(jī)變量在®的值，則隨機(jī)過程就由剛才定義的點(diǎn)偶(t，®)的函數(shù)以及概率的分配完全確定。如果固定t,這個(gè)二元函數(shù)就定義一個(gè)®的函數(shù)，即以x(t)表示的隨機(jī)變量。如果固定®，這個(gè)二元函數(shù)就定義一個(gè)t的函數(shù)，這是過程的

3、樣本函數(shù)。由于物理學(xué)生物學(xué)，通訊和控制管理科學(xué)等學(xué)科的需要隨機(jī)過程逐步發(fā)展起來的。馬爾柯夫最早研究了隨機(jī)過程。研究隨機(jī)過程的方法多種多樣，主要可以分為兩大類：一類是概率方法，其中用到軌道性質(zhì)、停時(shí)和隨機(jī)微分方程等；另一類是分析的方法，其中用到測(cè)度輪、微分方程、半群理論、函數(shù)堆和希爾伯特空間等。實(shí)際研究中常常兩種方法并用。另外組合方法和代數(shù)方法在某些特殊隨機(jī)過程的研究中也有一定作用。研究的主要內(nèi)容有：多指標(biāo)隨機(jī)過程、無窮質(zhì)點(diǎn)與馬爾可夫過程、概率與位勢(shì)及各種特殊過程的專題討論等。中國(guó)學(xué)者在平穩(wěn)過程、馬爾科夫過程、鞅論、極限定理、隨機(jī)微分方程等方面做出了較好的工作。2. 隨機(jī)過程的歷史1900年，B

4、achelier在分析股票市場(chǎng)波動(dòng)時(shí)發(fā)現(xiàn)了隨機(jī)過程的一個(gè)重過程獨(dú)立增量過程的特惻。1905年，物理學(xué)家Einstein在研究Brown運(yùn)動(dòng)時(shí)，也遇到了相同的過程.1923年，Wiener給出了Brown運(yùn)動(dòng)的數(shù)學(xué)描述-wiener過程。Lunbderg在1903年研究一個(gè)保險(xiǎn)公司所承擔(dān)索賠累計(jì)數(shù)的變化規(guī)律時(shí).導(dǎo)出了另一類型的隨機(jī)過程一一Lundberg過程。而眾所周知、應(yīng)用甚廣的Poisson過程是當(dāng)所有得付出的索賠總數(shù)中每一筆數(shù)目都相同時(shí)的Lundberg過程。1909年，Erlang在研究電話業(yè)務(wù)時(shí)引入了Poisson過程，并被物理學(xué)家Rutherford和Geiger用于分析放射性蛻變。

5、這些早期對(duì)隨機(jī)過程的研究都是同實(shí)際問題緊密聯(lián)系在一起的。雖然在數(shù)學(xué)上用了不太嚴(yán)密的方法，卻表現(xiàn)出了直觀處理這些概念和方法的絕妙能力。系統(tǒng)地嚴(yán)密地研究隨機(jī)過程始于本世紀(jì)30年代。1931年，柯爾莫哥洛夫發(fā)表了一篇極有影響的論文概率論的解析方法，他進(jìn)行了一般性的馬氏過程的研究。馬氏過程為經(jīng)典的馬爾柯夫鏈概念的自然推廣，得到著名的向前方程。這一工作為揭示概率論同二階偏微分方程之間的聯(lián)系莫定了基礎(chǔ)。在這之前，物理學(xué)家Plank曾建立過拋物型方程同馬氏鏈及直線上的馬爾柯夫游動(dòng)的聯(lián)系，得到部分的結(jié)果?？聽柲缏宸虻慕Y(jié)論更完善，并廣泛地應(yīng)用于物理生物，化學(xué)以及工程技術(shù)方面。時(shí)齊獨(dú)立增量過程是拇爾莫哥格夫在1

6、932年的工作中得到的。它使得wiener過程和Lunbdberg風(fēng)險(xiǎn)過程成為特例。1934年，蘇聯(lián)數(shù)學(xué)家辛欣發(fā)表了平穩(wěn)過程的奠基性文章，而且指出當(dāng)系統(tǒng)的過去的歷史對(duì)未來發(fā)展有本質(zhì)影響的情況下。馬氏過程是不能描述的。平穩(wěn)過程的發(fā)現(xiàn)為統(tǒng)計(jì)力學(xué)，氣象和經(jīng)濟(jì)學(xué)等領(lǐng)域找到一個(gè)臺(tái)適的數(shù)學(xué)模型，特別是為顯示出周期性行為趨向的現(xiàn)象的研究以及應(yīng)用于信息論開辟了前景。1944年柯爾莫哥洛夫?qū)﹄x散時(shí)問的平穩(wěn)過程進(jìn)行了研究發(fā)現(xiàn)具有二階矩的所有隨機(jī)變量組成一個(gè)Hilbert空間，而離散時(shí)間的隨機(jī)過程就成為其中的一個(gè)點(diǎn)序列。對(duì)于隨機(jī)變量的平穩(wěn)序列，柯爾莫哥洛夫運(yùn)用Hilbert空間理論，以一種簡(jiǎn)單的方法導(dǎo)出過去所有已知

7、的結(jié)果。這一開創(chuàng)性的工作首次把Hilbert空間這種抽象理論用于隨機(jī)變量和隨機(jī)過程的研究.在實(shí)際中遇到的很多隨機(jī)現(xiàn)象有如下的共同特性：它的未來的演變，在已知它目前狀態(tài)的條件下與以往的狀況無關(guān)。描述這種隨時(shí)間推進(jìn)的隨機(jī)現(xiàn)象的演變模型就是馬爾可夫過程。20世紀(jì)50年代以前，研究馬爾可夫過程的主要工具是微分方程和半群理論（即分析方法）；1936年前后就開始探討馬爾可夫過程的軌道性質(zhì)，直到把微分方程和半群理論的分析方法同研究軌道性質(zhì)的概率方法結(jié)合運(yùn)用，才使這方面的研究工作進(jìn)一步深化，并形成了對(duì)軌道分析必不可少的強(qiáng)馬爾可夫性概念。1942年，伊藤清用他創(chuàng)立的隨機(jī)積分和隨機(jī)微分方程理論來研究一類特殊而重要

8、的馬爾可夫過程一-散過程，開辟了研究馬爾可夫過程的又一重要途徑。近年來，鞅論方法也已滲透到馬爾可夫過程的研究中，它與隨機(jī)微分方程結(jié)合在一起，已成為目前處理多維擴(kuò)散過程的工具。此外，馬爾可夫過程與分析學(xué)中的位勢(shì)論有密切的聯(lián)系。對(duì)馬爾可夫過程的研究，推動(dòng)了位勢(shì)理論的發(fā)展，并為研究偏微分方程提供了概率論的方法。最近十多年發(fā)展起來的吉布斯隨機(jī)場(chǎng)和無窮粒子隨機(jī)系統(tǒng)，是由于統(tǒng)計(jì)物理的需要而提出的。許多自然的和生產(chǎn)過程中的隨機(jī)現(xiàn)象表現(xiàn)出某種平穩(wěn)性。一種平穩(wěn)性是過程在任意一些時(shí)刻上的聯(lián)合概率分布隨時(shí)間推移不變，這種平穩(wěn)性稱為嚴(yán)平穩(wěn)性。嚴(yán)平穩(wěn)過程的研究與遍歷理論有密切的聯(lián)系。如果上述對(duì)概率分布的要求放寬為僅對(duì)二

9、階相關(guān)矩的要求，即過程在任意兩時(shí)刻上的協(xié)方差隨時(shí)間推移不變，則稱這種平穩(wěn)性為寬平穩(wěn)性。關(guān)于寬平穩(wěn)過程的研究，辛欽、柯爾莫哥洛夫和維納等人運(yùn)用傅里葉分析和泛函分析的工具，在40年代已經(jīng)找出了過程的相關(guān)函數(shù)及過程本身的譜分解式，并且較完滿地解決了有應(yīng)用意義的預(yù)測(cè)問題。許多應(yīng)用問題還要求根據(jù)觀測(cè)數(shù)據(jù)去建立這些數(shù)據(jù)所來自的隨機(jī)過程的模型。為此產(chǎn)生了時(shí)間序列分析這一課題，提出了寬平穩(wěn)序列的自回歸滑動(dòng)平均(ARMA)模型以及一些非線性模型。鞅是另一類重要的隨機(jī)過程。從20世紀(jì)30年代起，萊維等人就開始研究鞅序列，把它作為獨(dú)立隨機(jī)變量序列的部分和的推廣。40年代到50年代初，杜布對(duì)鞅進(jìn)行了系統(tǒng)的研究，得到有

10、名的鞅不等式、停止定理和收斂定理等重要結(jié)果。1962年，pa邁耶解決了杜布提出的連續(xù)時(shí)間的上鞅分解為鞅及增過程之差的問題。在解決這個(gè)問題的過程中，出現(xiàn)了很多新鮮而深刻的概念，使鞅和隨機(jī)過程一般理論的內(nèi)容大大豐富起來。鞅的研究豐富了概率論的內(nèi)容，并引起人們用它所提供的新方法新概念對(duì)概率論中許多經(jīng)典的內(nèi)容重新審議，把以往認(rèn)為是復(fù)雜的東西納入鞅論的框架而加以簡(jiǎn)化。此外，利用上鞅的分解定理，可以把伊藤清的對(duì)布朗運(yùn)動(dòng)的隨機(jī)積分推廣到對(duì)一般鞅乃至半鞅的隨機(jī)積分；因而，更一般的隨機(jī)微分方程的研究也隨之發(fā)展。隨機(jī)微分方程理論不僅可以用來研究馬爾可夫過程，它還是解決濾波問題的必要工具。最近出現(xiàn)的流形上的隨機(jī)微分

11、方程又和微分幾何及分析力學(xué)的研究發(fā)生了密切的聯(lián)系。鞅論還對(duì)本學(xué)科以外的位勢(shì)理論、調(diào)和分析及復(fù)變函數(shù)論等提供了有用的工具。點(diǎn)過程是從所謂計(jì)數(shù)過程發(fā)展出來的，它們的特點(diǎn)是，可用落在不相重疊的集合上的隨機(jī)點(diǎn)數(shù)目的聯(lián)合概率分布來刻畫整個(gè)過程的概率規(guī)律。最基本的計(jì)數(shù)過程是泊松過程，1943年，c.帕爾姆將它作為最簡(jiǎn)單的輸入流應(yīng)用于研究電話業(yè)務(wù)問題；1955年，辛欽又以嚴(yán)密的數(shù)學(xué)觀點(diǎn)作了整理和發(fā)展。隨機(jī)分析是概率論中又一獨(dú)立分支。對(duì)于隨機(jī)變量和躚機(jī)過程的分析性質(zhì)的研究始于Wiener1923年的工作.他將Brown運(yùn)動(dòng)的平方可積泛函按Hermit多項(xiàng)式展開，討論了Brown運(yùn)動(dòng)的非線性泛函。1931年，柯

12、爾莫哥洛夫在前面提到的文章中首次研究了馬氏過程同二階偏微分方程的聯(lián)系。1942年，日率數(shù)學(xué)家Ito發(fā)表了一篇重要的論文，他首次研究了微分方積的隨機(jī)積分理論。他從分析經(jīng)典的熱擴(kuò)散過程給出了拋物型偏微分方程的一個(gè)路徑積分表示”。1947年，物理學(xué)家Feynman在研究量子力學(xué)中的微分方程時(shí)，提出了一種“路徑積分“理論。后來數(shù)學(xué)家MarkKao在這一方面做了大量出色的工怍，建立了概率理論同微分方程新的聯(lián)系。50年代，Ito討論了一維擴(kuò)散過程。他的學(xué)生Ikede和Watanabe在隨機(jī)微分方程和擴(kuò)散過程方面作出了重要的工作。在60年代以前，點(diǎn)過程的研究主要限于泊松過程及其推廣的過程。以后，由于大量實(shí)際

13、問題的需要以及隨機(jī)測(cè)度論和現(xiàn)代鞅論的推動(dòng)，進(jìn)一步把實(shí)軸上的點(diǎn)過程（即計(jì)數(shù)過程）推廣到一般的可分完備度量空間上，在內(nèi)容和方法上都有根本性的進(jìn)展。3. 隨機(jī)過程在工程技術(shù)的應(yīng)用隨機(jī)過程的發(fā)展史說明了理論與實(shí)際之間的密切關(guān)系。許多研究方向的提出，歸根到底是有其實(shí)際背景的。反過來，當(dāng)這些方向被深入研究后，又可指導(dǎo)實(shí)踐，進(jìn)一步擴(kuò)大和深化應(yīng)用范圍。概率論作為數(shù)理統(tǒng)計(jì)學(xué)的理論基礎(chǔ)是盡人皆知的。下面簡(jiǎn)略介紹一下概率論本身在各方面的應(yīng)用情況。在物理學(xué)方面，高能電子或核子穿過吸收體時(shí)，產(chǎn)生級(jí)聯(lián)（或倍增）現(xiàn)象,在研究電了-光子級(jí)聯(lián)過程的起伏問題時(shí)，要用到隨機(jī)過程，常以泊松過程、弗瑞過程或波伊亞過程作為實(shí)際級(jí)聯(lián)的近似

14、，有時(shí)還要用到更新過程（見點(diǎn)過程）的概念。當(dāng)核子穿到吸收體的某一深度時(shí)，則可用擴(kuò)散方程來計(jì)算核子的概率分布。物理學(xué)中的放射性衰變，粒子計(jì)數(shù)器，原子核照相乳膠中的徑跡理論和原子核反應(yīng)堆中的問題等的研究，都要用到泊松過程和更新理論。湍流理論以及天文學(xué)中的星云密度起伏、輻射傳遞等研究要用到隨機(jī)場(chǎng)的理論。探討太陽(yáng)黑子的規(guī)律及其預(yù)測(cè)時(shí)，時(shí)間序列方法非常有用。化學(xué)反應(yīng)動(dòng)力學(xué)中，研究化學(xué)反應(yīng)的時(shí)變率及影響這些時(shí)變率的因素問題,自動(dòng)催化反應(yīng)，單分子反應(yīng),雙分子反應(yīng)及一些連鎖反應(yīng)的動(dòng)力學(xué)模型等，都要以生滅過程（見馬爾可夫過程）來描述。隨機(jī)過程理論所提供的方法對(duì)于生物數(shù)學(xué)具有很大的重要性，許多研究工作者以此來構(gòu)造

15、生物現(xiàn)象的模型。研究群體的增長(zhǎng)問題時(shí)，提出了生滅型隨機(jī)模型，兩性增長(zhǎng)模型，群體間競(jìng)爭(zhēng)與生尅模型，群體遷移模型，增長(zhǎng)過程的擴(kuò)散模型等等。有些生物現(xiàn)象還可以利用時(shí)間序列模型來進(jìn)行預(yù)報(bào)。傳染病流行問題要用到具有有限個(gè)狀態(tài)的多變量非線性生滅過程。在遺傳問題中，著重研究群體經(jīng)過多少代遺傳后，進(jìn)入某一固定類和首次進(jìn)入此固定類的時(shí)間，以及最大基因頻率的分布等。許多服務(wù)系統(tǒng)，如電話通信，船舶裝卸，機(jī)器損修，病人候診，紅綠燈交換，存貨控制，水庫(kù)調(diào)度，購(gòu)貨排隊(duì)，等等，都可用一類概率模型來描述。這類概率模型涉及的過程叫排隊(duì)過程，它是點(diǎn)過程的特例。排隊(duì)過程一般不是馬爾可夫型的。當(dāng)把顧客到達(dá)和服務(wù)所需時(shí)間的統(tǒng)計(jì)規(guī)律研究清楚后，就可以合理安排服務(wù)點(diǎn)。在通信、雷達(dá)探測(cè)、地震探測(cè)等領(lǐng)域中，都有傳遞信號(hào)與接收信號(hào)的問題。傳