概率論中幾個(gè)有趣的例子

1、轉(zhuǎn)載】概率論中幾個(gè)有趣的例子 2007-6-3 13:06:00 | By: Byron 推薦作者: ni1985 (妮子|從東方席地卷來(lái)一團(tuán)野火), 原發(fā)新水木Mathematics已經(jīng)醞釀很長(zhǎng)時(shí)間的本文終于出場(chǎng)了。寫本文的主要目的：1 很多人看了我前面大量的歷史日志后，對(duì)我的數(shù)學(xué)水平產(chǎn)生了懷疑；2 有高中的校友師妹咨詢關(guān)于大學(xué)數(shù)學(xué)學(xué)習(xí)的問(wèn)題；3 概率論是數(shù)學(xué)中一個(gè)重要而美的分支，可惜多數(shù)同學(xué)尚沒(méi)有機(jī)會(huì)看到其冰山一角。本文的讀者適用范圍：最低標(biāo)準(zhǔn)是學(xué)過(guò)工科專業(yè)的高等數(shù)學(xué)和概率論，最高標(biāo)準(zhǔn)不清楚（也許水平比我高的人就不屑于讀了）當(dāng)我跟皇上提到要寫這篇文章的想法時(shí)，我提到：試圖用比較短的篇幅讓只

2、要有初等概率論基礎(chǔ)的人，也能看懂，從而對(duì)較深的概率論的研究對(duì)象和有趣的結(jié)論有一個(gè)初步的了解，激發(fā)其進(jìn)一步深入學(xué)習(xí)概率論的興趣。皇上說(shuō)：那可不容易，相當(dāng)于一個(gè)畢業(yè)設(shè)計(jì)了。我覺得，確實(shí)如此，本文是基本失敗還是基本成功，還要看讀者的評(píng)價(jià)。要想引入本文的內(nèi)容，首先從數(shù)學(xué)美的定義說(shuō)起。關(guān)于數(shù)學(xué)美，我比較欣賞的有兩種觀點(diǎn)，一是Birkhoff的觀點(diǎn)，數(shù)學(xué)美=邏輯的復(fù)雜程度/表述的復(fù)雜程度；二是Von Neumann的觀點(diǎn)，數(shù)學(xué)的活力依賴于與它有聯(lián)系的科學(xué)分支的多寡與分支的活力。也許做應(yīng)用的人更喜歡后者，但我是比較喜歡前者的。因此，我下面的主要內(nèi)容就是介紹一些概率論中的基本例子，這些例子的表述是相當(dāng)簡(jiǎn)單的，

3、但得到這些例子的手段卻比較復(fù)雜。我將試圖把每個(gè)例子表述清楚，讓只要有初等概率論基礎(chǔ)的讀者就知道在說(shuō)什么，但對(duì)得到這些結(jié)果的證明過(guò)程則一律省略，只簡(jiǎn)要提出涉及的基本工具，但其中有些比較簡(jiǎn)單的細(xì)節(jié)會(huì)給大家留為習(xí)題。這些例子一律來(lái)自偉大的Durrett的著作：Probability theory and examples我認(rèn)為最優(yōu)秀的概率論教材。例1. Coupon collector問(wèn)題：X1,X2,是獨(dú)立同分布，均勻的取自集合1，n的隨機(jī)變量序列。大家把集合1，n想象為若干張撲克牌，每次我們等概率的取一張撲克牌，取完放回。，意思就是手中取過(guò)k種不同的撲克牌所需的次數(shù)。T(n)=t(n,n)表示取

4、過(guò)所有撲克牌所需的次數(shù)。X(n,k)=t(n,k)-t(n,k-1)，則X(n,k)服從參數(shù)是1-(k-1)/n的幾何分布（思考題?。?，它的期望和方差可求，且容易發(fā)現(xiàn)X(n,1),X(n,n)相互獨(dú)立，從而可以求出ET(n),Var T(n)（習(xí)題！)。且去證明依概率趨近于0.（數(shù)學(xué)基礎(chǔ)稍微深一些的同學(xué)都知道，L2收斂蘊(yùn)含依概率收斂）最終得到一個(gè)漂亮的結(jié)論：依概率收斂于1.數(shù)學(xué)基礎(chǔ)比較少的同學(xué)可以直接看這一行，我把這一行的實(shí)際意義說(shuō)清楚：就是假設(shè)我們要收集的郵票有n張，而每次別人給我們提供的郵票恰恰是等概率的，那么要想把n張收集全，需要的時(shí)間依概率趨近于 nlogn。 所以大家就可以發(fā)現(xiàn)，為什

5、么我們想集齊比較少的郵票要比集齊多的郵票容易的多。作為更為深層次的讀者，我要說(shuō)的是，在隨機(jī)變量收斂性問(wèn)題的研究中，獨(dú)立性和矩總是常見的關(guān)注對(duì)象。為什么我們非常喜歡方差這個(gè)概念呢？我想一個(gè)重要的性質(zhì)就是：對(duì)于獨(dú)立的隨機(jī)變量，方差對(duì)和有分配律。于是二階中心矩才會(huì)成為最重要的矩。通過(guò)對(duì)矩的估計(jì)把隨機(jī)變量的收斂性問(wèn)題，轉(zhuǎn)化為實(shí)數(shù)序列的收斂性問(wèn)題，最后完全是數(shù)學(xué)分析的東西，這種手段是屢屢使用的。例2 非對(duì)稱的簡(jiǎn)單隨機(jī)游動(dòng)問(wèn)題：, 獨(dú)立同分布，. , 對(duì)于數(shù)學(xué)基礎(chǔ)不太好的同學(xué)，我簡(jiǎn)單介紹一下這個(gè)問(wèn)題的背景，其實(shí)很好理解。設(shè)有一個(gè)點(diǎn)在0時(shí)刻位于實(shí)軸的原點(diǎn)0處，它在每個(gè)時(shí)刻以概率p向右跳躍一個(gè)單位長(zhǎng)度，以概率

6、q向左跳躍一個(gè)單位長(zhǎng)度，且跳躍的方向與以前每次跳躍的情況是獨(dú)立的。我們有如下非常精彩的結(jié)論： 表示的是：n時(shí)刻這個(gè)點(diǎn)所在的位置。1 , 的直觀意思就是，這個(gè)點(diǎn)首次跳到x的位置的時(shí)刻。那么對(duì)于任意的，這里函數(shù)。上面的這個(gè)等式的直觀意義：a是負(fù)半軸上一點(diǎn)，b是正半軸上一點(diǎn)，點(diǎn)沒(méi)到b之前先到a的概率被計(jì)算了出來(lái)。得到這個(gè)結(jié)論最快的方法就是用鞅論。鞅實(shí)在是一個(gè)漂亮的東西，而它的漂亮之處就在于它與停時(shí)結(jié)合在一起后的巨大威力。用N表示和中的較小值，則N是停時(shí)。首先要說(shuō)明的是N小于無(wú)窮大。要得到這個(gè)結(jié)論，我掌握的有三種方法：（1）通過(guò)EN小于無(wú)窮大，得到這個(gè)結(jié)論，這事實(shí)上是通過(guò)一個(gè)強(qiáng)的多的結(jié)論說(shuō)明的，具體見

7、Durrett書181頁(yè)。（2）通過(guò)鞅收斂定理，見Durrett書275頁(yè)。其中用了一個(gè)重要結(jié)論：一致有界的鞅序列必然一致可積（應(yīng)該是很顯然的吧，呵呵）。（3）通過(guò)馬氏鏈的性質(zhì)：對(duì)于一個(gè)有可列狀態(tài)，不可約的馬氏鏈，用F表示狀態(tài)空間的一個(gè)有限子集，設(shè)初始狀態(tài)屬于F,用T表示鏈?zhǔn)状坞x開F的時(shí)間，則一定有T小于無(wú)窮大。（可以作為本科生三年級(jí)應(yīng)用隨機(jī)過(guò)程的習(xí)題，證之?。?2 即首次到達(dá)b點(diǎn)的平均時(shí)間是。處理方法還是用鞅論，這里不再多說(shuō)。關(guān)于用鞅論解決馬氏鏈問(wèn)題的例子，我還推薦數(shù)學(xué)基礎(chǔ)比較高的同學(xué)閱讀Durrett書上的（1）M/G/1排隊(duì)（282頁(yè)，298頁(yè)，309頁(yè)） （2）生滅過(guò)程（295頁(yè)，30

8、1頁(yè)）本來(lái)我認(rèn)為這兩個(gè)例子是更加漂亮的，但考慮到數(shù)學(xué)基礎(chǔ)一般的同學(xué)的閱讀水平，就不寫了。 例3 遍歷定理的一個(gè)應(yīng)用（Benford定律）首先提一個(gè)問(wèn)題：隨機(jī)選取一個(gè)正整數(shù)，它的第一位數(shù)字是1 的概率是多少？很多同學(xué)會(huì)武斷的回答：1/9.可是你忘記了問(wèn)我一個(gè)問(wèn)題：你是如何隨機(jī)選取的？也許你會(huì)說(shuō)：這還用問(wèn)？就是等概率的選取唄?？墒遣灰?，對(duì)于可列狀態(tài)的狀態(tài)空間，不存在一個(gè)概率測(cè)度，使得它在任意兩個(gè)單點(diǎn)集上的概率相同?。ㄋ伎碱}！）其實(shí)一個(gè)直觀的想法是：我們考慮前n個(gè)正整數(shù)中（均勻分布是可能的），首位數(shù)字是1的概率記為f(n),然后把f(n)的極限作為我上面所提問(wèn)題的答案?？墒请S后會(huì)不幸的發(fā)現(xiàn)，極限

9、是不存在的！于是作為習(xí)題，設(shè)前個(gè)正整數(shù)中，首位數(shù)字是的概率記為是1/9，且對(duì)于任意屬于區(qū)間1/9,5/9的實(shí)數(shù)a，都存在前n個(gè)正整數(shù)中，首位數(shù)字是2的概率是題?。?,則的上極限是5/9,下極限的子序列，它的極限就是a。類似的，記,其上極限是10/27,下極限是1/18.（作為數(shù)學(xué)分析的習(xí)但是，當(dāng)我們轉(zhuǎn)而思考這樣的等比序列，1，2，4，8，16，記這個(gè)序列的前n項(xiàng)中首位數(shù)字是1的概率為,則是有極限的，且極限是.一般地，對(duì)于任意一個(gè)非10的整數(shù)次冪的正整數(shù)q，,則的極考慮以1為首項(xiàng)，以q為公比的等比數(shù)列，它的前n項(xiàng)中首位數(shù)字是k的概率為限是. （證明不可能在這里給出了，大家只管從結(jié)論中去欣賞概率論之美吧?。?這個(gè)結(jié)論是非常漂亮的！敘述是非常簡(jiǎn)單的，意義是非常直觀的，但并不是容易猜到的，證明所需的背景遍歷定理又是極其深刻的。讀來(lái)暢快淋漓！今年春天，陳大岳教授（陳大岳教授的書目和學(xué)習(xí)指南）對(duì)我說(shuō)，在現(xiàn)代概率論的研究中，遍歷定理顯現(xiàn)的