概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)課件

計(jì)量經(jīng)濟(jì)學(xué)數(shù)學(xué)基礎(chǔ)概率論與數(shù)理統(tǒng)計(jì)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)

概率論與數(shù)理統(tǒng)計(jì)是研究和揭示隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性的數(shù)學(xué)分支。主要包括：隨機(jī)事件和概率、隨機(jī)變量的分布和數(shù)字特征、中心極限定理和大數(shù)定理、抽樣分布、統(tǒng)計(jì)估計(jì)、假設(shè)檢驗(yàn)、回歸分析等。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)主要內(nèi)容1.基本概念2.對(duì)總體的描述——隨機(jī)變量的數(shù)字特征3.對(duì)樣本的描述——樣本分布的數(shù)字特征4.隨機(jī)變量的分布5.通過(guò)樣本，估計(jì)總體——估計(jì)量的特征6.通過(guò)樣本，估計(jì)總體——估計(jì)方法7.通過(guò)樣本，估計(jì)總體——假設(shè)檢驗(yàn)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第一節(jié)基本概念總體和個(gè)體樣本和樣本容量隨機(jī)變量統(tǒng)計(jì)量概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)1.1總體、個(gè)體、樣本和樣本容量研究對(duì)象的全體稱(chēng)為總體或母體，通常指研究對(duì)象的某項(xiàng)數(shù)量指標(biāo)；組成總體的每個(gè)基本單位稱(chēng)為個(gè)體。從總體X中抽出若干個(gè)個(gè)體稱(chēng)為樣本，一般記為(X1,X2,…,Xn)。n稱(chēng)為樣本容量。而對(duì)這n個(gè)個(gè)體的一次具體的觀察結(jié)果——(x1,x2,…,xn)是完全確定的一組數(shù)值，但它又隨著每次抽樣觀察而改變。(x1,x2,…,xn)稱(chēng)為樣本觀察值。注意：抽樣是按隨機(jī)原則選取的，即總體中每個(gè)個(gè)體有同樣的機(jī)會(huì)被選入樣本。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)

當(dāng)人們?cè)谝欢l件下對(duì)某一現(xiàn)象加以觀察時(shí)，觀察到的結(jié)果是多個(gè)可能結(jié)果中的某一個(gè)，且在每次觀察前都無(wú)法預(yù)知觀測(cè)結(jié)果到底是哪一個(gè)，即結(jié)果的出現(xiàn)呈現(xiàn)出偶然性，但是所有可能出現(xiàn)的結(jié)果是知道的。隨機(jī)現(xiàn)象具有偶然性一面，也有必然性一面。偶然性一面表現(xiàn)在“對(duì)隨機(jī)現(xiàn)象做一次觀測(cè)時(shí)，觀測(cè)結(jié)果具有偶然性(不可預(yù)知性)”；必然性一面表現(xiàn)在“對(duì)隨機(jī)現(xiàn)象進(jìn)行大量重復(fù)觀測(cè)，觀測(cè)結(jié)果有一定的規(guī)律性，亦即統(tǒng)計(jì)規(guī)律性”。

具有不確定性(或隨機(jī)性、偶然性)的現(xiàn)象稱(chēng)為隨機(jī)現(xiàn)象。特點(diǎn)：隨機(jī)現(xiàn)象定義：概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)隨機(jī)試驗(yàn)舉例：

E1:擲一顆骰子，觀察所擲的點(diǎn)數(shù)是幾；

E2:觀察某城市某個(gè)月內(nèi)交通事故發(fā)生的次數(shù)；

E3:對(duì)某只燈泡做試驗(yàn),觀察其使用壽命；

E4:對(duì)某只燈泡做試驗(yàn),觀察其使用壽命是否小于200小時(shí)。在實(shí)際問(wèn)題中，隨機(jī)試驗(yàn)的結(jié)果可以用數(shù)量來(lái)表示，由此就產(chǎn)生了隨機(jī)變量的概念概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)

有些試驗(yàn)結(jié)果本身與數(shù)值有關(guān)（本身就是一個(gè)數(shù)）.

例如，擲一顆骰子面上出現(xiàn)的點(diǎn)數(shù)；

七月份濟(jì)南的最高溫度；每天從濟(jì)南下火車(chē)的人數(shù)；昆蟲(chóng)的產(chǎn)卵數(shù)；它隨試驗(yàn)結(jié)果的不同而取不同的值，因而在試驗(yàn)之前只知道它可能取值的范圍，而不能預(yù)先肯定它將取哪個(gè)值。由于試驗(yàn)結(jié)果的出現(xiàn)具有一定的概率，于是這種實(shí)值函數(shù)取每個(gè)值和每個(gè)確定范圍內(nèi)的值也有一定的概率。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)1.2隨機(jī)變量根據(jù)概率不同而取不同數(shù)值的變量稱(chēng)為隨機(jī)變量。一個(gè)隨機(jī)變量具有這樣的特性：可以取許多不同的數(shù)值，取每一個(gè)數(shù)值都有相應(yīng)的概率p,0≤p≤1。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)總體、隨機(jī)變量、樣本間的聯(lián)系樣本就是一個(gè)隨機(jī)變量，所謂“樣本容量為n的樣本”就是n個(gè)相互獨(dú)立且與總體有相同分布的隨機(jī)變量X1,X2,…,Xn每一次具體抽樣所得的數(shù)據(jù)，就是n元隨機(jī)變量的一個(gè)觀察值，記為X1,X2,…,Xn樣本是總體的一部分?？傮w一般是未知的。一般要通過(guò)樣本才能部分地推知總體的情況。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)1.3統(tǒng)計(jì)量由樣本值去推斷總體情況，需要對(duì)樣本值進(jìn)行“加工”，這就要構(gòu)造一些樣本的函數(shù)，它把樣本中所含的（某一方面）的信息集中起來(lái)。設(shè)(x1,x2,…,xn)為一組樣本觀察值，函數(shù)y=f(x1,x2,…,xn)若不含有未知參數(shù)，這種不含任何未知參數(shù)的樣本的函數(shù)稱(chēng)為統(tǒng)計(jì)量。它是完全由樣本決定的量。統(tǒng)計(jì)量既然是依賴(lài)于樣本的，而后者又是隨機(jī)變量，故統(tǒng)計(jì)量也是隨機(jī)變量。幾個(gè)常見(jiàn)統(tǒng)計(jì)量樣本均值：樣本方差：概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第二節(jié)對(duì)總體的描述

——隨機(jī)變量的數(shù)字特征2.1數(shù)學(xué)期望2.2方差2.3協(xié)方差概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)2.1.1數(shù)學(xué)期望：實(shí)際上就是一個(gè)加權(quán)平均值，描述隨機(jī)變量的集中程度。數(shù)學(xué)期望描述隨機(jī)變量（總體）的一般水平。定義1離散型隨機(jī)變量數(shù)學(xué)期望的定義假定有一個(gè)離散型隨機(jī)變量X有n個(gè)不同的可能取值x1,x2,……,xn，而p1,p2,……,pn是X取這些值相應(yīng)的概率，則這個(gè)隨機(jī)變量X的數(shù)學(xué)期望定義如下：概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)定義2連續(xù)型隨機(jī)變量數(shù)學(xué)期望的定義概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)2.1.2數(shù)學(xué)期望的性質(zhì)：（1）如果a、b為常數(shù)，則

E(aX+b)=aE(X)+b（2）如果X、Y為兩個(gè)隨機(jī)變量，則

E(X+Y)=E(X)+E(Y)（3）如果g(x)和f(x)分別為X的兩個(gè)函數(shù)，則

E[g(X)+f(X)]=E[g(X)]+E[f(X)]（4）如果X、Y是兩個(gè)獨(dú)立的隨機(jī)變量，則

E(X.Y)=E(X).E(Y)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)2.2.1方差的定義離均差的定義若隨機(jī)變量X的數(shù)學(xué)期望E(X)存在，稱(chēng)[X-E(X)]為隨機(jī)變量X的離均差。方差的定義離均差的平方的數(shù)學(xué)期望。設(shè)X是隨機(jī)變量，若E{[X-EX]2}存在，則稱(chēng)E{[X-EX]2}為隨機(jī)變量X的方差，記為D(X)或Var(X)，即

D(X)=E{[X-EX]2}

方差的算術(shù)平方根稱(chēng)為隨機(jī)變量X的均方差或標(biāo)準(zhǔn)差。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)2.2.2方差的意義離均差和方差都是用來(lái)描述隨機(jī)變量離散程度的，即描述x對(duì)于它的數(shù)學(xué)期望的偏離程度，這種偏差越大，表明變量的取值越分散。一般情況下，常用方差來(lái)描述離散程度。因?yàn)殡x均差的和為零，無(wú)法體現(xiàn)隨機(jī)變量的總離散程度。事實(shí)上正偏差大或負(fù)偏差大，同樣是離散程度大。方差中由于有了平方，從而消除了正負(fù)號(hào)的影響，并易于加總，也易于強(qiáng)調(diào)大的偏離程度的突出作用。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)2.2.3方差的性質(zhì)：（1）Var(c)=0（2）Var(c+x)=Var(x)（3）Var(cx)=c2Var(x)（4）Var(x-y)=Var(x)+Var(y)-2cov(x,y)Var(x+y)=Var(x)+Var(y)+2cov(x,y)（5）Var(a+bx)=b2Var(x)（6）a,b為常數(shù)，x,y為兩個(gè)相互獨(dú)立的隨機(jī)變量，則Var(ax+by)=a2Var(x)+b2Var(y)（7）Var(x)=E(x2)-(E(x))2概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)

2.3協(xié)方差Cov(X,Y)=E[(X-EX)(Y-EY)]Cov(X,Y)=E(XY)-E(X)E(Y)（積的期望減期望的積）概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第三節(jié)對(duì)樣本的描述

——樣本分布的數(shù)字特征樣本均值反映樣本集中程度樣本方差樣本標(biāo)準(zhǔn)差描述樣本離散程度概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第四節(jié)隨機(jī)變量的分布

4.1正態(tài)分布4.2t分布4.3卡方分布4.4F分布概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)4.1正態(tài)分布概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)正態(tài)分布圖形概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)標(biāo)準(zhǔn)正態(tài)分布

根據(jù)以上定理，可以將任何一個(gè)正態(tài)分布化為標(biāo)準(zhǔn)正態(tài)分布，即將其標(biāo)準(zhǔn)化。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)標(biāo)準(zhǔn)正態(tài)分布圖形概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)標(biāo)準(zhǔn)正態(tài)分布的分位數(shù)(臨界值)

在實(shí)際問(wèn)題中，

常取0.1、0.05、0.01.z0.05=1.645z0.01=2.326z0.01/2=2.575z0.05/2=1.96概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)4.2t分布定理1：若X~N(0,1)，Y~

2(n)，X與Y獨(dú)立，則定理2：設(shè)(X1,X2,…,Xn)是正態(tài)總體N(μ,σ2)的簡(jiǎn)單隨機(jī)樣本，則概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)性質(zhì):

(1)f(x)關(guān)于x=0(縱軸)對(duì)稱(chēng)。

(2)f(x)的極限為N(0，1)的密度函數(shù)，即

當(dāng)n較大時(shí)，t分布近似于標(biāo)準(zhǔn)正態(tài)分布.概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)來(lái)定義.其中伽瑪函數(shù)通過(guò)積分若隨機(jī)變量X的概率密度為那么稱(chēng)X服從自由度為n的分布記作：4.3分布概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)

χ2分布的密度函數(shù)的圖形如右圖.應(yīng)用中心極限定理可得，

，則當(dāng)n充分大時(shí)若的分布近似正態(tài)分布N(0,1).則可以求得，

E(X)=n,Var(X)=2n若若X1,X2,……,Xn相互獨(dú)立，且Xi~N(0,1)，則性質(zhì)1：性質(zhì)2：概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)則稱(chēng)X服從自由度為n1和n2的F分布。n1稱(chēng)第一自由度，n2稱(chēng)第二自由度。定義：若隨機(jī)變量X的密度函數(shù)為4.4F分布概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)定理1

若X~

2(n1)，Y~

2(n2)，X,Y獨(dú)立，則概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)**定理2：設(shè)(X1,X2,…,Xn1)是N(μ1,σ12)的樣本，(Y1,Y2,…,Yn2)是N(μ2,σ22)的樣本，且相互獨(dú)立，S12，S22是樣本方差，則概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)分位數(shù)問(wèn)題：概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第五節(jié)通過(guò)樣本，估計(jì)總體（一）

——估計(jì)量的特征5.1無(wú)偏性5.2有效性5.3一致性所謂估計(jì)量的特性指的是衡量一個(gè)統(tǒng)計(jì)量用以估計(jì)總體參數(shù)的好壞標(biāo)準(zhǔn)。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)5.1無(wú)偏性估計(jì)量的觀察或試驗(yàn)的結(jié)果，估計(jì)值可能較真實(shí)的參數(shù)值偏大或偏小，而一個(gè)好的估計(jì)量不應(yīng)總是偏大或偏小，在多次試驗(yàn)中所得的估計(jì)量的平均值應(yīng)與真實(shí)參數(shù)吻合，這就是無(wú)偏性所要求的。是一個(gè)隨機(jī)變量，對(duì)一次具體定義是

的一個(gè)估計(jì)量，如果則稱(chēng)是

的一個(gè)無(wú)偏估計(jì)。如果不是無(wú)偏的，，就稱(chēng)該估計(jì)是有偏的。稱(chēng)為的偏差。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)5.2有效性（最小方差性、最優(yōu)性）總體某個(gè)參數(shù)的無(wú)偏估計(jì)量往往不只一個(gè)，而且無(wú)偏性?xún)H僅表明的所有可能的取值按概率平均（均值）等于，它的可能取值可能大部分與相差很大。為保證的取值能集中于附近，必須要求的方差越小越好。所以，提出有效性標(biāo)準(zhǔn)。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)有效性（最小方差性、最優(yōu)性）定義對(duì)于參數(shù)

的無(wú)偏估計(jì)量，其取值應(yīng)在真值附近波動(dòng)，我們希望它與真值之間的偏差越小越好。定義設(shè)均為未知參數(shù)

的無(wú)偏估計(jì)量，若則稱(chēng)比有效。在

的所有無(wú)偏估計(jì)量中，若估計(jì)量，則稱(chēng)是具有最小方差的無(wú)偏顯然也是最有效的無(wú)偏估計(jì)量，簡(jiǎn)稱(chēng)有效估計(jì)量。為最小方差無(wú)偏估計(jì)量。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)無(wú)偏有效估計(jì)量的意義一個(gè)無(wú)偏有效估計(jì)量的取值在可能范圍內(nèi)最密集于真值附近。換言之，它以最大的概率保證估計(jì)量的取值在真值附近擺動(dòng)。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第六節(jié)通過(guò)樣本，估計(jì)總體（二）

——估計(jì)方法點(diǎn)估計(jì)——普通最小二乘法所謂點(diǎn)估計(jì)就是給出被估計(jì)參數(shù)的一個(gè)特定的估計(jì)值。區(qū)間估計(jì)——概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)區(qū)間估計(jì)的概念所謂區(qū)間估計(jì)就是以一定的可靠性給出被估計(jì)參數(shù)的一個(gè)可能的取值范圍。具體做法是找出兩個(gè)統(tǒng)計(jì)量與，使稱(chēng)為置信區(qū)間，稱(chēng)為置信系數(shù)（置信度），稱(chēng)為冒險(xiǎn)率（測(cè)不準(zhǔn)的概率），一般取5%或1%。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)對(duì)區(qū)間估計(jì)的形象比喻我們經(jīng)常說(shuō)某甲的成績(jī)“大概80分左右”，可以看成一個(gè)區(qū)間估計(jì)問(wèn)題。（某甲的成績(jī)?yōu)楸还烙?jì)的參數(shù)）下限上限大概80分左右置信系數(shù)（大概準(zhǔn)確的程度）冒險(xiǎn)率（顯著性水平）Ｐ（７５＜８０＜８５）＝９５％＝１－５％概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)區(qū)間估計(jì)的步驟找一個(gè)含有該參數(shù)的統(tǒng)計(jì)量；構(gòu)造一個(gè)概率為的事件；通過(guò)該事件的概率解出該參數(shù)的區(qū)間估計(jì)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)關(guān)于區(qū)間估計(jì)的說(shuō)明在進(jìn)行區(qū)間估計(jì)時(shí)，應(yīng)針對(duì)不同的情況，采用不同的方法。例如分清分布的形式是已知還是未知；是大樣本還是小樣本；小樣本又得分清是已知方差還是未知方差。充分利用分布信息可以得到較精確的估計(jì)。一般地，越大置信度越低，反之則反。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第六節(jié)通過(guò)樣本，估計(jì)總體（三）

——假設(shè)檢驗(yàn)概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)1.假設(shè)檢驗(yàn)的定義設(shè)總體X的分布函數(shù)F(x,)的形式已知，但是其中的參數(shù)未知?，F(xiàn)在對(duì)參數(shù)提出假設(shè)：，然后利用樣本值對(duì)這個(gè)假設(shè)作出檢驗(yàn)，判斷其真?zhèn)?，這就是參數(shù)的假設(shè)檢驗(yàn)。設(shè)總體X的分布函數(shù)形式未知，現(xiàn)在假設(shè)它的分布函數(shù)為某個(gè)指定函數(shù)，然后利用樣本信息進(jìn)行檢驗(yàn)，判斷其真?zhèn)?，這就是非參數(shù)的假設(shè)檢驗(yàn)。一般研究參數(shù)的假設(shè)檢驗(yàn)問(wèn)題。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)2.原假設(shè)與備擇假設(shè)原假設(shè)：是我們進(jìn)行統(tǒng)計(jì)假設(shè)檢驗(yàn)欲確定其是否成立的假設(shè)——體現(xiàn)進(jìn)行假設(shè)檢驗(yàn)的目的，而且往往是希望否定這個(gè)假設(shè)，一般用H0表示。備擇假設(shè)：是原假設(shè)的對(duì)立面，統(tǒng)計(jì)假設(shè)檢驗(yàn)是二擇一的判斷，當(dāng)原假設(shè)不成立時(shí)，不得不接受它，一般用H1表示。概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)3.顯著性水平

：顯著性水平可以理解為事件顯著不可能發(fā)生的水平；可以理解為原假設(shè)的數(shù)值與真實(shí)值顯著差異大小的水平；是小概率事件；是指犯“第一類(lèi)錯(cuò)誤”（原假設(shè)）的可能性；一般取值很小，0.1