概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)

1、概率與數(shù)理統(tǒng)計(jì)基礎(chǔ)第1頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四 概率論與數(shù)理統(tǒng)計(jì)是研究和揭示隨機(jī)現(xiàn)象統(tǒng)計(jì)規(guī)律性的數(shù)學(xué)分支。主要包括：隨機(jī)事件和概率、隨機(jī)變量的分布和數(shù)字特征、中心極限定理和大數(shù)定理、抽樣分布、統(tǒng)計(jì)估計(jì)、假設(shè)檢驗(yàn)、回歸分析等。第2頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四主要內(nèi)容1.基本概念2.對(duì)總體的描述隨機(jī)變量的數(shù)字特征3.對(duì)樣本的描述樣本分布的數(shù)字特征4.隨機(jī)變量的分布5.通過(guò)樣本，估計(jì)總體估計(jì)量的特征6.通過(guò)樣本，估計(jì)總體估計(jì)方法7.通過(guò)樣本，估計(jì)總體假設(shè)檢驗(yàn)第3頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第一節(jié) 基本概念總體和個(gè)體樣本

2、和樣本容量隨機(jī)變量統(tǒng)計(jì)量第4頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四1.1總體、個(gè)體、樣本和樣本容量研究對(duì)象的全體稱(chēng)為總體或母體，通常指研究對(duì)象的某項(xiàng)數(shù)量指標(biāo)；組成總體的每個(gè)基本單位稱(chēng)為個(gè)體。從總體X中抽出若干個(gè)個(gè)體稱(chēng)為樣本，一般記為(X1,X2,Xn)。n稱(chēng)為樣本容量。而對(duì)這n個(gè)個(gè)體的一次具體的觀察結(jié)果(x1,x2,xn)是完全確定的一組數(shù)值，但它又隨著每次抽樣觀察而改變。(x1,x2,xn)稱(chēng)為樣本觀察值。 注意：抽樣是按隨機(jī)原則選取的，即總體中每個(gè) 個(gè)體有同樣的機(jī)會(huì)被選入樣本。第5頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四 當(dāng)人們?cè)谝欢l件下對(duì)某一現(xiàn)象加以觀察時(shí)

3、，觀察到的結(jié)果是多個(gè)可能結(jié)果中的某一個(gè)，且在每次觀察前都無(wú)法預(yù)知觀測(cè)結(jié)果到底是哪一個(gè)，即結(jié)果的出現(xiàn)呈現(xiàn)出偶然性，但是所有可能出現(xiàn)的結(jié)果是知道的。 隨機(jī)現(xiàn)象具有偶然性一面，也有必然性一面。偶然性一面表現(xiàn)在“對(duì)隨機(jī)現(xiàn)象做一次觀測(cè)時(shí)，觀測(cè)結(jié)果具有偶然性(不可預(yù)知性)” ；必然性一面表現(xiàn)在“對(duì)隨機(jī)現(xiàn)象進(jìn)行大量重復(fù)觀測(cè)，觀測(cè)結(jié)果有一定的規(guī)律性，亦即統(tǒng)計(jì)規(guī)律性”。 具有不確定性(或隨機(jī)性、偶然性)的現(xiàn)象稱(chēng)為隨機(jī)現(xiàn)象。特點(diǎn)：隨機(jī)現(xiàn)象定義：第6頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四隨機(jī)試驗(yàn)舉例： E1: 擲一顆骰子，觀察所擲的點(diǎn)數(shù)是幾； E2: 觀察某城市某個(gè)月內(nèi)交通事故發(fā)生的次數(shù)； E3:

4、對(duì)某只燈泡做試驗(yàn),觀察其使用壽命； E4: 對(duì)某只燈泡做試驗(yàn),觀察其使用壽命是否小 于200小時(shí)。在實(shí)際問(wèn)題中，隨機(jī)試驗(yàn)的結(jié)果可以用數(shù)量來(lái)表示，由此就產(chǎn)生了隨機(jī)變量的概念第7頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四 有些試驗(yàn)結(jié)果本身與數(shù)值有關(guān)（本身就是一個(gè)數(shù)）. 例如，擲一顆骰子面上出現(xiàn)的點(diǎn)數(shù)； 七月份濟(jì)南的最高溫度；每天從濟(jì)南下火車(chē)的人數(shù)；昆蟲(chóng)的產(chǎn)卵數(shù)；它隨試驗(yàn)結(jié)果的不同而取不同的值，因而在試驗(yàn)之前只知道它可能取值的范圍，而不能預(yù)先肯定它將取哪個(gè)值。由于試驗(yàn)結(jié)果的出現(xiàn)具有一定的概率，于是這種實(shí)值函數(shù)取每個(gè)值和每個(gè)確定范圍內(nèi)的值也有一定的概率。第8頁(yè)，共54頁(yè)，2022年，5月2

5、0日，6點(diǎn)3分，星期四1.2 隨機(jī)變量根據(jù)概率不同而取不同數(shù)值的變量稱(chēng)為隨機(jī)變量。一個(gè)隨機(jī)變量具有這樣的特性：可以取許多不同的數(shù)值，取每一個(gè)數(shù)值都有相應(yīng)的概率p,0 p1。第9頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四總體、隨機(jī)變量、樣本間的聯(lián)系樣本就是一個(gè)隨機(jī)變量，所謂“樣本容量為n的樣本”就是n個(gè)相互獨(dú)立且與總體有相同分布的隨機(jī)變量X1,X2,Xn每一次具體抽樣所得的數(shù)據(jù)，就是n元隨機(jī)變量的一個(gè)觀察值，記為X1,X2,Xn樣本是總體的一部分?？傮w一般是未知的。一般要通過(guò)樣本才能部分地推知總體的情況。第10頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四1.3 統(tǒng)計(jì)量由樣本

6、值去推斷總體情況，需要對(duì)樣本值進(jìn)行“加工”，這就要構(gòu)造一些樣本的函數(shù)，它把樣本中所含的（某一方面）的信息集中起來(lái)。設(shè)(x1,x2,xn)為一組樣本觀察值，函數(shù)y=f (x1,x2,xn)若不含有未知參數(shù)，這種不含任何未知參數(shù)的樣本的函數(shù)稱(chēng)為統(tǒng)計(jì)量。它是完全由樣本決定的量。統(tǒng)計(jì)量既然是依賴(lài)于樣本的，而后者又是隨機(jī)變量，故統(tǒng)計(jì)量也是隨機(jī)變量。幾個(gè)常見(jiàn)統(tǒng)計(jì)量樣本均值：樣本方差：第11頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第二節(jié) 對(duì)總體的描述隨機(jī)變量的數(shù)字特征2.1 數(shù)學(xué)期望2.2 方差2.3協(xié)方差第12頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四2.1.1 數(shù)學(xué)期望：實(shí)際上

7、就是一個(gè)加權(quán)平均值，描述隨機(jī)變量的集中程度。數(shù)學(xué)期望描述隨機(jī)變量（總體）的一般水平。定義1離散型隨機(jī)變量數(shù)學(xué)期望的定義 假定有一個(gè)離散型隨機(jī)變量X有n個(gè)不同的可能取值x1,x2,xn，而p1,p2,pn是X取這些值相應(yīng)的概率，則這個(gè)隨機(jī)變量X的數(shù)學(xué)期望定義如下：第13頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四定義2連續(xù)型隨機(jī)變量數(shù)學(xué)期望的定義第14頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四2.1.2數(shù)學(xué)期望的性質(zhì)：（1）如果a、b為常數(shù)，則 E(aX+b)=aE(X)+b（2）如果X、Y為兩個(gè)隨機(jī)變量，則 E(X+Y)=E(X)+E(Y)（3）如果g(x)和f(x)分別

8、為X的兩個(gè)函數(shù)，則 Eg(X)+f(X)=Eg(X)+Ef(X)（4）如果X、Y是兩個(gè)獨(dú)立的隨機(jī)變量，則 E(X.Y)=E(X).E(Y) 第15頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四2.2.1方差的定義離均差的定義若隨機(jī)變量X的數(shù)學(xué)期望E(X)存在，稱(chēng)X- E(X)為隨機(jī)變量X的離均差。方差的定義 離均差的平方的數(shù)學(xué)期望。設(shè)X是隨機(jī)變量，若EX-EX2存在，則稱(chēng)EX-EX2為隨機(jī)變量X的方差，記為D(X)或Var(X)，即 D(X)=EX-EX2 方差的算術(shù)平方根稱(chēng)為隨機(jī)變量X的均方差或標(biāo)準(zhǔn)差。第16頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四2.2.2方差的意義離

9、均差和方差都是用來(lái)描述隨機(jī)變量離散程度的，即描述x對(duì)于它的數(shù)學(xué)期望的偏離程度，這種偏差越大，表明變量的取值越分散。一般情況下，常用方差來(lái)描述離散程度。因?yàn)殡x均差的和為零，無(wú)法體現(xiàn)隨機(jī)變量的總離散程度。事實(shí)上正偏差大或負(fù)偏差大，同樣是離散程度大。方差中由于有了平方，從而消除了正負(fù)號(hào)的影響，并易于加總，也易于強(qiáng)調(diào)大的偏離程度的突出作用。第17頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四2.2.3方差的性質(zhì)：（1）Var(c )=0（2）Var(c+x)=Var(x )（3）Var(cx)=c2Var(x)（4） Var(x-y)= Var(x )+Var(y )-2cov(x,y)Var

10、(x+y)= Var(x )+Var(y )+2cov(x,y)（5）Var(a+bx)=b2Var(x)（6）a,b為常數(shù)，x,y為兩個(gè)相互獨(dú)立的隨機(jī)變量，則Var(ax+by)=a2Var(x)+b2Var(y)（7）Var(x)=E(x2)-(E(x)2第18頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四 2.3協(xié)方差Cov(X,Y)=E(X-EX)(Y-EY)Cov(X,Y)=E(XY)- E(X) E(Y)（積的期望減期望的積）第19頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第三節(jié) 對(duì)樣本的描述樣本分布的數(shù)字特征樣本均值 反映樣本集中程度 樣本方差樣本標(biāo)準(zhǔn)差描述樣

11、本離散程度第20頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第四節(jié) 隨機(jī)變量的分布4.1 正態(tài)分布4.2 t分布4.3 卡方分布4.4 F分布第21頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四4.1 正態(tài)分布第22頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四正態(tài)分布圖形第23頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四標(biāo)準(zhǔn)正態(tài)分布 根據(jù)以上定理，可以將任何一個(gè)正態(tài)分布化為標(biāo)準(zhǔn)正態(tài)分布，即將其標(biāo)準(zhǔn)化。第24頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四標(biāo)準(zhǔn)正態(tài)分布圖形第25頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四標(biāo)準(zhǔn)正態(tài)分布的分位數(shù)(

12、臨界值) 在實(shí)際問(wèn)題中， 常取0.1、0.05、0.01.z0.05 =1.645 z0.01 =2.326 z0.01/2=2.575 z0.05/2=1.96第26頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四4.2t分布定理1：若XN(0, 1)，Y2(n)，X與Y獨(dú)立，則定理2：設(shè)(X1,X2,Xn)是正態(tài)總體N(,2)的簡(jiǎn)單隨機(jī)樣本，則第27頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四性質(zhì): (1) f(x)關(guān)于x=0(縱軸)對(duì)稱(chēng)。 (2) f(x)的極限為N(0，1)的密度函數(shù)，即 當(dāng)n較大時(shí)， t分布近似于標(biāo)準(zhǔn)正態(tài)分布.第28頁(yè)，共54頁(yè)，2022年，5月20日

13、，6點(diǎn)3分，星期四第29頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四來(lái)定義.其中伽瑪函數(shù) 通過(guò)積分若隨機(jī)變量X的概率密度為那么稱(chēng)X服從自由度為n的 分布記作：4.3 分布第30頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四 2分布的密度函數(shù)的圖形如右圖.應(yīng)用中心極限定理可得， ，則當(dāng)n充分大時(shí)若的分布近似正態(tài)分布N(0,1).則可以求得， E(X)=n, Var(X)=2n若若X1,X2,Xn相互獨(dú)立，且XiN(0,1) ，則性質(zhì)1：性質(zhì)2：第31頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第32頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四則稱(chēng)X服從自由度

14、為n1和n2的F分布。n1稱(chēng)第一自由度， n2稱(chēng)第二自由度。定義：若隨機(jī)變量 X的密度函數(shù)為4.4 F分布第33頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四定理1 若X2(n1)，Y2(n2) ，X,Y獨(dú)立，則第34頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四*定理2：設(shè)(X1,X2,Xn1)是N(1,12)的樣本，(Y1,Y2,Yn2)是N(2,22)的樣本，且相互獨(dú)立，S12，S22是樣本方差，則第35頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四分位數(shù)問(wèn)題：第36頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第37頁(yè)，共54頁(yè)，2022年，5月20日，

15、6點(diǎn)3分，星期四第五節(jié) 通過(guò)樣本，估計(jì)總體（一）估計(jì)量的特征5.1 無(wú)偏性5.2 有效性5.3 一致性所謂估計(jì)量的特性指的是衡量一個(gè)統(tǒng)計(jì)量用以估計(jì)總體參數(shù)的好壞標(biāo)準(zhǔn)。第38頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四5.1 無(wú)偏性估計(jì)量的觀察或試驗(yàn)的結(jié)果，估計(jì)值可能較真實(shí)的參數(shù)值偏大或偏小，而一個(gè)好的估計(jì)量不應(yīng)總是偏大或偏小，在多次試驗(yàn)中所得的估計(jì)量的平均值應(yīng)與真實(shí)參數(shù)吻合，這就是無(wú)偏性所要求的。 是一個(gè)隨機(jī)變量，對(duì)一次具體定義是的一個(gè)估計(jì)量，如果 則稱(chēng)是的一個(gè)無(wú)偏估計(jì)。如果不是無(wú)偏的， ，就稱(chēng)該估計(jì)是有偏的。 稱(chēng)為的偏差。第39頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四

16、5.2 有效性（最小方差性、最優(yōu)性）總體某個(gè)參數(shù) 的無(wú)偏估計(jì)量往往不只 一個(gè)，而且無(wú)偏性?xún)H僅表明 的所有可能的取值按概率平均（均值）等于，它的可能取值可能大部分與相差很大。為保證的取值能集中于附近，必須要求的方差越小越好。所以，提出有效性標(biāo)準(zhǔn)。第40頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四有效性（最小方差性、最優(yōu)性）定義對(duì)于參數(shù)的無(wú)偏估計(jì)量，其取值應(yīng)在真值附近波動(dòng)，我們希望它與真值之間的偏差越小越好。 定義 設(shè)均為未知參數(shù)的無(wú)偏估計(jì)量，若則稱(chēng)比有效。在的所有無(wú)偏估計(jì)量中，若估計(jì)量，則稱(chēng)是具有最小方差的無(wú)偏顯然也是最有效的無(wú)偏估計(jì)量，簡(jiǎn)稱(chēng)有效估計(jì)量。為最小方差無(wú)偏估計(jì)量。第41頁(yè)，

17、共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四無(wú)偏有效估計(jì)量的意義一個(gè)無(wú)偏有效估計(jì)量的取值在可能范圍內(nèi)最密集于真值附近。換言之，它以最大的概率保證估計(jì)量的取值在真值附近擺動(dòng)。第42頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第六節(jié) 通過(guò)樣本，估計(jì)總體（二）估計(jì)方法點(diǎn)估計(jì)普通最小二乘法 所謂點(diǎn)估計(jì)就是給出被估計(jì)參數(shù)的一個(gè)特定的估計(jì)值。區(qū)間估計(jì)第43頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四區(qū)間估計(jì)的概念所謂區(qū)間估計(jì)就是以一定的可靠性給出被估計(jì)參數(shù)的一個(gè)可能的取值范圍。具體做法是找出兩個(gè)統(tǒng)計(jì)量 與 ，使 稱(chēng)為置信區(qū)間， 稱(chēng)為置信系數(shù)（置信度）， 稱(chēng)為冒險(xiǎn)率（測(cè)不準(zhǔn)的概率）

18、，一般取5% 或1%。第44頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四對(duì)區(qū)間估計(jì)的形象比喻我們經(jīng)常說(shuō)某甲的成績(jī)“大概80分左右”，可以看成一個(gè)區(qū)間估計(jì)問(wèn)題。（某甲的成績(jī) 為被估計(jì)的參數(shù)）下限上限大概80分左右置信系數(shù)（大概準(zhǔn)確的程度）冒險(xiǎn)率（顯著性水平）（）第45頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四區(qū)間估計(jì)的步驟找一個(gè)含有該參數(shù)的統(tǒng)計(jì)量；構(gòu)造一個(gè)概率為的事件；通過(guò)該事件的概率解出該參數(shù)的區(qū)間估計(jì)第46頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四關(guān)于區(qū)間估計(jì)的說(shuō)明在進(jìn)行區(qū)間估計(jì)時(shí)，應(yīng)針對(duì)不同的情況，采用不同的方法。例如分清分布的形式是已知還是未知；是大樣本

19、還是小樣本；小樣本又得分清是已知方差還是未知方差。充分利用分布信息可以得到較精確的估計(jì)。一般地，越大置信度越低，反之則反。第47頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四第六節(jié) 通過(guò)樣本，估計(jì)總體（三）假設(shè)檢驗(yàn)第48頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四1.假設(shè)檢驗(yàn)的定義設(shè)總體X的分布函數(shù)F(x, )的形式已知，但是其中的參數(shù) 未知?，F(xiàn)在對(duì)參數(shù)提出假設(shè)： ，然后利用樣本值對(duì)這個(gè)假設(shè)作出檢驗(yàn)，判斷其真?zhèn)危@就是參數(shù)的假設(shè)檢驗(yàn)。設(shè)總體X的分布函數(shù)形式未知，現(xiàn)在假設(shè)它的分布函數(shù)為某個(gè)指定函數(shù) ，然后利用樣本信息進(jìn)行檢驗(yàn)，判斷其真?zhèn)危@就是非參數(shù)的假設(shè)檢驗(yàn)。一般研究參數(shù)的假

20、設(shè)檢驗(yàn)問(wèn)題。第49頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四2.原假設(shè)與備擇假設(shè)原假設(shè)：是我們進(jìn)行統(tǒng)計(jì)假設(shè)檢驗(yàn)欲確定其是否成立的假設(shè)體現(xiàn)進(jìn)行假設(shè)檢驗(yàn)的目的，而且往往是希望否定這個(gè)假設(shè)，一般用H0表示。備擇假設(shè)：是原假設(shè)的對(duì)立面，統(tǒng)計(jì)假設(shè)檢驗(yàn)是二擇一的判斷，當(dāng)原假設(shè)不成立時(shí)，不得不接受它，一般用H1 表示。第50頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，星期四3.顯著性水平：顯著性水平可以理解為事件顯著不可能發(fā)生的水平；可以理解為原假設(shè)的數(shù)值與真實(shí)值顯著差異大小的水平；是小概率事件；是指犯“第一類(lèi)錯(cuò)誤”（原假設(shè)）的可能性；一般取值很小，0.1，0.05，0.01，0.005.第51頁(yè)，共54頁(yè)，2022年，5月20日，6點(diǎn)3分，