數(shù)理統(tǒng)計復習總結

1、1統(tǒng)計量與抽樣分布則 T(X1,X2,，Xn)即為統(tǒng)計量1.1基本概念：統(tǒng)計量、樣本矩、經(jīng)驗分布函數(shù) 總體X的樣本X1, X2,，Xn,樣本均值樣本方差s2修正樣本方差*2n樣本k階原點矩Ak樣本k階中心矩Bk經(jīng)驗分布函數(shù)Fn(X)(Xi2X)(Xi1Xik,(k2X)1,2,.)(Xi X)k,(k1,2,.)其中Vn(X)表示隨機事件X顯然 Vn(x) B(n, F(x)，則有 EFn(x)1F(x) DFn(x)-F(X)1nx出現(xiàn)的次數(shù)F(x)補充:ES； n1DXn*2ESnDX2EXDX (EX)2 1n22SnXi Xn i1二項分布B(n ,p):PXkkCn Pkn k(1

2、P) ,(kEX=np DX=n p(1-p)泊松分布P():PXkke,(k0,1,.)k!EXDX1均勻分布U(a,b):f(x)-,(ax b)b aab12EX 一DX(ba)212指數(shù)分布f (x) ex,(x0)F(x) 1 e20,1,., n)x,(x0)EX - DX &正態(tài)分布N(2): f(x)；exX(x )2 2EXDXE(聲nES：0時,EX1.2統(tǒng)計量：充分統(tǒng)計量、T是B的充分統(tǒng)計量T是B的完備統(tǒng)計量0 EX2D(彎)EX432(n1)DS；2(n 1)2nEXD X (1因子分解定理、完備統(tǒng)計量、指數(shù)型分布族f(X1,X2,.,XnTt)與B 無關要使

3、Eg(T)=0,必有 g(T)=0nL( )f(Xi； )h(X1,X2,.,Xn)g(T(X1,X2,.,Xn)；)且 h非負 T 是9 的充分統(tǒng)計量i 1nf (Xi; ) C( )exp b( )T(X1, X2,., Xn)h(X1,X2,., Xn)T 是 B 的充分完備統(tǒng)計量i 1nf(Xi； ) C( ) exp b!( )T1(X1,X2,.,Xn) b2( )丁2(為，X2,., Xn) h(X1, X2,., Xn)i 12分布：2 X12 X；x；2(n)f(X)e22 ©2X2 (X0)(T1,T2)是(1, 2)的充分完備統(tǒng)計量1.3抽樣分布：2分布，t分布

4、，F(xiàn)分布，分位數(shù)，正態(tài)總體樣本均值和方差的分布，非正態(tài)總體樣本均值的分布2 2E n D 2nDTX/1F F(n2, nJF分布：FYn1 F(n1, “2)補充：2Z=X+Y的概率密度fz(z)f (x, z x)dxT分布：TY/nt(n)當n>2時,ET=0合概率密度f (z y, y)dy f(x,y)是 X 和 Y 的聯(lián)YZX的概率密度fz(z)f (x, xz) xdxy g(x)的概率密度 fy(y)fx(g 1(y)g 1(y)'函數(shù)：()xdx (1)()(n) (n 1)!, (1) 1B 函數(shù)：B( , )0x 1(1 x) 1dx B(1.4次序統(tǒng)計量及

5、其分布：次序統(tǒng)計量、樣本中位數(shù)X、樣本極差RX(k)的分布密度：fX(k)(X)(k 1)!(nk)!1X(1)的分布密度：fx(1)(X)n f(x)1 F(x)X(n)的分布密度：fX(n)(X)n f(x)F(x)n12參數(shù)估計n 12.1點估計與優(yōu)良性：概念、 計F(x)k11 F(x)n kf(x),(k1,2,., n)的均方誤差：MSE(,)E()2D(E)2若是無偏估計，則MSE(,)D對于的任意一個無偏估計量*有DD*，貝U 是的最小方差無偏估計，記MVUE相合估計(一致估計):lim E n nlim Dnn0無偏估計、均方誤差準則、相合估計(致估計)、漸近正態(tài)估2.2點估

6、計量的求法：矩估計法、最大似然估計法 矩估計法： 求出總體的k階原點矩：ak EXkxkdF(x; 1, 2,., m)1 n解方程組 akXik (k=1,2,.,m)，得 kk(X1,X2,.,Xn)即為所求n i 1最大似然估計法:寫出似然函數(shù)L()f(Xi；i 1)，求出lnL及似然方程In Li0 i=1,2,.,m 解似然方程得到i(X1,X2,.,Xn)，即最大似然估計i (X1, X2,., Xn ) i=1,2,.,m補充:似然方程無解時，求出的定義域中使得似然函數(shù)最大的值，即為最大似然估計2.3MVUE和有效估計：最小方差無偏估計、有效估計*T是 的充分完備統(tǒng)計量，是 的一

7、個無偏估計E( |T)為 的惟一的MVUE最小方差無偏估計的求解步驟： 求出參數(shù)的充分完備統(tǒng)計量 T 求出ET g()，則 g 1(T)是 的一個無偏估計或求出一個無偏估計，然后改寫成用T表示的函數(shù)1 1 綜合，Eg (T)T g (T)是 的 MVUE是的最大似然估計，且是的充分統(tǒng)計量的有效估計2.4區(qū)間估計：概念、正態(tài)總體區(qū)間估計(期望、方差、均值差、方差比態(tài)總體參數(shù)和區(qū)間估計)及單側估計、非正一個總體的情況：XN(2)2已知，求的置信區(qū)間:X° N(0,1)一 no未知，求的置信區(qū)間:決t(n 1)*勺 t_(n:n 21)已知，求2的置信區(qū)間:n(Xi)i 1(n)(Xi)i

8、 1n(Xi )i 1未知，求2的置信區(qū)間:(Xi X)22(nn(Xi1) ：(n 1)2X)2：(n)212)2n(Xii 1_r_(n 1)1 2X)2或者:求出的矩估計或ML估計，再求效率，為 1則必為MVUET是g()的一個無偏估計，g (則滿足信息不等式DT(X)川()2，其I( ) Elnf(X;) 2或 1()Eln f(； )0，f(X;)為樣本的聯(lián)合分布。最小方差無偏估計達到羅-克拉姆下界有效估計量效率為1無偏估計的效率:：e()nl().D2 2兩個總體的情況：XN( 1, 1 ) , YN( 2, 2)12 的 區(qū) 間 估 計Y ( 1.；n：,I 2)2n2 N(0,

9、1)2)21n122u22未知時,2的區(qū)間估計:2未知時,*2S2n2*2S1n12)ri| n2 (n-i n2 2)1曲(n 1嘅 t(nin2nin22)21"2221221,ni1)2S n1S2n2_(n2 1,m21)2122*2S1F (n2 1,n1 1)S2n2 彳非正態(tài)總體的區(qū)間估計:Y 當n時，LnN(0,1)|計魚1n Sn 1,故用Sn代替3-1n1 mAm1-n nn N(0,1)3統(tǒng)計決策與貝葉斯估計3.1統(tǒng)計決策的基本概念：三要素、統(tǒng)計決策函數(shù)及風險函數(shù)三要素：樣本空間和分布族、行動空間(判決空間)、損失函數(shù)L( ,d)統(tǒng)計決策函數(shù)d(X):本質(zhì)上是一

10、個統(tǒng)計量，可用來估計未知參數(shù)風險函數(shù)：R( ,d) E L( ,d(X)是關于 的函數(shù)3.2貝葉斯估計：先驗分布與后驗分布、貝葉斯風險、貝葉斯估計 求樣本X=(X 1 ,X2,.,Xn)的分布：q(x|f (Xi |1 樣本X與 的聯(lián)合概率分布：f(x,)h(|x)m(x) q(x| )() 求f(x,)關于x的邊緣密度m(x) f (x, )d的后驗密度為h( |x)鬻取 L( ,d)( d)2 時C()的貝葉斯估計：取損失函數(shù)L( ,d)(C( ) d)2，則貝葉斯估計為C( )EC()|xC( )h( |x)dE( |x) h( |x)df(x,) m(x)f(x, )df(x, )d的

11、貝葉斯估計為：E( |x)h( |x)dR( ,d) E ( d)2貝葉斯風險為：RB(d) ER( ,d) E ( d)2h( |x)d取 L( ,d)()(d)2時，貝葉斯估計為：E()兇E ( )|x補充:3.3minimax 估計對決策空間中的決策函數(shù)di(X),d2(X),，分別求出在上的最大風險值maxR( ,d)在所有的最大風險值中選取相對最小值，此值對應的決策函數(shù)就是最小最大決策函數(shù)。4假設檢驗4.1基本概念：零假設(Ho)與備選假設(Hi)、檢驗規(guī)則、兩類錯誤、勢函數(shù) 零假設通常受到保護，而備選假設是當零假設被拒絕后才能被接受。檢驗規(guī)則：構造一個統(tǒng)計量 T(Xi,X2,.,X

12、3)，當Ho服從某一分布，當 Ho不成立時，T的偏大 偏小特征。據(jù)此，構造拒絕域W第一類錯誤(棄真錯誤):PT W| Ho 為真第二類錯誤(存?zhèn)五e誤):PT W|Ho 為假勢函數(shù)：()E (X) PX W (X)1, XWo, XW當0時，()為犯第一類錯誤的概率4.2正態(tài)總體均值與方差的假設檢驗:t檢驗、X2檢驗、F檢驗、單邊檢驗一個總體的情況:N(2)2已知，檢驗Ho：Hi :X o-nN(o,i)2未知，檢驗Ho：Hi :Xo t(n i) q 、n已知，檢驗Ho：Hi：n(Xi )2i i22(n)未知，檢驗Ho：Hi：n2(Xi X)i i(n 1)兩個總體的情況:N(i2)，N(2

13、未知時，檢驗Ho： iHi：ngg n?2)*2 *2ni i)Sini(n2 i)S2n,nin22未知時，檢驗H o：2 Hi：i2單邊檢驗：舉例說明,2已知，檢驗Ho：Hi :構造Ui N(o,i)，給定顯著性水平立時UiXdef3 U，因此PU o n為W U u t(mn22)*2SiniF(nS2n2hli)，有 PUiu PUi4.3非參數(shù)假設檢驗方法：2擬合優(yōu)度檢驗、科爾莫戈羅夫檢驗、斯米爾諾夫檢驗2m擬合優(yōu)度檢驗：H o ： PiPioHi : Pipio(Ni n p。)2nPio。當Ho成。故拒絕域2(m r i)其中Ni表示樣本中取值為i的個數(shù)，r表示分布中未知參數(shù)的個

14、數(shù)科爾莫戈羅夫檢驗：H°:F(x) F°(x)Hi：F(x) F°(x)實際檢驗的是 Fn(x) F°(x)構造似然比:L,X1，Xn)Lo(X1，,Xn)SUpL(X1，Xn；)SUpL(X1，Xn：)0拒絕域：W (Xi，,Xn)WlimnsupXFn(x)Fo(x)Dn, 斯米爾諾夫檢驗：HoF(x)G(x)H1:F(x)G(X)實際檢驗的是Fn(X) Gn(x)4.4似然比檢驗WlimnsupXFm(X)Gn2(x)Dm?，明確零假設和備選假設：Ho0H1 :1i數(shù)學模型jjN(0, 2)各耳相互獨立5方差分析5.1單因素方差分析：數(shù)學模型、離差

15、平方和分解、顯著性檢驗、參數(shù)估計ijXij,(i=1,2,.,m;j=1,2,.,n i) H 0：ni總離差平方和Qt(Xij X)2j 1QtQeQa組內(nèi)離差平方和Qeni_(Xij Xi)2j 1QeE產(chǎn))n r組間離差平方和n(Xi X)2當Ho成立時,E(牛)r 1構造統(tǒng)計量QA(r1)Qe(n r)魚F(rQe1,nr)，當Ho不成立時，有偏大特征Xi XkN(2)且2(n r)T XiXk ( i-)Qeni 氐k) t(n r)應用:若原始數(shù)據(jù)比較大而且集中，可減去同一數(shù)值 Xj Xij k再解題m 門)mqm 門)輔助量：P 1( XQ2,Q -( Xj)2,RXj2n i

16、i j ii i n i j ii i j iQA Q P,Qe R Q,QtXij數(shù)學模型jj各ii2 N(0,)ij相互獨立ij,(i=12,r;j=1,2,s)Hoi :1H02 :1總離差平方和r sQt(Xji 1 j 1X)2QtQeQBQa5.2兩因素方差分析：數(shù)學模型、離差平方和分解、顯著性檢驗mni(XjXi? X?j Xi)22n2n組內(nèi)離差平方和qeQej iE(r i)(si)QB當H0成立時，E()s 因素B引起的離差平方和QBr(X?j X)2j i因素A引起的離差平方和QAs( Xi?X)2當Ho成立時,1)輔助量：pXjj i,QiXjXji 1,RsX2ijj

17、 1QA QI p, QB QIIp,qe r qiqii構造統(tǒng)計量:FAFBQa (r 1)Qe (r 1)(s 1)QB (s 1)Qe (r 1)(s 1)Qa F(r - F(r1,(r1)(s1)qeQa f (s F(s1,(r1)(s1)qe6回歸分析6.1 一元線性回歸：回歸模型、未知參數(shù)的估計(T 2 (T *2)(B、a、b 2)、參數(shù)估計量的分布(3 a Y0Yxii2回歸模型： iN(0,)i=1,2,n.各i相互獨立(,)的估計：n(x X)(Yi 1Y)N(,(Xi 11N(，-ni 1)x)2(X)2 2)(Xi X)2n(Xi X)2i 1Y X(,)分布：2 22的估計：1 n - 2 2 -(Y Y)1 n(xX)2)s：y2s2xn i 1n i 12 n 2 2*22E2 En6.2多元線性回歸:V:回歸模型、參數(shù)估計、V分布回歸模型：i,xii2N(0,In) i=1,2,n.各i相互獨立參數(shù)估計：XtY (XtX)(XtX) 1xty7多元分析初步