理學(xué)概率論與數(shù)理統(tǒng)計教程

[理學(xué)]概率論與數(shù)理統(tǒng)計教程茆詩松匯報人：AA2024-01-19目錄CONTENTS概率論基本概念隨機變量及其分布多維隨機變量及其分布數(shù)理統(tǒng)計基本概念與方法假設(shè)檢驗與方差分析回歸分析初步01概率論基本概念基本事件0102030405所有可能結(jié)果的集合，常用大寫字母S表示。樣本空間的子集，即某些可能結(jié)果的組合。包含樣本空間中所有樣本點的事件。只包含一個樣本點的事件。不包含任何樣本點的事件。樣本空間與事件事件樣本空間不可能事件必然事件描述事件發(fā)生的可能性大小的數(shù)值，常用P(A)表示事件A的概率。非負(fù)性、規(guī)范性（必然事件的概率為1，不可能事件的概率為0）、可加性（互斥事件的概率和等于它們并的概率）。概率定義及性質(zhì)概率性質(zhì)概率定義條件概率與獨立性條件概率在給定另一事件發(fā)生的情況下，某一事件發(fā)生的概率，記作P(A|B)。事件的獨立性如果兩個事件的發(fā)生互不影響，則稱這兩個事件是獨立的。對于獨立事件A和B，有P(A|B)=P(A)和P(B|A)=P(B)。全概率公式貝葉斯公式全概率公式與貝葉斯公式在全概率公式的基礎(chǔ)上，可以推導(dǎo)出貝葉斯公式，用于計算條件概率P(Bi|A)，即已知事件A發(fā)生的條件下，事件Bi發(fā)生的概率。具體表達(dá)式為P(Bi|A)=[P(A|Bi)P(Bi)]/P(A)。如果事件B1,B2,...,Bn構(gòu)成一個完備事件組，且都具有正概率，則對任一事件A，有P(A)=P(A|B1)P(B1)+P(A|B2)P(B2)+...+P(A|Bn)P(Bn)。02隨機變量及其分布定義隨機變量是定義在樣本空間上的實值函數(shù)，它將樣本空間中的每一個樣本點映射到一個實數(shù)。分類隨機變量可分為離散型隨機變量和連續(xù)型隨機變量。離散型隨機變量取值可列，而連續(xù)型隨機變量取值充滿一個區(qū)間。隨機變量定義及分類離散型隨機變量的分布律描述了隨機變量取各個值的概率。分布律定義常見的離散型隨機變量分布有伯努利分布、二項分布、泊松分布等。常見分布離散型隨機變量分布律連續(xù)型隨機變量的概率密度函數(shù)是一個非負(fù)可積函數(shù)，其在某區(qū)間內(nèi)的積分值等于隨機變量落在該區(qū)間內(nèi)的概率。概率密度函數(shù)定義常見的連續(xù)型隨機變量分布有均勻分布、指數(shù)分布、正態(tài)分布等。常見分布連續(xù)型隨機變量概率密度函數(shù)函數(shù)分布定義隨機變量函數(shù)的分布描述了由隨機變量構(gòu)成的函數(shù)的取值概率分布情況。求法求隨機變量函數(shù)的分布通常需要先確定原隨機變量的分布，然后根據(jù)函數(shù)關(guān)系進(jìn)行變換和計算。隨機變量函數(shù)分布03多維隨機變量及其分布二維隨機變量聯(lián)合分布設(shè)$(X,Y)$是二維隨機變量，對于任意實數(shù)$x,y$，二元函數(shù)$F(x,y)=P{(Xleqslantx)cap(Yleqslanty)}$稱為二維隨機變量$(X,Y)$的聯(lián)合分布函數(shù)。聯(lián)合分布函數(shù)如果二維隨機變量$(X,Y)$的聯(lián)合分布函數(shù)$F(x,y)$可微，則稱函數(shù)$f(x,y)$為$(X,Y)$的聯(lián)合概率密度。聯(lián)合概率密度VS二維隨機變量$(X,Y)$關(guān)于$X$的邊緣分布函數(shù)定義為$F_X(x)=F(x,infty)$，關(guān)于$Y$的邊緣分布函數(shù)定義為$F_Y(y)=F(infty,y)$。條件分布函數(shù)設(shè)二維隨機變量$(X,Y)$的聯(lián)合分布函數(shù)為$F(x,y)$，關(guān)于$Y$的邊緣分布函數(shù)為$F_Y(y)$。若對于固定的$y$，$F_Y(y)>0$，則稱$F_{X|Y}(x|y)=frac{F(x,y)}{F_Y(y)}$為在$Y=y$條件下$X$的條件分布函數(shù)。邊緣分布函數(shù)邊緣分布與條件分布如果二維隨機變量$(X,Y)$的聯(lián)合分布函數(shù)等于各自邊緣分布函數(shù)的乘積，即$F(x,y)=F_X(x)F_Y(y)$，則稱隨機變量$X$和$Y$是相互獨立的。如果二維隨機變量$(X,Y)$不是相互獨立的，則稱它們是相關(guān)的?？梢酝ㄟ^計算相關(guān)系數(shù)來衡量它們之間的線性相關(guān)程度。獨立性相關(guān)性獨立性及相關(guān)性多維隨機變量的函數(shù)設(shè)$(X_1,X_2,ldots,X_n)$是$n$維隨機變量，如果存在一個$n$元實值函數(shù)$g(x_1,x_2,ldots,x_n)$，使得$Z=g(X_1,X_2,ldots,X_n)$是一個一維隨機變量，則稱$Z$是$(X_1,X_2,ldots,X_n)$的函數(shù)。要點一要點二多維隨機變量函數(shù)的分布多維隨機變量函數(shù)的分布可以通過求解其分布函數(shù)或概率密度來得到。具體方法包括直接法、變換法和卷積法等。多維隨機變量函數(shù)分布04數(shù)理統(tǒng)計基本概念與方法總體研究對象的全體個體組成的集合，具有共同的分布規(guī)律。樣本從總體中隨機抽取的一部分個體組成的集合，用于推斷總體的性質(zhì)。樣本容量樣本中個體的數(shù)目，對統(tǒng)計推斷的精度和可靠性有重要影響。總體與樣本統(tǒng)計量統(tǒng)計量的性質(zhì)統(tǒng)計量及其性質(zhì)由樣本觀測值計算得到的用于描述樣本特征的量，如樣本均值、樣本方差等。包括無偏性、有效性和一致性等，用于評價統(tǒng)計量的優(yōu)良程度。大數(shù)定律當(dāng)樣本容量足夠大時，樣本均值趨近于總體均值，為統(tǒng)計推斷提供了理論依據(jù)。中心極限定理當(dāng)樣本容量足夠大時，不論總體分布如何，樣本均值的分布近似于正態(tài)分布，為參數(shù)估計和假設(shè)檢驗提供了重要工具。抽樣分布定理點估計用樣本統(tǒng)計量的某個具體數(shù)值來估計總體參數(shù)的方法，如最大似然估計、最小二乘估計等。區(qū)間估計根據(jù)樣本統(tǒng)計量的抽樣分布和概率理論，構(gòu)造出包含總體參數(shù)真值的置信區(qū)間的方法。置信區(qū)間具有概率意義，表示參數(shù)真值落在該區(qū)間內(nèi)的概率大小。參數(shù)估計方法05假設(shè)檢驗與方差分析原假設(shè)與備擇假設(shè)01在假設(shè)檢驗中，原假設(shè)（H0）通常表示總體參數(shù)等于某個特定值或兩個總體參數(shù)相等，而備擇假設(shè)（H1）則表示總體參數(shù)不等于該特定值或兩個總體參數(shù)不相等。檢驗統(tǒng)計量與拒絕域02檢驗統(tǒng)計量是根據(jù)樣本數(shù)據(jù)計算出的用于判斷原假設(shè)是否成立的統(tǒng)計量。拒絕域是檢驗統(tǒng)計量取值的范圍，當(dāng)檢驗統(tǒng)計量落入拒絕域時，我們拒絕原假設(shè)。顯著性水平與第一類錯誤03顯著性水平（α）是事先設(shè)定的一個概率值，用于控制第一類錯誤（即錯誤地拒絕原假設(shè)）的概率。假設(shè)檢驗基本原理用于檢驗單個總體均值是否等于某個特定值。通過計算樣本均值與特定值的差異，并除以樣本標(biāo)準(zhǔn)誤差，得到t統(tǒng)計量。根據(jù)t分布表或計算得到的p值進(jìn)行決策。單樣本t檢驗用于比較兩個獨立樣本或配對樣本的均值是否存在顯著差異。對于獨立樣本t檢驗，需要計算兩個樣本的均值差并除以合并標(biāo)準(zhǔn)誤差；對于配對樣本t檢驗，需要計算每對數(shù)據(jù)的差值均值并除以差值的標(biāo)準(zhǔn)誤差。根據(jù)t分布表或計算得到的p值進(jìn)行決策。雙樣本t檢驗單樣本t檢驗和雙樣本t檢驗F檢驗用于比較兩個或多個總體方差是否存在顯著差異。通過計算各組方差之間的比值，得到F統(tǒng)計量。根據(jù)F分布表或計算得到的p值進(jìn)行決策。χ^2檢驗主要用于檢驗分類變量之間的獨立性或擬合優(yōu)度。通過計算實際觀測值與理論期望值之間的差的平方和，得到χ^2統(tǒng)計量。根據(jù)χ^2分布表或計算得到的p值進(jìn)行決策。F檢驗和χ^2檢驗123單因素方差分析方差分析基本原理多因素方差分析方差分析原理及應(yīng)用方差分析是一種通過比較不同組別之間均值的差異來檢驗總體均值是否存在顯著差異的方法。它將總變異分解為組內(nèi)變異和組間變異兩部分，通過比較兩者的大小來判斷組別之間的差異是否顯著。用于研究單個因素對因變量的影響。通過計算各組均值之間的差異以及組內(nèi)變異，得到F統(tǒng)計量并進(jìn)行決策。用于研究多個因素對因變量的影響以及因素之間的交互作用。通過構(gòu)建包含多個因素的模型，并進(jìn)行逐步回歸分析或多元方差分析等方法進(jìn)行決策。06回歸分析初步變量關(guān)系描述模型建立模型假設(shè)一元線性回歸模型建立通過散點圖等工具直觀展示兩個變量之間的關(guān)系，為建立一元線性回歸模型提供依據(jù)。根據(jù)最小二乘法原理，建立一元線性回歸模型，即$y=beta_0+beta_1x+epsilon$，其中$beta_0$和$beta_1$為待估參數(shù)，$epsilon$為隨機誤差項。為確保模型的適用性和有效性，需要滿足一些基本假設(shè)，如誤差項的獨立性、同方差性等。采用最小二乘法進(jìn)行參數(shù)估計，得到$beta_0$和$beta_1$的估計值$b_0$和$b_1$，并計算相關(guān)統(tǒng)計量如$R^2$、$F$值等。參數(shù)估計通過構(gòu)造$t$統(tǒng)計量或$F$統(tǒng)計量，對回歸系數(shù)進(jìn)行顯著性檢驗，判斷自變量對因變量的影響是否顯著。假設(shè)檢驗對殘差進(jìn)行圖形化展示和統(tǒng)計分析，檢驗?zāi)Ｐ图僭O(shè)的合理性。殘差分析參數(shù)估計與假設(shè)檢驗預(yù)測利用已建立的回歸模型，對新的自變量數(shù)據(jù)進(jìn)行預(yù)測，得到因變量的預(yù)測值及置信區(qū)間。控制根據(jù)預(yù)測結(jié)果和實際需求，制定相應(yīng)的控制措施，如調(diào)整自變量取值范圍、優(yōu)化模型參數(shù)等。應(yīng)用舉例結(jié)合具體案例，展示一元線性回歸模型在預(yù)測和控