統(tǒng)計(jì)信號(hào)分析

1、統(tǒng)計(jì)信號(hào)分析哈爾濱工程大學(xué)信息與通信工程學(xué)院Random Signal Analysis葉方課程課程學(xué)習(xí)的重要性學(xué)習(xí)的重要性 從課程體系結(jié)構(gòu)分析從課程體系結(jié)構(gòu)分析計(jì)算機(jī)及其應(yīng)用系列計(jì)算機(jī)及其應(yīng)用系列電路系列電路系列電磁場(chǎng)系列電磁場(chǎng)系列信號(hào)處理與系統(tǒng)系列課信號(hào)處理與系統(tǒng)系列課本本科科專專業(yè)業(yè)基基礎(chǔ)礎(chǔ)系系列列課課信號(hào)與系統(tǒng)信號(hào)與系統(tǒng)數(shù)字信號(hào)處理數(shù)字信號(hào)處理統(tǒng)計(jì)統(tǒng)計(jì)信號(hào)信號(hào)分析分析控制原理控制原理 信號(hào)與信號(hào)與系統(tǒng)系統(tǒng)數(shù)字信號(hào)數(shù)字信號(hào)處理處理統(tǒng)計(jì)統(tǒng)計(jì)信號(hào)信號(hào)分析分析通信通信原理原理信息論信息論編碼編碼移動(dòng)移動(dòng)通信通信程控?cái)?shù)程控?cái)?shù)字交換字交換數(shù)據(jù)通數(shù)據(jù)通信網(wǎng)絡(luò)信網(wǎng)絡(luò)隨機(jī)隨機(jī)過程過程信號(hào)檢測(cè)信號(hào)檢測(cè)與估

2、值與估值現(xiàn)代通信現(xiàn)代通信原理原理現(xiàn)代信號(hào)現(xiàn)代信號(hào)處理處理信息論信息論專業(yè)基礎(chǔ)課專業(yè)基礎(chǔ)課專業(yè)課程專業(yè)課程研究生研究生課程課程正弦信號(hào)正弦信號(hào)調(diào)制信號(hào)調(diào)制信號(hào)周期性脈沖信號(hào)周期性脈沖信號(hào)雷達(dá)接收機(jī)的噪聲雷達(dá)接收機(jī)的噪聲鳥叫聲鳥叫聲爆破信號(hào)爆破信號(hào)實(shí)際中的信號(hào)實(shí)際中的信號(hào)具有確定的變化規(guī)律，是時(shí)間t的一個(gè)確定的函數(shù)，每次觀測(cè)所得結(jié)果都相同，知道當(dāng)前的值，就可以精確地預(yù)測(cè)去未來某個(gè)時(shí)刻的值。確定性信號(hào)沒有確定的變化規(guī)律，每次觀測(cè)所得結(jié)果可能都不相同，知道當(dāng)前的值，不能精確地預(yù)計(jì)未來某個(gè)時(shí)刻的值。隨機(jī)信號(hào)分析工具：微積分、線性代數(shù)、復(fù)變函數(shù)、傅氏變換、拉氏變換、信號(hào)與系統(tǒng)等分析工具：概率論、隨機(jī)過程及

3、上述的所有數(shù)學(xué)工具。移動(dòng)通信 衛(wèi)星通信 通信中的隨機(jī)信號(hào)通信中的隨機(jī)信號(hào)信信源源信信宿宿噪聲噪聲信信道道傳傳輸輸發(fā)送發(fā)送設(shè)備設(shè)備接收接收設(shè)備設(shè)備通信系統(tǒng)模型 兩個(gè)基本問題兩個(gè)基本問題:如何可靠地傳輸信息如何可靠地傳輸信息?如何有效地傳輸信息如何有效地傳輸信息?雷達(dá)發(fā)雷達(dá)發(fā)射機(jī)射機(jī)收發(fā)轉(zhuǎn)收發(fā)轉(zhuǎn)換開關(guān)換開關(guān)雷達(dá)接雷達(dá)接收機(jī)收機(jī)接收機(jī)接收機(jī)輸出輸出接收機(jī)輸出噪聲接收機(jī)輸出噪聲兩個(gè)基本問題兩個(gè)基本問題:如何檢測(cè)回波信號(hào)如何檢測(cè)回波信號(hào)如何估計(jì)信號(hào)的參數(shù)如何估計(jì)信號(hào)的參數(shù)統(tǒng)計(jì)思維方法：從不確定中把握確定性統(tǒng)計(jì)思維方法：從不確定中把握確定性大量大量樣本樣本平均平均展示展示出的出的特征：特征：均值均值方差方

4、差PDF1掌握概率空間的基本概念；隨機(jī)變量及其函數(shù)的概率分布函數(shù)、概率密度函數(shù)、特征函數(shù)的定義和性質(zhì)；具有計(jì)算隨機(jī)變量數(shù)字特征的能力；了解極限定理和隨機(jī)序列的收斂。2掌握隨機(jī)過程的基本概念隨機(jī)過程的基本概念；隨機(jī)過程的平穩(wěn)性、遍歷性隨機(jī)過程的平穩(wěn)性、遍歷性的概念、判別方法和主要性質(zhì)；平穩(wěn)過程平穩(wěn)過程的相關(guān)函數(shù)性質(zhì)的相關(guān)函數(shù)性質(zhì)，熟練掌握平穩(wěn)隨機(jī)過程數(shù)字特征的相關(guān)運(yùn)算，熟練掌握高斯隨高斯隨機(jī)變量、高斯隨機(jī)過程的概念和性質(zhì)機(jī)變量、高斯隨機(jī)過程的概念和性質(zhì)，熟悉相應(yīng)的表示方法、參數(shù)含義及相關(guān)運(yùn)算。教學(xué)教學(xué)基本要求基本要求3掌握隨機(jī)過程的功率譜密度、互譜密度的概念和主要性質(zhì)隨機(jī)過程的功率譜密度、互譜密

5、度的概念和主要性質(zhì)；了解隨機(jī)過程的有理譜分解定理，熟練掌握白噪聲過程的概念白噪聲過程的概念和性質(zhì)和性質(zhì)，熟悉相應(yīng)的表示方法、參數(shù)含義及相關(guān)運(yùn)算。4掌握線性系統(tǒng)的基本理論，熟練運(yùn)用時(shí)域分析法和頻域分析法，掌握系統(tǒng)輸出的平穩(wěn)性及其統(tǒng)計(jì)特性的計(jì)算系統(tǒng)輸出的平穩(wěn)性及其統(tǒng)計(jì)特性的計(jì)算，白噪聲通白噪聲通過線性系統(tǒng)的分析，等效噪聲帶寬的定義過線性系統(tǒng)的分析，等效噪聲帶寬的定義，掌握隨機(jī)信號(hào)通過非線性系統(tǒng)的重要結(jié)論。教學(xué)教學(xué)基本要求基本要求統(tǒng)計(jì)信號(hào)分析第1講隨機(jī)變量基本概念哈爾濱工程大學(xué)信息與通信工程學(xué)院1、概率空間、條件概率空間、概率空間、條件概率空間 全概率公式、貝葉斯公式的應(yīng)用，統(tǒng)計(jì)獨(dú)立的含義全概率公式

6、、貝葉斯公式的應(yīng)用，統(tǒng)計(jì)獨(dú)立的含義2、隨機(jī)隨機(jī)變量及其隨機(jī)變量變量及其隨機(jī)變量函數(shù)函數(shù)的的分布分布 關(guān)鍵關(guān)鍵是在各種函數(shù)變換條件下求出相應(yīng)的雅可比是在各種函數(shù)變換條件下求出相應(yīng)的雅可比因子因子3、隨機(jī)變量隨機(jī)變量的數(shù)字特征的數(shù)字特征（1）熟練熟練掌握數(shù)學(xué)期望、方差、各階矩的定義和運(yùn)算性質(zhì)掌握數(shù)學(xué)期望、方差、各階矩的定義和運(yùn)算性質(zhì)（2）明確變量明確變量之間統(tǒng)計(jì)獨(dú)立、不相關(guān)、正交應(yīng)滿足的條件之間統(tǒng)計(jì)獨(dú)立、不相關(guān)、正交應(yīng)滿足的條件， 差別差別和聯(lián)系和聯(lián)系4、隨機(jī)變量隨機(jī)變量特征函數(shù)的定義和性質(zhì)特征函數(shù)的定義和性質(zhì) 靈活靈活應(yīng)用隨機(jī)變量與矩的關(guān)系應(yīng)用隨機(jī)變量與矩的關(guān)系5、高斯隨機(jī)變量高斯隨機(jī)變量1.1

7、 概率論的基本概率論的基本術(shù)語術(shù)語1隨機(jī)試驗(yàn)隨機(jī)試驗(yàn)E 滿足滿足下列三個(gè)條件的試驗(yàn)稱為下列三個(gè)條件的試驗(yàn)稱為隨機(jī)試驗(yàn)隨機(jī)試驗(yàn) (1)在相同條件下可重復(fù)進(jìn)行；在相同條件下可重復(fù)進(jìn)行； (2)試驗(yàn)的結(jié)果不止一個(gè)，所有可能的結(jié)果試驗(yàn)的結(jié)果不止一個(gè)，所有可能的結(jié)果能事先能事先明確；明確； (3)每次試驗(yàn)前不能確定會(huì)出現(xiàn)哪一個(gè)結(jié)果。每次試驗(yàn)前不能確定會(huì)出現(xiàn)哪一個(gè)結(jié)果。2隨機(jī)事件隨機(jī)事件 在在隨機(jī)試驗(yàn)中，對(duì)試驗(yàn)中可能出現(xiàn)也可能隨機(jī)試驗(yàn)中，對(duì)試驗(yàn)中可能出現(xiàn)也可能不出現(xiàn)不出現(xiàn)，而在大而在大 量量重復(fù)試驗(yàn)中卻具有某種重復(fù)試驗(yàn)中卻具有某種規(guī)律性規(guī)律性的事件，稱為的事件，稱為隨機(jī)事件，隨機(jī)事件， 簡(jiǎn)稱簡(jiǎn)稱事件。事件

8、。3基本事件基本事件隨機(jī)試驗(yàn)中最簡(jiǎn)單的隨機(jī)事件稱為隨機(jī)試驗(yàn)中最簡(jiǎn)單的隨機(jī)事件稱為基本事件基本事件。1.1 概率論的基本概率論的基本術(shù)語術(shù)語5樣本空間樣本空間S隨機(jī)試驗(yàn)隨機(jī)試驗(yàn)E的所有基本事件組成的集合稱為的所有基本事件組成的集合稱為樣本空間。樣本空間。4樣本點(diǎn)樣本點(diǎn)s隨機(jī)試驗(yàn)中每一個(gè)可能的結(jié)果。隨機(jī)試驗(yàn)中每一個(gè)可能的結(jié)果。( :)Ss sE是試驗(yàn) 中可能結(jié)果AS 隨機(jī)事件是若干個(gè)樣本點(diǎn)所構(gòu)成的集合隨機(jī)事件是若干個(gè)樣本點(diǎn)所構(gòu)成的集合 As事件事件A A在這次試驗(yàn)中在這次試驗(yàn)中發(fā)生發(fā)生了了復(fù)合事件復(fù)合事件、不可能事件不可能事件、必然事件必然事件、 和事件和事件、積積事件事件、差事差事件件、 互不互

9、不相容（相容（互斥互斥）、）、逆逆事件（對(duì)立）事件（對(duì)立）1.1 概率論的基本概率論的基本術(shù)語術(shù)語6頻數(shù)和頻率頻數(shù)和頻率7概率概率事件事件A A發(fā)生的概率統(tǒng)計(jì)定義發(fā)生的概率統(tǒng)計(jì)定義( )limAnnP An事件的頻率可以刻畫事件發(fā)生的可能性大小，但是頻率具有隨機(jī)事件的頻率可以刻畫事件發(fā)生的可能性大小，但是頻率具有隨機(jī)波動(dòng)性，對(duì)于相同的試驗(yàn)次數(shù)波動(dòng)性，對(duì)于相同的試驗(yàn)次數(shù) ，事件，事件A發(fā)生的頻率可能發(fā)生的頻率可能不同不同，n n越越小，這種波動(dòng)小，這種波動(dòng)越大越大， n n越大越大，波動(dòng)越小，波動(dòng)越小，當(dāng)當(dāng)n n趨于趨于無窮時(shí)，頻率趨無窮時(shí)，頻率趨于一個(gè)穩(wěn)定的值，可以把這個(gè)穩(wěn)定的值定義為事件于一

10、個(gè)穩(wěn)定的值，可以把這個(gè)穩(wěn)定的值定義為事件A發(fā)生的概率。發(fā)生的概率。1.1 概率論的基本概率論的基本術(shù)語術(shù)語概率定義方式概率定義方式（1）古典概率）古典概率A(A)SAnPn中所含樣本點(diǎn)數(shù)中所含樣本點(diǎn)數(shù)（2）幾何概率幾何概率(A)A(A)( )LPL SS的量度的量度 （3）概率公理化定義）概率公理化定義 （非負(fù)性） （歸一性）， 若兩兩互斥，（可列可加性）(A)0P( )1P S ()0P 11(A )(A )nnnnPP1AAn1.1 概率論的基本概率論的基本術(shù)語術(shù)語8概率空間概率空間規(guī)定一個(gè)試驗(yàn)的所有樣本點(diǎn)集合構(gòu)成了規(guī)定一個(gè)試驗(yàn)的所有樣本點(diǎn)集合構(gòu)成了樣本空間樣本空間S，在在S中一個(gè)或若干個(gè)

11、樣本點(diǎn)的適當(dāng)中一個(gè)或若干個(gè)樣本點(diǎn)的適當(dāng)集合集合 ，稱為，稱為事件域事件域， 中中每一個(gè)集合稱為每一個(gè)集合稱為事件事件。若若 ，則，則 就是事件就是事件A的的概率概率。稱稱 為為概率空間概率空間。FFAF(A)P( , )SPF小結(jié)小結(jié): 隨機(jī)試驗(yàn)隨機(jī)事件基本事件樣本空間樣本點(diǎn)古典概率幾何概率概率公理化定義概率空間頻數(shù)頻率概率1.2 條件概率與統(tǒng)計(jì)獨(dú)立條件概率與統(tǒng)計(jì)獨(dú)立一一條件概率條件概率設(shè)設(shè)A、B為隨機(jī)試驗(yàn)為隨機(jī)試驗(yàn)E的兩個(gè)事件，的兩個(gè)事件，在事件在事件B已已發(fā)生發(fā)生的的條件下，事件條件下，事件A發(fā)生發(fā)生的概率的概率為為()(),( )0( )P ABP A BP BP B()() ( )()

12、 ( )P ABP A B P BP B A P A 0()1P A B()1P S B 11(A)(A)nnnnPBPB若若 兩兩兩兩互斥互斥，1AAn ( )0P A ( )0P B 前提前提 或或 1.2 條件概率與統(tǒng)計(jì)獨(dú)立條件概率與統(tǒng)計(jì)獨(dú)立二二全概率公式全概率公式設(shè)有設(shè)有N個(gè)個(gè)互斥互斥事件事件 ，它們的和為整個(gè)，它們的和為整個(gè)S，滿足：滿足： （互斥性互斥性） （完備性完備性）則則 （全概率公式全概率公式） (1,2,.,)nB nN,1,2,.,ijBBijN 1NnnBS1( )() ()NnnnP AP A B P B計(jì)算計(jì)算復(fù)雜復(fù)雜事件事件A發(fā)生的概率，發(fā)生的概率，A可以在可以

13、在 發(fā)生的條件下發(fā)生，發(fā)生的條件下發(fā)生，當(dāng)當(dāng) 不易不易求，但容易找到求，但容易找到S的的劃分劃分且且 和和 易知易知。由由因及果因及果(1,2,.,)nB nN( )P A()nP B()nP A B1.2 條件概率與統(tǒng)計(jì)獨(dú)立條件概率與統(tǒng)計(jì)獨(dú)立三三貝葉斯公式貝葉斯公式設(shè)有設(shè)有N個(gè)個(gè)互斥互斥事件事件 ，為樣本空間為樣本空間S的一個(gè)劃的一個(gè)劃分分，且且 ， 1() ()(),1,2,.,() ()nnnNnnnP B P A BP B AnNP B P A B(1,2,.,)nB nN()0(1,2,.,)nP BnN（貝葉斯（貝葉斯公式公式）我們把事件我們把事件A看作某一過程的結(jié)果看作某一過程的

14、結(jié)果，把，把 看作看作該過程該過程的若干個(gè)的若干個(gè)原因。原因。根據(jù)根據(jù)歷史資料，每一原因發(fā)生的歷史資料，每一原因發(fā)生的概率概率 已知，已知，而且而且每一原因?qū)Y(jié)果的影響每一原因?qū)Y(jié)果的影響程度程度 已知，已知，若若已知已知事件事件A已經(jīng)發(fā)生，求此時(shí)是由已經(jīng)發(fā)生，求此時(shí)是由第第n個(gè)個(gè)原因引起的概率原因引起的概率(1,2,.,)nB nN()nP B()nP A B()nP B A先驗(yàn)概率先驗(yàn)概率轉(zhuǎn)移轉(zhuǎn)移概率概率后后驗(yàn)驗(yàn)概率概率貝葉斯公式是基于貝葉斯公式是基于結(jié)果推測(cè)結(jié)果推測(cè)某種某種起因的可能性起因的可能性有四批零件，第一批有有四批零件，第一批有2000個(gè)零件，其中個(gè)零件，其中5%是次是次品。第二

15、批有品。第二批有500個(gè)零件，其中個(gè)零件，其中40%是次品。第三是次品。第三批和第四批各有批和第四批各有1000個(gè)零件，次品約占個(gè)零件，次品約占10%。我。我們隨機(jī)地選擇一個(gè)批次，并隨機(jī)地取出一個(gè)零件。們隨機(jī)地選擇一個(gè)批次，并隨機(jī)地取出一個(gè)零件。（1）問所選零件為次品的概率是多少？問所選零件為次品的概率是多少？（2）發(fā)現(xiàn)次品后，它來自第二批的概率是多少？發(fā)現(xiàn)次品后，它來自第二批的概率是多少？1.2 條件概率與統(tǒng)計(jì)獨(dú)立條件概率與統(tǒng)計(jì)獨(dú)立例題例題1.2 條件概率與統(tǒng)計(jì)獨(dú)立條件概率與統(tǒng)計(jì)獨(dú)立例題例題 二元通信或檢測(cè)中，假定二元消息表示二元通信或檢測(cè)中，假定二元消息表示0與與1，記為記為 ，其先驗(yàn)概率分別為，其先驗(yàn)概率分別為 ， ，傳輸可靠性為，傳輸可靠性為80%。問：收到問：收到1時(shí)，真正發(fā)送的消息是什么？時(shí)，真正發(fā)送的消息是什么？X00.9P X 10.1P X 1.2 條件概率與統(tǒng)計(jì)獨(dú)立條件概率與統(tǒng)計(jì)獨(dú)立四四統(tǒng)計(jì)獨(dú)立統(tǒng)計(jì)獨(dú)立 1 1. . 兩事件統(tǒng)計(jì)兩事件統(tǒng)計(jì)獨(dú)立獨(dú)立（以下任一公式可作為判斷公式）以