有限字長量化誤差-哈工大

有限字長效應(yīng)和量化誤差參考資料：[1]陳后金.數(shù)字信號處理[M].北京:高等教育出版社.2004[2]程佩青.數(shù)字信號處理教程[M].北京:清華大學(xué)出版社.2007[3]桂志國.數(shù)字信號處理[M].北京:科學(xué)出版社.2010概述產(chǎn)生數(shù)字信號以有限位二進制表示理論設(shè)計上無限精度與實際工程中有限字長的矛盾數(shù)字運算中有限字長效應(yīng)A/D采樣的量化效應(yīng)數(shù)字濾波器的系數(shù)量化效應(yīng)123分類目錄數(shù)字運算的有限字長效應(yīng)A/D采樣的量化效應(yīng)數(shù)字濾波器的系數(shù)量化效應(yīng)定點運算的有限字長效應(yīng)數(shù)字運算的有限字長效應(yīng)1數(shù)字運算過程中為限制位數(shù)而進行尾數(shù)處理而產(chǎn)生的有效字長效應(yīng)二進制小數(shù)數(shù)字運算的有限字長效應(yīng)數(shù)據(jù)的二進制數(shù)采用定點表示動態(tài)范圍小，有溢出，尾數(shù)處理會帶來截尾或舍入誤差。由此，在數(shù)字系統(tǒng)的計算中會發(fā)生有限字長效應(yīng)。定點數(shù)浮點表示的階碼決定浮點數(shù)的動態(tài)范圍，浮點數(shù)也存在量化誤差，與定點相比，浮點有更大的動態(tài)范圍，且不易溢出。但浮點數(shù)運算量較大，耗時長，且要求處理器必須具備浮點運算能力浮點數(shù)浮點數(shù)數(shù)字運算的有限字長效應(yīng)數(shù)碼中小數(shù)點的位置是浮動的，b位二進制數(shù)分成指數(shù)部分和尾數(shù)部分。定義

M，尾數(shù)，決定浮點數(shù)精度

2c，指數(shù)，決定浮點數(shù)動態(tài)范圍C，階碼，決定浮點數(shù)動態(tài)范圍舉例F=0.101×2010=0.625×4=2.5符號位符號位定點數(shù)數(shù)字運算的有限字長效應(yīng)在整個運算中，二進制小數(shù)的在數(shù)碼中位置固定不變定義

表示符號位，0正1負(fù)數(shù)本身只有小數(shù)部分，稱為尾數(shù)

轉(zhuǎn)換舉例二進制1.110轉(zhuǎn)為十進制：=-0.75

定點數(shù)數(shù)字運算的有限字長效應(yīng)原則為運算方便，定點小數(shù)限制在[-1,1]上，用乘以比例因子的方法表示絕對值大于1的數(shù)加法不會增加字長，但比例因子不合適會產(chǎn)生溢出乘法不會產(chǎn)生溢出，但相乘后字長增加一倍（2b），需要通過量化手段，將其字長變回b

0.1010.0111011010.001111

×字長由3變?yōu)?量化誤差

0.1010.1011.010

+溢出！二進制表示原碼反碼數(shù)字運算的有限字長效應(yīng)補碼

取反加1截尾誤差10二進制表示數(shù)字運算的有限字長效應(yīng)將x10=0.75和x10=-0.75分別用原碼、反碼、補碼表示。原碼x10=0.75=>(x2)原=0.110x10=-0.75=>(x2)原=1.110補碼x10=0.75=>(x2)補=0.110x10=-0.75=>(x2)補=1.010反碼+1反碼x10=0.75=>(x2)反=0.110x10=-0.75=>(x2)反=1.001舉例二進制表示數(shù)字運算的有限字長效應(yīng)意義反碼的意義不大，多數(shù)情況下反碼僅用來推出補碼；用原碼比較直觀，但做加減法不方便，需要判斷兩數(shù)符號，同號做加，異號做減，做減時還要比較絕對值大小，以便用大數(shù)作為被減數(shù)。這大大降低了運算效率；補碼的優(yōu)點在于可以將加減運算統(tǒng)一到加法運算上，而且對于補碼來說，0的表達是唯一的。下面舉例說明：二進制表示數(shù)字運算的有限字長效應(yīng)例1用補碼計算0.0011-0.11010.0011的補碼是0.0011-0.1101的補碼是1.0011兩補碼相加：0.0011+1.0011=1.0110（即0.1875-0.8125=-0.625）

例2分別用原碼和補碼表示+0和-0原碼：0.00000 1.00000補碼：0.00000 1.11111+0.00001=0.00000補碼對0的表示是唯一的量化誤差截尾量化是將小數(shù)部分b以后的所有位去掉，即：截尾

數(shù)字運算的有限字長效應(yīng)

小數(shù)乘法量化誤差正數(shù)和負(fù)數(shù)補碼截尾后變小，截尾誤差為負(fù)負(fù)數(shù)原碼和反碼截尾后變大，截尾誤差為正說明數(shù)字運算的有限字長效應(yīng)原反補碼當(dāng)被截去的尾數(shù)位全為1時，誤差最大：0.X1X2X3…Xb|11111…（截去）等比為等比數(shù)列求和，其和的表達式為：當(dāng)d→∞時（即無窮多個1被截尾）取得最大值

15數(shù)字運算的有限字長效應(yīng)舍入量化是判斷第b+1位，若為1則進位，為0則舍去(判斷b位以后的數(shù)與q/2的關(guān)系，大于則進位，小于則舍去)舍入

量化誤差16量化誤差說明數(shù)字運算的有限字長效應(yīng)原反補碼舍去時，誤差最大情況：0.X1X2X3…Xb|01111…（舍去）等比為等比數(shù)列求和，其和的表達式為：當(dāng)d→∞時（即無窮多個1被截尾）取得最大值進位時，誤差最大情況：0.X1X2X3…Xb|10000…（進位）誤差就是

17數(shù)字運算的有限字長效應(yīng)截尾量化舍入量化量化誤差

18數(shù)字運算的有限字長效應(yīng)截尾量化舍入量化量化誤差

eP(e)O1/qq/2-q/2eP(e)O1/q-q19數(shù)字運算的有限字長效應(yīng)結(jié)論截尾誤差與舍入誤差區(qū)間大小相同舍入誤差是對稱分布，截尾誤差是單極性分布二者統(tǒng)計特性不同截尾誤差比舍入誤差影響大，多數(shù)情況應(yīng)用舍入誤差量化誤差20A/D采樣的量化效應(yīng)2A/D變換器將模擬輸入信號變?yōu)橐唤M離散電平時產(chǎn)生的量化誤差原理A/D采樣的量化效應(yīng)原理將模擬輸入信號轉(zhuǎn)換為b位二進制數(shù)字信號，b是有限字長，必然會引入量化誤差組成抽樣器、量化器抽樣器量化器

量化誤差：

統(tǒng)計分析A/D采樣的量化效應(yīng)假設(shè)e(n)是平穩(wěn)隨機序列，即它的統(tǒng)計特性不隨時間變化，期望與方差均與n無關(guān)e(n)與取樣序列x(n)是不相關(guān)的，即：E[e(n)·x(n)]=0(互相關(guān)函數(shù)=0），e(n)與輸入信號是統(tǒng)計獨立的e(n)序列本身的任意兩個值之間不相關(guān)，e[k]是白噪聲序列e(n)在誤差范圍內(nèi)均勻分布統(tǒng)計分析A/D采樣的量化效應(yīng)理想A/D采樣器

A/D統(tǒng)計模型統(tǒng)計分析A/D采樣的量化效應(yīng)eP(e)O1/qq/2-q/2舍入量化誤差概率密度曲線

統(tǒng)計分析A/D采樣的量化效應(yīng)采用舍入法，量化噪聲的方差與A/D變換的字長b有關(guān)，b越大，方差越小舍入法引入的噪聲期望為0，與字長無關(guān)，易求截尾法引入的噪聲期望為與字長有關(guān)，故舍入法較為常用

結(jié)論統(tǒng)計分析A/D采樣的量化效應(yīng)信噪比信噪比是衡量量化噪聲的重要指標(biāo)，舍入法A/D轉(zhuǎn)換的信噪比為：

每增加一位字長，SNR約增加6dB統(tǒng)計分析A/D采樣的量化效應(yīng)結(jié)論輸入信號經(jīng)A/D變換會產(chǎn)生量化誤差。采用信噪比來估算量化誤差的大小可知，提高A/D的量化信噪比的方法有：增大輸入信號增加字長b統(tǒng)計分析A/D采樣的量化效應(yīng)舉例設(shè)x(n