DSP系統(tǒng)實驗02New-定點和浮點數(shù)格式_第1頁
DSP系統(tǒng)實驗02New-定點和浮點數(shù)格式_第2頁
DSP系統(tǒng)實驗02New-定點和浮點數(shù)格式_第3頁
DSP系統(tǒng)實驗02New-定點和浮點數(shù)格式_第4頁
DSP系統(tǒng)實驗02New-定點和浮點數(shù)格式_第5頁
已閱讀5頁,還剩38頁未讀 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

7/20/2023

06:04:48-1-2定點和浮點數(shù)格式

2.1DSP的數(shù)據(jù)表示2.2定點數(shù)的格式與運算2.3浮點數(shù)的格式與運算7/20/2023

06:04:48-2-定點和浮點數(shù)格式DSP的數(shù)據(jù)表示2.1DSP的數(shù)據(jù)表示格式字長16位32位定點浮點24位7/20/2023

06:04:48-3-定點和浮點數(shù)格式DSP的數(shù)據(jù)表示格式和字長決定了數(shù)據(jù)的精度和動態(tài)范圍格式和字長也在一定程度上決定了DSP處理器的成本、功耗和編程難度定點運算的硬件實現(xiàn)比浮點運算的硬件實現(xiàn)簡單定點器件結(jié)構(gòu)比浮點器件簡單,成本低,功耗小,但定點器件編程比浮點器件困難,主要是需要注意數(shù)據(jù)的定標、溢出,以及盡可能地減小誤差等浮點器件結(jié)構(gòu)復(fù)雜,成本高、功耗大,但運算精度高、編程方便,高級語言支持容易7/20/2023

06:04:48-4-定點和浮點數(shù)格式定點數(shù)的格式與運算2.2定點數(shù)的格式與運算1.定點數(shù)的格式1)Qn格式2)數(shù)值范圍與精度3)動態(tài)范圍

2.定點數(shù)的算術(shù)運算1)定點數(shù)的加減法運算2)定點數(shù)的乘法運算3)定點數(shù)的除法運算7/20/2023

06:04:48-5-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的格式Qn格式二進制補碼數(shù)01010011b,粗線表示隱含的小數(shù)點位置Q0格式:01010011b=1?26+1?24+1?21+1?20=83=83/20Q4格式:01010011b=1?22+1?20+1?2-3+1?2-4

=5.1875=83/24Q7格式:01010011b=1?2-1+1?2-3+1?2-6+1?2-7=0.6484375=83/27例:8位字長位7MSB6543210LSB二進制補碼01010011Q0符號26252423222120Q4符號2221202-12-22-32-4Q7符號2-12-22-32-42-52-62-71.定點數(shù)的格式1)Qn格式7/20/2023

06:04:48-6-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的格式Qn格式小數(shù)點整數(shù):小數(shù)點在數(shù)據(jù)的最低位(LSB)后面,位置固定、且是隱含的,小數(shù)點后有零個小數(shù)位小數(shù):也可用小數(shù)點位置固定且隱含的二進制補碼表示,只是小數(shù)點的位置與整數(shù)不同Qn格式Q標志:表示隱含的小數(shù)點的位置Qn格式的二進制數(shù):小數(shù)點的右邊有n個小數(shù)位Q15格式:小數(shù)點后有15個小數(shù)位Q8格式:小數(shù)點后有8個小數(shù)位Q0格式:小數(shù)點后有零個小數(shù)位,也就是整數(shù)7/20/2023

06:04:48-7-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的格式Qn格式定點數(shù)與浮點數(shù)、定點數(shù)與定點數(shù)之間的轉(zhuǎn)換關(guān)系浮點數(shù)X

Qn格式的定點數(shù)Xn例:5.1875Q4定點數(shù)5.1875×24

=83=01010011bQn格式的定點數(shù)Xn為浮點數(shù)X例:(Q7)01010011b浮點數(shù)83/27

=0.6484375Qn格式的定點數(shù)XnQm格式的定點數(shù)Xm例:(Q7)01010011bQ4定點數(shù)83/27

=0.6484375int(0.6484375×24)=int(10.375)=10=00001010b10/24

=0.625≠0.6484375(小數(shù)位數(shù)有限,產(chǎn)生截斷誤差)式中(int)表示取整,浮點數(shù)轉(zhuǎn)換為定點數(shù)時,由于小數(shù)點后的位數(shù)有限,會產(chǎn)生截斷誤差7/20/2023

06:04:48-8-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的格式數(shù)值范圍與精度給定字長N,采用Qn格式表示小數(shù)數(shù)值范圍:精度:2)數(shù)值范圍與精度N-1是由于符號占用一位,數(shù)據(jù)占用N-1位n越大,數(shù)值范圍越小,但精度越高n越小,數(shù)值范圍越大,但精度越低7/20/2023

06:04:48-9-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的格式數(shù)值范圍與精度Qn格式數(shù)值范圍精度Q15-1~0.9999694824218750.000030517578125Q14-2~1.999938964843750.00006103515625Q13-4~3.99987792968750.0001220703125Q12-8~7.9997558593750.000244140625Q11-16~15.999511718750.00048828125Q10-32~31.99902343750.0009765625Q9-64~63.9980468750.001953125Q8-128~127.996093750.00390625Q7-256~255.99218750.0078125Q6-512~511.9843750.015625Q5-1024~1023.968750.03125Q4-2048~2047.93750.0625Q3-4096~4095.8750.125Q2-8192~8191.750.25Q1-16384~16383.50.5Q0-32768~32767116位字長Qn格式的數(shù)值范圍與精度7/20/2023

06:04:48-10-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的格式動態(tài)范圍動態(tài)范圍:數(shù)據(jù)表示格式中可以表示的最大值與最小值之比N位定點數(shù)的動態(tài)范圍:用分貝表示為:3)動態(tài)范圍定點數(shù)的動態(tài)范圍只與字長N有關(guān),字長增加一位,動態(tài)范圍增加6dB16位定點數(shù)的動態(tài)范圍約為90.3dB32位定點數(shù)的動態(tài)范圍約為186.6dB7/20/2023

06:04:48-11-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的格式動態(tài)范圍動態(tài)范圍:數(shù)據(jù)表示格式中可以表示的最大值與最小值之比定點DSP處理器大多采用16位定點數(shù)與浮點數(shù)相比,定點數(shù)運算的硬件實現(xiàn)較為簡單16位定點數(shù)可以提供足夠大的動態(tài)范圍(90dB),這對于大多數(shù)的應(yīng)用已經(jīng)足夠了對于要求更大動態(tài)范圍的應(yīng)用,可以采用擴展字長的方式,即用兩個或更多的字來表示數(shù)據(jù)如:用兩個16位數(shù)表示一個數(shù)據(jù),則字長為32位擴展字長通常會導(dǎo)致編程復(fù)雜度和程序運行時間增加定點DSP處理器要求編程時要仔細考慮信號幅值和中間結(jié)果,在避免溢出和盡可能減小舍入誤差的前提下,使精度和動態(tài)范圍最大化7/20/2023

06:04:48-12-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的加減法運算2.定點數(shù)的算術(shù)運算1)定點數(shù)的加減法運算相同的Qn格式,保證隱含的小數(shù)點對齊最可能出現(xiàn)的問題是運算結(jié)果的溢出例:兩個8位數(shù)相加,無溢出進位位(C)與最高位(MSB)相同,進位位僅代表附加的符號位,可以忽略8位字長可以表示結(jié)果,沒有發(fā)生數(shù)據(jù)溢出11111100b(-4)00101001b(41)+11111110b(-2)+00110011b(51)111111010b(-6)001011100b(92)7/20/2023

06:04:48-13-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的加減法運算例:兩個8位數(shù)相加,有溢出進位位(C)與最高位(MSB)不同,符號位到了進位位中,最高位成為數(shù)值的一部分運算結(jié)果發(fā)生溢出,8位字長已不能正確地表示結(jié)果10110000b(-80)00101001b(41)+10111111b(-65)+01110011b(115)非飽和模式:101101111b(-145)非飽和模式:010011100b(156)飽和模式:110000000b(-128)飽和模式:001111111b(127)7/20/2023

06:04:48-14-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的加減法運算溢出是由于字長有限,運算結(jié)果超出數(shù)值的表示范圍引起的飽和模式定點數(shù)減法運算的原理與加法運算相同在飽和模式下,溢出數(shù)據(jù)用帶有正確符號的最大值填充,相當于對運算結(jié)果進行了限幅,使結(jié)果不會超出數(shù)值的表示范圍為減少溢出引起的計算錯誤,DSP處理器一般都有飽和模式7/20/2023

06:04:48-15-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的乘法運算2)定點數(shù)的乘法運算DSP處理器都有硬件乘法器和乘法指令,可實現(xiàn)單周期乘法運算二進制乘法運算包含一系列的移位和加法運算定點數(shù)乘法運算不要求相乘數(shù)有相同的Qn格式兩個相乘數(shù)分別為Qn和Qm格式,字長為N,結(jié)果為Q(n+m)格式,字長為2N根據(jù)n和m的不同取值,定點數(shù)乘法運算可以分成三種情況①小數(shù)乘小數(shù)(n、m≠0,m≤n)②整數(shù)乘小數(shù)(n≠0、m=0)③整數(shù)乘整數(shù)(n=m=0)7/20/2023

06:04:48-16-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的乘法運算①小數(shù)乘小數(shù)(n、m≠0,m≤n)例:兩個相乘數(shù)分別為Q7和Q6格式,8位字長例中間隱含的小數(shù)點顯示地標出結(jié)果為Q13格式,字長為16位,最高兩位為兩個符號位將結(jié)果左移一位,移出一個符號位,得到Q14格式的結(jié)果保存結(jié)果的高8位,即乘法器輸出的高8位,結(jié)果為Q6格式兩個定點小數(shù)作乘法運算,結(jié)果左移一位,保存高位得到運算結(jié)果,結(jié)果為Qm(m≤n)格式0.1000000b(0.5Q7)

01.100000b(1.5Q6)000.1100000000000b(0.75Q13)左移一位:00.11000000000000b(0.75Q14)取高8位:00.110000b(0.75Q6)7/20/2023

06:04:48-17-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的乘法運算②整數(shù)乘小數(shù)(n≠0、m=0)例:兩個相乘數(shù)分別為Q7和Q0格式,8位字長例中間隱含的小數(shù)點顯示地標出結(jié)果為Q7格式,字長為16位,結(jié)果的最高兩位為兩個符號位將結(jié)果左移一位,移出一個符號位,得到Q8格式的結(jié)果保存結(jié)果的高8位,即乘法器輸出的高8位,結(jié)果為Q0格式運算結(jié)果為-3.5,但由于只保存高8為,結(jié)果為-3,產(chǎn)生誤差,誤差是由于丟棄低8位造成的截尾誤差0.1000000b(0.5Q7)

11111001.b(-7Q0)111111100.1000000b(-3.5Q7)左移一位:11111100.10000000b(-3.5Q8)取高8位:11111100.b(-3.Q0)7/20/2023

06:04:48-18-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的乘法運算誤差小于等于Qn格式精度的一半,即小于等于1/2n+1單次計算的誤差并不大,但如果是連續(xù)的運算,則誤差會累積和傳遞,從而產(chǎn)生比較大的誤差在遞歸算法中,誤差可能帶來很大的影響,甚至導(dǎo)致算法的不穩(wěn)定DSP處理器提供了自動舍入功能來減小誤差,而不是簡單的丟棄低16位通常為減小計算誤差,定點DSP處理器編程時對中間結(jié)果保留整個32位,只有最后結(jié)果才舍棄低16位,保留高16位小數(shù)乘小數(shù)、整數(shù)乘小數(shù)運算都要求對乘積結(jié)果左移一位后,保存高位DSP處理器帶有可選的自動左移一位的功能,消除移位操作的時間開銷7/20/2023

06:04:48-19-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的乘法運算③整數(shù)乘整數(shù)(n=m=0)例:兩個相乘數(shù)都為Q0格式,8位字長例中間隱含的小數(shù)點顯示地標出結(jié)果為Q0格式,字長16位若結(jié)果沒有超出8位數(shù)的表示范圍時,結(jié)果在低8位,保存低8位若結(jié)果超出8位數(shù)的表示范圍時,則高8位也包含乘積結(jié)果,應(yīng)保存整個16位結(jié)果結(jié)果是否超出8位數(shù)的表示范圍,可通過查詢對應(yīng)的標志位得到整數(shù)相乘,結(jié)果為Q0格式,需查詢標志位確定保存的位數(shù),結(jié)果不需要左移一位11111100.b(-4Q0)

11111001.b(-7Q0)0000000000011100.b(28Q0)取低8位:00011100.b(28Q0)7/20/2023

06:04:48-20-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的除法運算3)定點數(shù)的除法運算大多數(shù)DSP處理器不提供單周期除法指令除法是乘法的逆運算,包括一系列移位和條件減法運算,需要用除法子程序?qū)崿F(xiàn)例:8位字長的正整數(shù)相除被除數(shù)為00001010b(10)除數(shù)為00000011b(3)7/20/2023

06:04:48-21-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的除法運算①除數(shù)左移一位,使被除數(shù)小于除數(shù)的2倍②被除數(shù)減除數(shù),結(jié)果為正,商數(shù)的最低位置100001010b-00000110b商數(shù):00000001余數(shù):00000100b③將余數(shù)左移一位減除數(shù),結(jié)果為正,商數(shù)左移一位,最低位置100001000b-00000110b商數(shù):00000011余數(shù):00000010b7/20/2023

06:04:48-22-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的除法運算④除數(shù)左移一位,使被除數(shù)小于除數(shù)的2倍數(shù),結(jié)果為負,商數(shù)左移一位,最低位置0,丟棄余數(shù),余數(shù)取被減數(shù)值⑤將余數(shù)左移一位減除數(shù),結(jié)果為正,商數(shù)左移一位,最低位置100000100b-00000110b余數(shù)(丟棄):11111110b商數(shù):00000110余數(shù):00000100b00001000b-00000110b商數(shù):00001101余數(shù):00000010b7/20/2023

06:04:48-23-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的除法運算⑥將余數(shù)左移一位減除數(shù),結(jié)果為負,商數(shù)左移一位,最低位置0,丟棄余數(shù),余數(shù)取被減數(shù)值⑦將余數(shù)左移一位減除數(shù),結(jié)果為正,商數(shù)左移一位,最低位置100000100b-00000110b余數(shù)(丟棄):11111110b商數(shù):00011010余數(shù):00000100b00001000b-00000110b商數(shù):00110101余數(shù):00000010b7/20/2023

06:04:48-24-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的除法運算⑧將余數(shù)左移一位減除數(shù),結(jié)果為負,商數(shù)左移一位,最低位置0,丟棄余數(shù),余數(shù)取被減數(shù)值,從而得到Q6格式的商數(shù)01.101010b和余數(shù)00.000100b⑨由于第①步曾對除數(shù)左移一位,因此應(yīng)對結(jié)果的小數(shù)點右移一位,得到Q5格式的結(jié)果011.01010b(3.3125),最高位MSB為符號位00000100b-00000110b余數(shù)(丟棄):11111110b商數(shù):01101010余數(shù):00000100b計算中,共進行了7次移位和條件減操作,得到8位(1個符號位和7個數(shù)據(jù)位)的結(jié)果要增加精度,可以增加移位和條件減的次數(shù),如15次移位和條件減可以得到16位的結(jié)果7/20/2023

06:04:48-25-定點和浮點數(shù)格式定點數(shù)的格式與運算定點數(shù)的算術(shù)運算定點數(shù)的除法運算對于兩個正的小數(shù)相除(Qn格式除以Qm格式)如Q3格式的00001.010b(1.25)除以Q2格式的000000.11b(0.75)把兩個正的小數(shù)看作兩個Q0格式的正整數(shù)相除,即00001010b(10)除以00000011b(3)與上面例子相同,結(jié)果為Q5格式011.01010b最后對結(jié)果的小數(shù)點位置移n-m位(若n-m>0則左移,若n-m<0則右移)對于本例3-2=1>0,則結(jié)果的小數(shù)點左移一位,最后結(jié)果為Q6格式01.101010b(1.65625)如果除法運算中包含負數(shù),應(yīng)將負數(shù)變換為等值的正數(shù),然后作除法運算,最后加上正確的符號除法運算的最優(yōu)實現(xiàn)依賴于DSP處理器7/20/2023

06:04:48-26-定點和浮點數(shù)格式浮點數(shù)的格式與運算2.3浮點數(shù)的格式與運算1.浮點數(shù)的格式1)IEEE754浮點數(shù)格式2)TMS320C3X浮點數(shù)格式3)浮點數(shù)的數(shù)值范圍、精度和動態(tài)范圍2.浮點數(shù)的算術(shù)運算1)浮點數(shù)的加減法運算2)浮點數(shù)的乘法運算3)浮點數(shù)的除法運算7/20/2023

06:04:48-27-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式浮點數(shù)表示為尾數(shù)和指數(shù)的形式式中,m為尾數(shù),e為指數(shù)符號、尾數(shù)和指數(shù)編碼在同一個二進制字中1.浮點數(shù)的格式符號、尾數(shù)和指數(shù)的位數(shù)和位域不同,浮點數(shù)格式不同,常用的浮點數(shù)格式有IEEE754標準定義的單精度格式和雙精度格式TI公司定義的TMS320C3X浮點數(shù)格式7/20/2023

06:04:48-28-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式IEEE754浮點數(shù)格式1)IEEE754浮點數(shù)格式單精度格式擴展單精度格式雙精度格式擴展雙精度格式浮點DSP處理器中,32位單精度格式用的最多有些32位浮點DSP處理器具有額外的硬件,支持對擴展單精度、甚至雙精度格式浮點數(shù)的處理7/20/2023

06:04:48-29-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式IEEE754浮點數(shù)格式最高位(第31位)為符號位s尾數(shù)f占用低23位指數(shù)e占用中間8位,取值范圍為0~255表示的數(shù)值7/20/2023

06:04:48-30-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式IEEE754浮點數(shù)格式通常情況,即1≤e≤254時尾數(shù)做了歸一化,為1.f格式的數(shù),f是尾數(shù)的小數(shù)部分,最左邊一位總是1,所以不需要存儲該位,1是隱含的23位的尾數(shù)實際上存放的是24位的尾數(shù)為使尾數(shù)歸一化,符合1.f格式,指數(shù)要適當增減,跟蹤歸一化所需的小數(shù)點左右移動的位數(shù)指數(shù)域有偏移,8位指數(shù)e偏移127后,指數(shù)值的范圍為-126~+127四種特殊情況①當e=0、f≠0時,尾數(shù)是個非歸一化的數(shù)②當e=0、f=0時,x=0③當e=255、f=0時,x為正(s=0)或負(s=1)的無窮大④當e=255、f≠0時,x為一個無效數(shù)(NaN—NotaNumber)最高位(第31位)為符號位s7/20/2023

06:04:48-31-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式IEEE754浮點數(shù)格式①32位單精度浮點數(shù)1100,0011,0101,0010,0000,0000,0000,0000b符號位s=1,表示是一個負數(shù)指數(shù)e=1000,0110b=134尾數(shù)f=101,0010,0000,0000,0000,0000b=0.640625浮點數(shù)=—1.640625×2(134-127)=-210.0②32位單精度浮點數(shù)0011,1101,0011,1110,0000,0000,0000,0000b符號位s=0,表示是一個正數(shù)指數(shù)e=0111,1010b=122尾數(shù)f=011,1110,0000,0000,0000,0000b=0.484375該浮點數(shù)=1.484375×2(122-127)=0.04638671875例7/20/2023

06:04:48-32-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式IEEE754浮點數(shù)格式許多32位浮點DSP處理器具有40位的運算單元,可以進行擴展單精度格式的浮點運算擴展單精度格式與單精度格式的區(qū)別是,擴展單精度格式的尾數(shù)增加了8位,達到31位7/20/2023

06:04:48-33-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式TMS320C3X浮點數(shù)格式2)TMS320C3X浮點數(shù)格式16位短浮點格式32位單精度格式40位擴展精度格式32位單精度浮點數(shù)格式用的最多7/20/2023

06:04:48-34-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式TMS320C3X浮點數(shù)格式高8位為指數(shù)e,指數(shù)域是二進制補碼數(shù),可以直接表示正負指數(shù)第23位為符號位s分數(shù)位f占用低23位符號位和分數(shù)位和起來成為尾數(shù)m,尾數(shù)是歸一化的二進制補碼數(shù)表示的數(shù)值7/20/2023

06:04:48-35-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式浮點數(shù)的數(shù)值范圍、精度和動態(tài)范圍3)浮點數(shù)的數(shù)值范圍、精度和動態(tài)范圍以IEEE754單精度浮點數(shù)為例數(shù)值范圍不考慮s,當e=254,f為全1最大的數(shù)(1-2-23)2127=1.701412×1038,加上符號就對應(yīng)為正的和負的最大數(shù)IEEE754單精度浮點數(shù)的數(shù)值范圍為,-1.701412×1038~1.701412×10387/20/2023

06:04:48-36-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式浮點數(shù)的數(shù)值范圍、精度和動態(tài)范圍精度尾數(shù)f為23位,f變化的最小值為1/223與定點數(shù)不同,這個最小值并不是浮點數(shù)的精度,精度還與指數(shù)有關(guān)浮點數(shù)的精度是變化的,與數(shù)值的大小有關(guān)定點數(shù)的數(shù)值是等間隔的由于指數(shù)項的存在,浮點數(shù)的變化不是等間隔的,指數(shù)大、數(shù)值大、數(shù)值間隔也大;相反,指數(shù)小、數(shù)值小、數(shù)值間隔也小7/20/2023

06:04:48-37-定點和浮點數(shù)格式浮點數(shù)的格式與運算浮點數(shù)的格式浮點數(shù)的數(shù)值范圍、精度和動態(tài)范圍最大數(shù)(1-2-23)2127不考慮s,當e=1,f為全零時,得到最小數(shù)2-126動態(tài)范圍動態(tài)范圍若考慮e=0、f0

時的情況,動態(tài)范圍還會更大浮點數(shù)的數(shù)值范圍和動態(tài)范圍都要比定點數(shù)大的

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論