HEVC變換部分總結(jié)

1、HEVC變換部分總結(jié)1、介紹DCT1.1、DCT矩陣的推導(dǎo)4*4 DCT變換公式： ， 將上式分解進(jìn)行先列變換： 再行變換： 將矩陣A中的系數(shù)乘以(根據(jù)公式：，此時(shí)m=2)，再 根據(jù)變換矩陣設(shè)計(jì)原則取近似數(shù)，就得到變換系數(shù)矩陣。尺寸為8*8、16*16、32*32的變換系數(shù)矩陣類似。 1.2 、DCT矩陣的性質(zhì)一維DCT變換的系數(shù)公式： （1）基向量為標(biāo)準(zhǔn)正交基，變換矩陣為正交矩陣。即： for ， for （2）DCT矩陣系數(shù)之間存在三角函數(shù)關(guān)系。（3）尺寸為的DCT矩陣中包含了尺寸為的DCT矩陣。（4）尺寸為的DCT矩陣可用個(gè)元素表示。比如：4*4可用64、83、36表示，8*8可用64、

2、89、83、75、50、36、18表示。除了64*64系數(shù)矩陣，其余尺寸都可用第一列元素表示（第一列元素中64出現(xiàn)兩次）。（5）偶數(shù)行是中心對(duì)稱的，奇數(shù)行是中心反對(duì)稱的。1.3、DCT矩陣的設(shè)計(jì) 設(shè)計(jì)固定的DCT矩陣是為了防止不同的生產(chǎn)商制作的編碼器和譯碼器不同而產(chǎn)生誤差。因?yàn)?.2小節(jié)提到的第4,5,6條DCT矩陣性質(zhì)在實(shí)現(xiàn)算法的過程中可以減少大量計(jì)算量，所以必須嚴(yán)格保持，其他性質(zhì)盡可能達(dá)到。同時(shí)，也要考慮到運(yùn)算中矩陣系數(shù)的比特深度帶來的運(yùn)算消耗?？偨Y(jié)DCT矩陣設(shè)計(jì)的原則：（1）盡可能的讓基向量為標(biāo)準(zhǔn)正交基。（2）DCT矩陣保持對(duì)稱性和反對(duì)稱性。（3）小尺寸的DCT矩陣嵌套在大尺寸的DCT矩

3、陣中。（4）8bit表示變換矩陣系數(shù)。（5）變換后移位前不超過32bit，移位后不超過16bit。（實(shí)驗(yàn)表明，如果用18bit或者20bit表示只會(huì)減少0.5%的BD-rate）（6）尺寸為的DCT矩陣可用個(gè)元素表示。1.4、DCT的作用DCT 將原始圖像信息塊轉(zhuǎn)換成代表不同頻率分量的系數(shù)集，這有兩個(gè)優(yōu)點(diǎn)：其一，信號(hào)常將其能量的大部分集中于頻率域的一個(gè)小范圍內(nèi)，這樣一來，描述不重要的分量 只需要很少的比特?cái)?shù)；其二，頻率域分解映射了人類視覺系統(tǒng)的處理過程，并允許后繼的量化過程滿足其靈敏度的要求。DCT 后的DCT 頻率系數(shù)個(gè)數(shù)與 DCT 前的像素塊個(gè)數(shù)相對(duì)應(yīng)，說明這個(gè)過程只是一個(gè)沒有壓縮作用的無

4、損變換過程。單獨(dú)一個(gè)圖像的全部 DCT 系數(shù)塊的頻譜幾乎都集中在最左上角的系數(shù)塊中。DCT 輸出的頻率系數(shù)矩陣最左上角的直流 （DC）系數(shù)幅度最大；以 DC 系數(shù)為出發(fā)點(diǎn)向下、向右的其它 DCT 系數(shù)，離 DC 分量越遠(yuǎn)，頻率越高，幅度值越小，即圖像信息的大部分集中于直流系數(shù)及其附近的低頻頻譜上，離 DC 系數(shù)越來越遠(yuǎn)的高頻頻譜幾乎不含圖像信息，甚至于只含雜波。DCT 本身雖然沒有壓縮作用，卻為以后壓縮時(shí)的"取"、"舍" 奠定了必不可少的基礎(chǔ)。2、DCT的實(shí)現(xiàn)2.1、使用中間變量存儲(chǔ)運(yùn)算結(jié)果從32*32的DCT矩陣中抽出4*4的矩陣進(jìn)行一維列反變換 直接

5、計(jì)算 （1）使用中間變量 （2） （3）ADD/SUB （4）代碼如下： O0 = g_aiT410*srcline + g_aiT430*src3*line; O1 = g_aiT411*srcline + g_aiT431*src3*line; E0 = g_aiT400*src0 + g_aiT420*src2*line;E1 = g_aiT401*src0 + g_aiT421*src2*line;dst0 = Clip3( -32768, 32767, (E0 + O0 + add)>>shift );dst1 = Clip3( -32768, 32767, (E1 +

6、O1 + add)>>shift );dst2 = Clip3( -32768, 32767, (E1 - O1 + add)>>shift );dst3 = Clip3( -32768, 32767, (E0 - O0 + add)>>shift );前四行代碼對(duì)應(yīng)（2）（3）兩式，即使用中間變量O0、O1、E0、E1。后四行代碼對(duì)應(yīng)（4）式。一維4*4反變換按照（1）式直接進(jìn)行矩陣相乘，需要16次乘法和12次加法。如果是進(jìn)行二維反變換，需要128次乘法和96次加法。按照（2）式的方法使用中間變量存儲(chǔ)運(yùn)算結(jié)果，一維反變換需要6次乘法和8次加法，二維反變換需

7、要48次乘法和64次加法。2.2、大尺寸DCT矩陣運(yùn)算使用小尺寸矩陣運(yùn)算方法Even part (5) （6）ADD/SUB (7) 對(duì)比（3）式和（1），會(huì)發(fā)現(xiàn)，8*8DCT反變換的偶數(shù)部分運(yùn)算其實(shí)就是4*4DCT反變換。有了這個(gè)發(fā)現(xiàn)，再用上一小節(jié)的方法可以進(jìn)一步減少運(yùn)算量。8*8反變換代碼如下：for (k=0;k<4;k+) Ok = g_aiT8 1k*srcline + g_aiT8 3k*src3*line + g_aiT8 5k*src5*line + g_aiT8 7k*src7*line; EO0 = g_aiT820*src 2*line + g_aiT860*src

8、 6*line ; EO1 = g_aiT821*src 2*line + g_aiT861*src 6*line ; EE0 = g_aiT800*src 0 + g_aiT840*src 4*line ; EE1 = g_aiT801*src 0 + g_aiT841*src 4*line ; E0 = EE0 + EO0; E3 = EE0 - EO0; E1 = EE1 + EO1; E2 = EE1 - EO1; for (k=0;k<4;k+) dst k = Clip3( -32768, 32767, (Ek + Ok + add)>>shift ); dst

9、k+4 = Clip3( -32768, 32767, (E3-k - O3-k + add)>>shift ); 第一個(gè)for循環(huán)里處理奇數(shù)行運(yùn)算，對(duì)應(yīng)（6）。接下來八行代碼是處理偶數(shù)行運(yùn)算，也就是做一個(gè)4*4DCT反變換。一維8*8反變換直接進(jìn)行矩陣相乘，需要65次乘法和56次加法。如果是進(jìn)行二維反變換，需要1024次乘法和896次加法。按照上述方法，一維反變換需要22次乘法和28次加法，二維反變換需要352次乘法和448次加法。當(dāng)對(duì)16*16矩陣反變換時(shí)，它的偶數(shù)部分運(yùn)算其實(shí)就是8*8DCT反變換，運(yùn)算8*8DCT反變換時(shí)又可以用到4*4DCT反變換。32*32矩陣反變換是同

10、理。 32*32 IDCT 流程示意圖8*8DCT快速算法蝶形圖：3、DCT的精度控制變換計(jì)算代碼： 3.1、移位精度（>>shift）移位的位數(shù)必須滿足下面的約束：（1）每一次運(yùn)算完的中間值必須是16bit深度。（2）因?yàn)樽儞Q矩陣系數(shù)都擴(kuò)大了,在進(jìn)行二維變換和二維反變換后，結(jié)果會(huì)擴(kuò)大倍，所以在運(yùn)算中所有移位之和為右移24+2M位。以4*4DCT為例。（1）假設(shè)出現(xiàn)最差情況，也就是將要作變換的殘差矩陣的系數(shù)全為最大幅度即 =255。為了運(yùn)算方便，把最大幅度設(shè)為。即：（2）一維列變換后最大的輸出值為，為使得這個(gè)值在16bit深度內(nèi)，乘以，即右移位數(shù)為(B+M-9)位。即： 移位：（3

11、）一維行變換前系數(shù)矩陣只有第一行的數(shù)為，其余全為0。則行變換后最大的輸出值為。為使得這個(gè)值在16bit深度內(nèi)，乘以，即右移位數(shù)為(M+6)位。即：移位：（4）一維列反變換之前系數(shù)矩陣只有最左上角的數(shù)為，其余全為0。輸出矩陣中最大的系數(shù)為。為使得這個(gè)值在16bit深度內(nèi)，乘以，即右移位數(shù)為6位。即：移位：（5）一維行反變換之前系數(shù)矩陣只有第一列的數(shù)為，其余全為0。輸出矩陣中最大的系數(shù)為。為使得這個(gè)值在B bit深度內(nèi)，乘以，即右移位數(shù)為21-B位。即：移位：因?yàn)榱炕襟E可能導(dǎo)致在進(jìn)行一維列反變換之前矩陣系數(shù)超過，所以一維列反變換多右移一位，調(diào)整為7位，一維行反變換少右移一位，調(diào)整為20-B位。3.2、補(bǔ)償精度（+add）變換結(jié)果右移n位，必然會(huì)導(dǎo)致精度的丟失。add為。變換結(jié)果加上再右移n為，可以保證精度誤差不超過。4、介紹DSTDST（Discrete Sine Transform）：離散正弦變換。DST的變換公式原型：經(jīng)過幀內(nèi)預(yù)測(cè)后，預(yù)測(cè)殘差仍然存在著一定的方向性。當(dāng)預(yù)測(cè)方向是垂直方向的話，預(yù)測(cè)殘差會(huì)沿著垂直方向有逐漸增大的趨勢(shì)；同樣當(dāng)預(yù)測(cè)方向是水平方向的話，預(yù)測(cè)殘差會(huì)沿著水平方向有逐漸增大的趨勢(shì)。因?yàn)楫?dāng)前像素與參考像素之間的距離越遠(yuǎn)，它們之間的