專利名稱：一種視頻編碼8x8整數(shù)變換方法
技術(shù)領(lǐng)域：
本發(fā)明涉及視頻編碼技術(shù)領(lǐng)域，尤其涉及一種視頻編碼8x8整數(shù)變換方法。
背景技術(shù)：
一套完整的視頻編碼系統(tǒng)是由預(yù)測(cè)、變換、量化、熵編碼等一系列算法模塊組成的。其中幀內(nèi)幀間預(yù)測(cè)是利用視頻數(shù)據(jù)在空間和時(shí)間上的相關(guān)性壓縮數(shù)據(jù)。變換模塊是將預(yù)測(cè)模塊輸出的圖像殘差數(shù)據(jù)由時(shí)域變換到另一個(gè)空間上，使時(shí)域上平坦分布的數(shù)據(jù)在變換空間上能量集中，將數(shù)據(jù)的能量大部分集中在空間的低頻區(qū)域中。在隨后的量化和熵編碼模塊中，會(huì)有效的利用變換后的數(shù)據(jù)分布特征，進(jìn)一步壓縮數(shù)據(jù)。顯而易見(jiàn)，變換模塊是視頻編碼系統(tǒng)中重要的組成部分，變換的性能直接影響視頻編碼系統(tǒng)的性能。在現(xiàn)有視頻編碼系統(tǒng)中，DCT變換得到了廣泛的應(yīng)用，其變換的能量集中性很好， 可以極大地消除視頻數(shù)據(jù)在變換空間上的相關(guān)性。但是這種算法存在不足，DCT變換矩陣是浮點(diǎn)表示的，計(jì)算過(guò)程中使用大量的浮點(diǎn)乘法和加法，占用硬件資源多，計(jì)算復(fù)雜的大。同時(shí)由于處理器運(yùn)算位數(shù)影響，浮點(diǎn)運(yùn)算存在截?cái)嗾`差，浮點(diǎn)計(jì)算精度不高，DCT正反變換不能完全匹配，變換不可逆。

發(fā)明內(nèi)容
本發(fā)明實(shí)施例的目的在于提出一種視頻編碼8x8整數(shù)變換方法，旨在解決現(xiàn)有技術(shù)DCT變換矩陣采用浮點(diǎn)乘法和加法，占用硬件資源多，計(jì)算復(fù)雜的大，計(jì)算精度不高，DCT 正反變換不能完全匹配，變換不可逆的問(wèn)題。本發(fā)明實(shí)施例的方法是這樣實(shí)現(xiàn)的，一種視頻編碼8x8整數(shù)變換方法，包括步驟1，接收編碼器中預(yù)測(cè)模塊輸出的8x8的圖像殘差數(shù)據(jù)X ；步驟2，選取整數(shù)變換基，構(gòu)建變換矩陣，8x8的通用整數(shù)變換矩陣為
權(quán)利要求
1. 一種視頻編碼8x8整數(shù)變換方法，包括步驟1，接收編碼器中預(yù)測(cè)模塊輸出的8x8的圖像殘差數(shù)據(jù)X ；步驟2，選取整數(shù)變換基，構(gòu)建變換矩陣，8x8的通用整數(shù)變換矩陣為IcQkOkOkOkOkOkOkOklklk3kA-k4-k3-k2-klk5k6-k6-k5-k5-k6k6k5kl-k4-k\-k3k3klk4-k2kO-kO-kOkOkO-kO-kOkOk3-klkAkl-kl-kAkl-k3k6-k5k5-k6-k6k5-k5k6k4-k3k2-klkl-klk3-kA矩陣C中，k0、k5、li6分別取值1、2、1，[klk2k3k4]為整數(shù)變換基； 步驟3，根據(jù)變換矩陣P，構(gòu)建縮放矩陣PF， PF = ZT*Z 其中，Zt = [1/|Imll|1/ |m2||1/||m3||l/||m4||l/||m5||l/||m6||l/||m7||l/||m8 ] 為變換矩陣P的行向量，i取值為1-8 ； I ImiI I為行向量Hii的向量范數(shù)；步驟4，正變換，對(duì)8x8的圖像殘差數(shù)據(jù)X進(jìn)行整數(shù)變換，變換公式為Y = PXPt ；其中P 為所述的變換矩陣；X為所述的圖像殘差數(shù)據(jù)；步驟5，對(duì)經(jīng)過(guò)8x8正變換后的數(shù)據(jù)Y進(jìn)行縮放處理， Y' = Y PF(E)是矩陣的點(diǎn)乘運(yùn)算，Y是經(jīng)過(guò)8x8正變換后的數(shù)據(jù)，PF是縮放矩陣，Y'是本縮放處理后的輸出值，代表視頻數(shù)據(jù)變換到頻域上的信息； 其特征在于所述整數(shù)變換基為以下數(shù)值中的一個(gè) [15,15,10,3], [6，7，5，1]。
2.如權(quán)利要求1所述的視頻編碼8x8整數(shù)變換方法，其特征在于，步驟4中的變換的基本單元是形如y = I3X的8點(diǎn)一維變換，其中χ = [xlxh3x^h6x7x8]T，輸出的y = [yly2y3y4y5y6y7y8]T, xlx2x3x4x5x6x7x8表示整數(shù)變換的一維正變換的輸入八點(diǎn)數(shù)值； yly2y3y4y5y6y7y8為正變換的八點(diǎn)輸出數(shù)值。
3.如權(quán)利要求1所述的視頻編碼8x8整數(shù)變換方法，其特征在于，所述整數(shù)變換基取值為[15,15,10,3]時(shí)
4.如權(quán)利要求1所述的視頻編碼8x8整數(shù)變換方法，其特征在于，所述當(dāng)整數(shù)變換基取值為[15，15，10，3]時(shí)，“對(duì)8x8的圖像殘差數(shù)據(jù)X進(jìn)行整數(shù)變換，變換公式為Y = PXPt”計(jì)算過(guò)程如下
5.如權(quán)利要求1所述的視頻編碼8x8整數(shù)變換方法，其特征在于，所述整數(shù)變換基取值為[6，7，5，1]時(shí)所述變換矩陣P=
6.如權(quán)利要求1所述的視頻編碼8x8整數(shù)變換方法，其特征在于，所述當(dāng)整數(shù)變換基取值為[6，7，5，1]時(shí)，“對(duì)8x8的圖像殘差數(shù)據(jù)X進(jìn)行整數(shù)變換，變換公式為Y = PXPt”計(jì)算過(guò)程如下bl = xl-x8 ；b2 = x2-x7 ；b3 = x3_x6 ；b4 = x4_x5 ；b5 = xl+x8 ；b6 = x2+x7 ；b7 = x3+x6 ；b8 = x4+x5 ；al = b5+b8 ；a2 = b6+b7 ；a3 = b5-b8 ；a4 = b6-b7 ；yl = al+a2 ；y5 = al-a2 ；y3 = a3 << l+a4 ；y7 = a3_a4 << 1 ； 再完成以下計(jì)算步驟
全文摘要
本發(fā)明公開(kāi)一種視頻編碼8x8整數(shù)變換方法，通過(guò)接收編碼器中預(yù)測(cè)模塊輸出的8x8的圖像殘差數(shù)據(jù)X，選取不同整數(shù)變換基([15，15，10，3]或[6，7，5，1])，構(gòu)建變換矩陣P；根據(jù)變換矩陣P，構(gòu)建縮放矩陣PF(PF＝ZT*Z)；對(duì)圖像殘差數(shù)據(jù)X進(jìn)行正變換(Y＝PXPT)，并根據(jù)不同的整數(shù)變化基，采用相應(yīng)的整數(shù)變換計(jì)算方法；對(duì)經(jīng)過(guò)8x8正變換后的數(shù)據(jù)Y進(jìn)行縮放處理。本發(fā)明的變換方法能量集中性能優(yōu)秀，能量集中度接近8x8DCT，可以極大地消除視頻數(shù)據(jù)在變換空間上的相關(guān)性；計(jì)算復(fù)雜度低，可通過(guò)加法和移位來(lái)實(shí)現(xiàn)，易于硬件實(shí)現(xiàn)，并且運(yùn)算精度高，不存正反變換不匹配的問(wèn)題。
文檔編號(hào)H04N7/50GK102227135SQ20111010141
公開(kāi)日2011年10月26日 申請(qǐng)日期2011年4月20日 優(yōu)先權(quán)日2011年4月20日
發(fā)明者徐蘇珊 申請(qǐng)人:深圳市融創(chuàng)天下科技發(fā)展有限公司