基于ssae和fsals-svm極化sar圖像分類的制作方法
【專利摘要】本發(fā)明的目的是提供一種基于SSAE和FSALS-SVM的極化SAR圖像分類方法。它利用棧式稀疏自動(dòng)編碼器(SSAE)的多隱層結(jié)構(gòu),獲得具有對(duì)原始數(shù)據(jù)更本質(zhì)的刻畫能力并且更適合分類的深度特征,并用能夠獲得問題稀疏解的快速稀疏逼近最小二乘支持向量機(jī)(FSALS-SVM)代替?zhèn)鹘y(tǒng)深度學(xué)習(xí)中常用的Softmax,與SSAE相結(jié)合,提高了對(duì)極化SAR圖像的分類精度,并在一定程度上克服了傳統(tǒng)基于像素的極化SAR圖像分類方法受相干斑噪聲影響大的缺點(diǎn),保證了分類結(jié)果圖中勻質(zhì)區(qū)域的連貫性。
【專利說明】基于SSAE和FSALS-SVM極化SAR圖像分類
【技術(shù)領(lǐng)域】
[0001]本發(fā)明涉及圖像處理領(lǐng)域,針對(duì)極化SAR圖像分類問題,提出了一種基于棧式稀疏自動(dòng)編碼器(SSAE)和快速稀疏逼近最小二乘支持向量機(jī)(FSALS-SVM)的極化SAR圖像分類方法,可用于開展航空航天影像、天文學(xué)影像、軍事等領(lǐng)域的數(shù)字圖像預(yù)處理。
【背景技術(shù)】
[0002]合成孔徑雷達(dá)(SAR)由于其全天時(shí)、全天候的工作能力,以及其分辨率高、能有效識(shí)別偽裝和穿透掩蓋物等特點(diǎn)而被廣泛應(yīng)用于遙感和地圖測繪等領(lǐng)域。在近二十年來,極化SAR已被證明能夠獲得比傳統(tǒng)的單極化SAR更加豐富的地物信息。目前,全球許多極化SAR系統(tǒng),如TerraSAR-X、RADARSAT-2、AL0S-PALSAR等,已經(jīng)提供了大量的極化SAR數(shù)據(jù)以供研究。然而,對(duì)這些大規(guī)模、復(fù)雜的數(shù)據(jù)進(jìn)行人為手動(dòng)研究是不現(xiàn)實(shí)的。因此,對(duì)極化SAR數(shù)據(jù)進(jìn)行全自動(dòng)或半自動(dòng)研究是迫切需要的,其中極化SAR圖像分類是極化SAR信息處理的一個(gè)重要分支。
[0003]極化SAR圖像分類作為極化SAR圖像解譯的重要步驟,許多學(xué)者都對(duì)其進(jìn)行了深入的研究,所提出的方法大致可以分為以下三類:1、基于極化散射機(jī)制的分類方法,它的特點(diǎn)是利用不同類的先驗(yàn)知識(shí)對(duì)圖像進(jìn)行分類;2、基于極化SAR圖像統(tǒng)計(jì)特性的分類方法,以最大似然法和最大后驗(yàn)概率法為代表;3、基于二者結(jié)合的分類方法。然而,所有這些方法都可歸結(jié)成基于像素的方法?;谙袼氐姆椒?僅利用單個(gè)像素本身的特性對(duì)圖像進(jìn)行分類。這類方法在確定當(dāng)前像素類別時(shí),將每個(gè)像素都看成是獨(dú)立的,不受周圍像素的影響,能較好的保留圖像細(xì)節(jié)。
【發(fā)明內(nèi)容】
[0004]本發(fā)明的目的在于針對(duì)已有技術(shù)的不足,提出一種基于SSAE和FSALS-SVM的極化SAR圖像分類方法,以提高分類效果,使分類結(jié)果更吻合真實(shí)地物。
[0005]為實(shí)現(xiàn)上述目的,本發(fā)明包括如下步驟:
[0006]步驟1,對(duì)待輸入的所有極化SAR圖像數(shù)據(jù)進(jìn)行預(yù)處理,獲得無標(biāo)記訓(xùn)練樣本和帶標(biāo)記訓(xùn)練樣本;
[0007]步驟2,將每個(gè)稀疏自動(dòng)編碼器(SAE)均作為構(gòu)成棧式稀疏自動(dòng)編碼器(SSAE)的一個(gè)基本單元,并將前一個(gè)SAE的輸出作為后一個(gè)SAE的輸入來逐個(gè)訓(xùn)練SAE,以獲得每個(gè)SAE的模型參數(shù),其中,步驟I中得到的所有無標(biāo)記訓(xùn)練樣本作為首個(gè)SAE的輸入,優(yōu)選地,本發(fā)明中的SAE個(gè)數(shù)為2 ;
[0008]步驟3,將步驟2中獲得的多個(gè)SAE級(jí)聯(lián)在一起構(gòu)成SSAE,并將步驟I中得到的帶標(biāo)記訓(xùn)練樣本輸入該SSAE,進(jìn)行前饋傳導(dǎo)計(jì)算,獲得這些帶標(biāo)記訓(xùn)練樣本的深度特征;
[0009]步驟4,將深度特征進(jìn)行歸一化處理后,輸入到快速稀疏逼近最小二乘支持向量機(jī)(FSALS-SVM),通過迭代訓(xùn)練獲得訓(xùn)練后的FSALS-SVM分類器;
[0010]步驟5,將預(yù)處理后的待分類極化SAR圖像數(shù)據(jù),即步驟I中得到的無標(biāo)記訓(xùn)練樣本,輸入到棧式稀疏自動(dòng)編碼器,獲得數(shù)據(jù)的深度特征,并將這些特征輸入到訓(xùn)練后的FSALS-SVM分類器,獲得圖像的最終分類結(jié)果。
[0011]本發(fā)明與現(xiàn)有的技術(shù)相比具有以下優(yōu)點(diǎn):
[0012]1.本發(fā)明在獲得圖像分類特征時(shí),利用了棧式稀疏自動(dòng)編碼器,輸入僅為經(jīng)過簡單預(yù)處理后的原始極化SAR協(xié)方差數(shù)據(jù),避免了傳統(tǒng)在對(duì)極化SAR圖像進(jìn)行分類前,復(fù)雜的基于極化目標(biāo)的特征分解過程;
[0013]2.由于棧式稀疏自動(dòng)編碼器具有多隱層的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),它具有優(yōu)異的特征學(xué)習(xí)能力,學(xué)習(xí)得到的特征對(duì)數(shù)據(jù)有更本質(zhì)的刻畫,從而有利于可視化和分類;
[0014]3.本發(fā)明用FSALS-SVM代替了傳統(tǒng)深度學(xué)習(xí)常用的Softmax分類器,它能夠獲得問題的稀疏解,克服了 LS-SVM因計(jì)算復(fù)雜度高而不利于大規(guī)模數(shù)據(jù)分類的缺點(diǎn),降低了分類所耗的時(shí)間復(fù)雜度,與棧式稀疏自動(dòng)編碼器結(jié)合,提高了分類精度,并在一定程度上加強(qiáng)了分類結(jié)果中勻質(zhì)區(qū)域的連貫性。
【專利附圖】
【附圖說明】
[0015]圖1是本發(fā)明的主流程圖;
[0016]圖2是本發(fā)明仿真使用的極化SAR數(shù)據(jù)的PauliRGB合成圖;
[0017]圖3是用現(xiàn)有基于SVM的分類方法對(duì)圖2的分類結(jié)果圖;
[0018]圖4是用現(xiàn)有基于Wishart分布的分類方法對(duì)圖2的分類結(jié)果圖;
[0019]圖5是用本發(fā)明對(duì)圖2的分類結(jié)果圖。
【具體實(shí)施方式】
[0020]參照?qǐng)D1,本發(fā)明的具體實(shí)現(xiàn)步驟如下:
[0021]步驟1,對(duì)待輸入的所有極化SAR圖像數(shù)據(jù)進(jìn)行預(yù)處理,獲得無標(biāo)記訓(xùn)練樣本和帶標(biāo)記訓(xùn)練樣本。
[0022](Ia)對(duì)待輸入的所有極化SAR圖像數(shù)據(jù)進(jìn)行滑窗大小為7X7的Lee濾波;
[0023](lb) Lee濾波后的極化SAR圖像的任一像素點(diǎn)η均可表示為一個(gè)3 X 3協(xié)方差矩陣Mn =
【權(quán)利要求】
1.一種基于SSAE和FSALS-SVM極化SAR圖像分類方法,包括如下步驟: 步驟1,對(duì)待輸入的所有極化SAR圖像數(shù)據(jù)進(jìn)行預(yù)處理,獲得無標(biāo)記訓(xùn)練樣本和帶標(biāo)記訓(xùn)練樣本; 步驟2,將每個(gè)稀疏自動(dòng)編碼器(SAE)均作為構(gòu)成棧式稀疏自動(dòng)編碼器(SSAE)的一個(gè)基本單元,并將前一個(gè)SAE的輸出作為后一個(gè)SAE的輸入來逐個(gè)訓(xùn)練SAE,以獲得每個(gè)SAE的模型參數(shù),其中,步驟I中得到的所有無標(biāo)記訓(xùn)練樣本作為首個(gè)SAE的輸入; 步驟3,將步驟2中獲得的多個(gè)SAE級(jí)聯(lián)在一起,構(gòu)成SSAE,并將步驟I中得到的帶標(biāo)記訓(xùn)練樣本輸入該SSAE,進(jìn)行前饋傳導(dǎo)計(jì)算,獲得這些帶標(biāo)記訓(xùn)練樣本的深度特征; 步驟4,將深度特征進(jìn)行歸一化處理后,輸入到快速稀疏逼近最小二乘支持向量機(jī)(FSALS-SVM),通過迭代訓(xùn)練獲得訓(xùn)練后的FSALS-SVM分類器; 步驟5,輸入預(yù)處理后的待分類極化SAR圖像,經(jīng)過棧式稀疏自動(dòng)編碼器,獲得數(shù)據(jù)的深度特征,并將其輸入到訓(xùn)練后的FSALS-SVM分類器,獲得圖像的最終分類結(jié)果。
2.根據(jù)權(quán)利要求1所述的極化SAR圖像分類方法,其中,對(duì)待輸入的所有極化SAR圖像數(shù)據(jù)進(jìn)行預(yù)處理,獲得無標(biāo)記訓(xùn)練樣本和帶標(biāo)記訓(xùn)練樣本包括: (Ia)對(duì)待輸入的所有極化SAR圖像數(shù)據(jù)進(jìn)行滑窗大小為7X7的Lee濾波; (Ib)Lee濾波后的極化SAR圖像的任一像素點(diǎn)η均可表示為一個(gè)3 X 3協(xié)方差矩陣Mn:
其中,n e [1,2,…,N],N為該極化SAR圖像所包含的像素點(diǎn)個(gè)數(shù),矩陣Mn中的大寫字母A~I均為實(shí)數(shù),可將這些字母組成列向量tn= [A BCDEFGH Ι]τ,對(duì)每個(gè)像素點(diǎn)η所表示的列向量tn依次排放,構(gòu)成整個(gè)待分類樣本集; (Ic)對(duì)(Ib)中得到的待分類樣本集進(jìn)行簡單地處理使其利于分類,在本發(fā)明中,優(yōu)選地,根據(jù)極化SAR圖像數(shù)據(jù)本身的特點(diǎn),直接對(duì)該待分類樣本集統(tǒng)一乘以一個(gè)較大的整數(shù)Q就可獲得比較好的分類結(jié)果; (Id)將(Ic)中簡單地處理后的待分類樣本集中的所有樣本均作為無標(biāo)記訓(xùn)練樣本,并根據(jù)真實(shí)地物類別,隨機(jī)選取無標(biāo)記樣本中的一部分進(jìn)行標(biāo)記,作為帶標(biāo)記訓(xùn)練樣本。
3.根據(jù)權(quán)利要求1所述的極化SAR圖像分類方法,其中,Q= 500。
4.根據(jù)權(quán)利要求1所述的極化SAR圖像分類方法,其中,將每個(gè)稀疏自動(dòng)編碼器(SAE)均作為構(gòu)成棧式稀疏自動(dòng)編碼器(SSAE)的一個(gè)基本單元進(jìn)行訓(xùn)練的過程: (2a)將步驟I中得到的所有無標(biāo)記訓(xùn)練樣本作為首個(gè)SAE的輸入X,分別設(shè)置該SAE輸入單元、隱藏單元和輸出單元的個(gè)數(shù)。優(yōu)選地,該SAE的輸入單元和輸出單元的個(gè)數(shù)均為9,隱藏單元的個(gè)數(shù)為50。 (2b)隨機(jī)初始化模型參數(shù)W/1)、W/2)、b[1}, fcf)?其中,W/1)表示首個(gè)SAE中輸入單元和隱藏單元間的連接權(quán)重,W/2)表示首個(gè)SAE中隱藏單元和輸出單元間的連接權(quán)重,b(t1}m示首個(gè)SAE中隱藏單元的偏置項(xiàng),If)表示首個(gè)SAE中輸出單元的偏置項(xiàng)。計(jì)算隱藏單元和輸出單元的激活值,并利用梯度下降法,最小化SSAE的整體代價(jià)函數(shù)Jspa_,從而獲得訓(xùn)練后的模型參數(shù)(2c)重新將步驟I中得到的所有無標(biāo)記訓(xùn)練樣本作為首個(gè)SAE的輸入X,利用求得的模型參數(shù)、Iif)'可以計(jì)算出該SAE隱藏單元的激活值,并將該激活值作為第二個(gè)SAE的輸入,設(shè)置該SAE輸入單元、隱藏單元和輸出單元的個(gè)數(shù)。優(yōu)選地,該SAE的輸入單元和輸出單元的個(gè)數(shù)均為50,隱藏單元的個(gè)數(shù)為100 ;(2d)隨機(jī)初始化第二個(gè)SAE的模型參數(shù)W2(1)、W2 (2)、b{p、fcf),其中,下標(biāo)2代表第二個(gè)SAE,重復(fù)步驟(2b)進(jìn)行訓(xùn)練,即可獲得第二個(gè)SAE訓(xùn)練后的模型參數(shù)Ilf*; (2e)令r表示第r個(gè)SAE’若r小于所需SAE的個(gè)數(shù)R,則隨機(jī)初始化第r個(gè)SAE的模型參數(shù)W/1)、W/2)、42),將第r-Ι個(gè)SAE中隱藏單元的激活值作為第r個(gè)SAE的輸入,并設(shè)置第r個(gè)SAE輸入單元、隱藏單元和輸出單元的個(gè)數(shù),重復(fù)步驟(2b)進(jìn)行訓(xùn)練,即可獲得第r個(gè)SAE訓(xùn)練后的模型參數(shù)M//1) ? bp);否則,停止訓(xùn)練。優(yōu)選地,R = 2。
5.根據(jù)權(quán)利要求3所述的極化SAR圖像分類方法,其中,隨機(jī)初始化模型參數(shù),計(jì)算隱藏單元和輸出單元的激活值,并利用梯度下降法,最小化棧式稀疏自動(dòng)編碼器的整體代價(jià)函數(shù),從而獲得訓(xùn)練后的模型參數(shù)包括: (3a)隨機(jī)初始化連接權(quán)重W/1)、W/2),使它們均為范圍在
內(nèi)的數(shù),偏置項(xiàng)為O,其中nin表示當(dāng)前SAE中輸入單元的個(gè)數(shù),Iitjut表示當(dāng)前SAE中輸出單元的個(gè)數(shù); (3b)利用如下前項(xiàng)傳遞函數(shù)F: a(i+i) = F(ff(1)a(1)+b(1)) 進(jìn)行前饋傳導(dǎo)計(jì)算,分別得到隱藏單元和輸出單元的激活值a(2)、a(3)。其中,對(duì)任一 SAE均有,I e {I, 2}即I可以取值I或2,a(1)表示輸入單元的激活值,a(2)表示隱藏單元的激活值,a(3)表示輸出單元的激活值; (3c)定義SSAE的整體代價(jià)函數(shù)Jspa_:
其中,第一項(xiàng)
為均方差項(xiàng),第二項(xiàng)__|為權(quán)重衰減項(xiàng),其目的在于減小權(quán)重幅度防止過度擬合,第三項(xiàng)
為稀疏性懲罰因子,用于將隱藏單元的平均活躍度保持在較小的范圍內(nèi),W表示輸入單元和隱藏單元之間的連接權(quán)重w(1)與隱藏單元和輸出單元之間的連接權(quán)重w(2)的轉(zhuǎn)置的集合,即
_⑶T表示矩陣W⑵的轉(zhuǎn)置,m表示輸入SAE的樣本個(gè)數(shù),夕(O和y⑴分別表示輸入第i個(gè)樣本時(shí)得到的實(shí)際輸出結(jié)果和理想輸出結(jié)果,Ilf? -yWf的上標(biāo)2表示平方,If? — 表示實(shí)際輸出結(jié)果與理想輸出結(jié)果之間誤差的平方,丨丨,丨§的上標(biāo)2表示平方,下標(biāo)F表示F范數(shù),則丨IWrIIl表示W(wǎng)的F范數(shù)的平方,λ為權(quán)重衰減參數(shù),β為控制稀疏性懲罰因子的權(quán)重,s為隱藏單元的個(gè)數(shù),P為稀疏性參數(shù),巧表示第j個(gè)隱藏單元的平均活躍度,它可由下式計(jì)算得到:
其中,of Vw)表示在輸入第i個(gè)樣本x(i)的時(shí)隱藏單元j的激活度,上標(biāo)2表示隱藏單元。利用反向傳波算法,計(jì)算整體代價(jià)函數(shù)Jspa^的梯度; (3d)通過梯度下降法求解代價(jià)函數(shù)1__的最小化問題,從而獲得訓(xùn)練后的模型參數(shù).,.(I)' * (I)*
6.根據(jù)權(quán)利要求3所述的極化SAR圖像分類方法,其中,參數(shù)P=0.1、β =3、λ =0.003。
7.根據(jù)權(quán)利要求1所述的極化SAR圖像分類方法,其中,獲得帶標(biāo)記訓(xùn)練樣本的深度特征包括:將步驟2中獲得的R個(gè)SAE級(jí)聯(lián)在一起構(gòu)成SSAE后,將帶標(biāo)記的訓(xùn)練樣本輸入該SSAE,進(jìn)行前饋傳導(dǎo)計(jì)算,獲得這些帶標(biāo)記訓(xùn)練樣本的深度特征。
8.根據(jù)權(quán)利要求1所述的極化SAR圖像分類方法,其中,將深度特征進(jìn)行歸一化處理后,輸入到快速稀疏逼近最小二乘支持向量機(jī)(FSALS-SVM),通過迭代訓(xùn)練獲得訓(xùn)練后的FSALS-SVM分類器包括: (4a)設(shè)置FSALS-SVM分類器中所用的核函數(shù); (4b)計(jì)算步驟3中獲得的這些帶標(biāo)記訓(xùn)練樣本的深度特征的均值mean和方差std,并將這些深度特征的取值范圍規(guī)整化為零均值和單位方差,得到歸一化的深度特征; (4c)將第k類(k ^ I)訓(xùn)練樣本標(biāo)記為1,其余類別均標(biāo)記為-1,變?yōu)榈趉類的二分類問題; (4d)輸入歸一化的深度特征,并利用(4c)中得到的第k類的二分類問題訓(xùn)練FSALS-SVM分類器,并在獲得第k類參數(shù)后,令k的值加I ; (4e)若k大于訓(xùn)練樣本類別數(shù)K,則停止訓(xùn)練,并將獲得的第I類到第K類參數(shù)共K類參數(shù)依次排列后所構(gòu)成的集合,作為訓(xùn)練后的FSALS-SVM分類器參數(shù),獲得訓(xùn)練后的FSALS-SVM分類器;否則,重復(fù)步驟(4c)~(4e),本發(fā)明的實(shí)施例中,根據(jù)真實(shí)地物的類別總數(shù)確定K = 9。
9.根據(jù)權(quán)利要求1所述的極化SAR圖像分類方法,其中,將步驟I中得到的無標(biāo)記訓(xùn)練樣本輸入到SSAE,獲得深度特征,并將這些特征輸入到訓(xùn)練后的FSALS-SVM分類器,獲得圖像的最終分類結(jié)果包括: (5a)將步驟I中得到的無標(biāo)記訓(xùn)練樣本輸入到SSAE,通過前饋傳導(dǎo)計(jì)算,獲得這些無標(biāo)記訓(xùn)練樣本的深度特征; (5b)將(5a)中獲得的深度特征的取值范圍規(guī)整化為零均值和單位方差,得到歸一化的深度特征; 優(yōu)選地,利用步驟(4b)中得到的均值mean和方差std,將(5a)中獲得的深度特征的取值范圍規(guī)整化為零均值和單位方差,得到歸一化的深度特征; (5c)將歸一化深度特征輸入到訓(xùn)練后的FSALS-SVM分類器,獲得最終分類結(jié)果。
【文檔編號(hào)】G06K9/62GK104166859SQ201410395368
【公開日】2014年11月26日 申請(qǐng)日期:2014年8月13日 優(yōu)先權(quán)日:2014年8月13日
【發(fā)明者】焦李成, 劉芳, 劉宸榮, 馬文萍, 馬晶晶, 王爽, 侯彪, 李陽陽 申請(qǐng)人:西安電子科技大學(xué)