深度遷移學習與高光譜遙感圖像不期而遇后？

發(fā)布日期：2019-05-29 00:00 瀏覽量：10850

在過去40年不到的時間里，遙感在理論、技術和應用上都得到了飛速的進步，其高光譜遙感的出現和發(fā)展是遙感技術的一場革命。

相比傳統(tǒng)的多光譜技術，使本來在寬波段遙感中不可探測的物質，在高光譜遙感中能被探測。高光譜傳感器在數百個窄波連續(xù)光譜帶中同時采集圖像，具有更精細的光譜分辨率（0.01 μm）。獲得的三維圖像數據通常包含大量可用于計算機處理的信息，其第三維的光譜波段信息對于空間域和光譜域內的土地覆蓋監(jiān)測和測繪提供了極大的幫助。

在處理高光譜圖像分類問題上，樣本的特征往往是決定分類結果的關鍵。然而新的問題出現了，針對高光譜圖像分類中，樣本空間特征利用不足。通過一些學者研究得出啟發(fā)，將深層殘差網絡作為特征提取器運用到高光譜圖像分類中，利用深層殘差網絡更深的網絡結構，挖掘樣本鄰域空間中的深層特征，實驗證明此特征具有更好的可分性。

同時，針對深層卷積網絡有監(jiān)督訓練的過程中，由于有標簽樣本不足導致的過擬合現象，提出基于深度遷移學習方法的訓練策略，通過遷移網絡在另一相關數據集中訓練得到的網絡淺層卷積核參數，再使用目標數據集對深層卷積核參數進行微調，提高了殘差網絡在少量有標簽樣本情況下的分類效果。

基于深層殘差網絡的高光譜圖像分類

數據預處理

與以往所使用的四鄰域、八鄰域方法不同，為了充分利用樣本鄰域內的空間信息，本文選擇對更大的鄰域空間進行特征提取。首先使用主成分分析算法[對整個高光譜圖像進行數據降維，以達到去除波段圖像之間相關性的目的。

提取深層特征

在使用深層卷積網絡處理分類任務的方法中，其選用的網絡結構對分類效果影響很大，對于不同的網絡結構，其分類效果也盡然不同。深層殘差網絡在普通圖像分類任務中，已經取得了極大的成功。

為了提取更深層此的空間特征，選用 Resnet-50 深層殘差網絡模型，對于 Resnet-50 網絡結構，深層特征是一個2 048維的向量。最后，基于樣本的深層特征，訓練一個支持向量機（SVM），以驗證卷積特征相對于光譜特征，Gabor特征具有更好的可分性。

網絡頂層卷積層提取的深層特征對于目標數據集是特定的，為保證網絡模型在目標數據集中的分類精度，網絡深層卷積核參數則在目標數據集中進行微調。

將較深層的網絡參數及最后的輸出層參數進行隨機初始化，通過少量目標數據集有標簽數據對這些參數進行繼續(xù)訓練。整個過程可看作網絡將在源數據集中學習到的先驗知識遷移到目標數據集中，一定程度地避免了過擬合現象，同時也保證了對目標數據特有特征的學習。

有學者王立偉等人通過實驗使用兩個真實高光譜圖像數據集對提出的方法進行驗證，對比不同鄰域大小對分類效果的影響，以及無監(jiān)督提取的深層特征對分類的影響，遷移不同的網絡參數對分類的影響，證明挖掘高光譜圖像樣本鄰域空間的深層特征，具有更強的判別性，并能與原光譜特征產生很好的互補性。充分說明在普通圖像數據集上充分訓練的深度卷積網絡有助于高光譜分類任務。

提出基于模型的遷移學習策略，結合網絡在一個源數據集中預訓練的底層卷積核參數，再通過目標數據集微調網絡高層卷積核參數，使模型在使用少量有標簽樣本的情況下取得了更好的分類效果。

但是新的問題還需要我們去改進，比如在深度殘差網路中存在的多種網絡結構配置還有待比對。遷移學習中，如何解決在不同數據集中同類別樣本存在的特征差異性問題也有待探索。