數據降維技術的建模研究與應用——特征降維及其應用.pdf

1、特征降維是模式識別領域對高維數據分析的重要預處理步驟之一。在信息時代的科學研究中，不可避免的會遇到大量的高維數據，如人臉檢測與識別、文本分類和微陣列數據基因選擇等。在實際應用中，為了避免所謂的維數災難問題，根據某些性質，將高維數據表示的觀測點模擬成低維空間中的數據點，這一過程即為特征降維過程。總的來說，降維的目的是在保留數據的大部分內在信息的同時將高維空間的數據樣本嵌入到一個相對低維的空間，而降維技術義可以分為“特征提取”和“特征選擇”

2、。經過適當的降維后，諸如可視化、分類等工作可以在低維空間中方便的實現。 本文研究目的是為了探索新的有監(jiān)督特征降維方法，并提出了一種基于支持向量機(SVM)的特征選擇方法和一組基于有監(jiān)督局部保留準則的特征降維算法。文中簡要介紹了特征降維的準則，回顧了當前的主要特征降維技術，如主成分分析(PCA)、Fisher線性判別分析(FLDA)和最近的基于流形的特征提取方法以及相關的特征選擇算法。本論文重點是：(一)建立了一種改進的基于支持向

3、量機(SVM)的特征選擇算法，闡述了應用該算法進行特征選擇的原理和方法；(二)建立了有監(jiān)督的局部保留準則，闡述了應用該準則進行特征提取與特征選擇的原理和方法。針對基于支持向量機(SVM)的特征選擇問題，文中充分利用SVM的最大間隔特性，利用支持向量和核函數來對特征進行排序和選擇。而對于基于有監(jiān)督的局部保留準則的特征降維，文中在詳細分析無監(jiān)督的局部保留準則利弊的基礎上，提出了保留類內局部結構的同時最大化類內分離度的降維準則，并分別應用于特