基于局部線性嵌入的降維算法研究.pdf

1、隨著科學的進步，信息技術得到了快速發(fā)展及廣泛應用，高維數據應運而生，如醫(yī)學圖像處理、計算生物學、全球氣候模型等，高維數據難以被現(xiàn)有的機器學習和數據挖掘算法進行有效地處理。數據降維算法是處理這些高維數據的一個非常重要的工具和方法。而流形學習作為一種高維數據降維的技術手段，在非線性降維方面取得了廣泛的應用。
　　 其中局部線性嵌入(LLE)是一種假設局部能夠線性化表示而提出的流形學習算法，它有參數少、計算快、易求全局最優(yōu)解等優(yōu)點。但

2、是，LLE算法使得降維后的數據損失了原有數據的密度信息，從而導致降維效果產生扭曲，無法獲得正確的低維嵌入。另外，多流形數據不滿足局部線性嵌入算法要求流形連續(xù)的特點，所以也難以有效降維。這兩個問題成為了局部線性嵌入的瓶頸。
　　 本文主要對基于流形學習的局部線性嵌入(LLE)算法進行了深入的研究與改進，對LLE的缺點進行了詳細地分析：
　　 (1)在源數據集分布不均勻、密度變化大的情況下，分析了LLE算法降維的基本思想，得

3、出權值矩陣在降維過程中起到了連接樞紐的重要作用，而近鄰的選取對權值矩陣的獲得具有直接的影響。因此，一方面從局部近鄰的幾何性質入手，對近鄰選取情況進行改進，另一方面對LLE權向量的性質進行了詳細的分析，得知降維后的數據不能反映原來高維數據的密度信息。在以上基礎上提出了一種基于密度刻畫的降維方法。
　　 (2)對多流形問題進行了研究，發(fā)現(xiàn)多流形數據存在局域線性化差的問題，從局部線性嵌入算法的兩個獨立的優(yōu)化問題入手，對LLE算法進行改