基于SLT的偏最小二乘分類算法及其優(yōu)化方法研究.pdf

1、隨著數(shù)據(jù)采集和存儲技術的飛速發(fā)展，高維數(shù)據(jù)，如航天遙感數(shù)據(jù)、生物數(shù)據(jù)網(wǎng)絡數(shù)據(jù)以及金融市場交易數(shù)據(jù)等大量涌現(xiàn)，如何將高維數(shù)據(jù)表示在低維空間中，并由此發(fā)現(xiàn)其內(nèi)在的本質結構是機器學習及模式識別領域的重要研究方向之一，現(xiàn)已引起人們廣泛的關注，相應研究方興未艾，其應用范圍涉及圖像分析和處理、多媒體處理、醫(yī)學數(shù)據(jù)分析、海洋氣象預測、計算機視覺信息檢索和跨語種文本分類等眾多領域。
　　模式識別主要包括分類和聚類兩方面的研究，而分類又分為有監(jiān)督的

2、分類方法和無監(jiān)督的分類方法，本文主要研究有監(jiān)督的分類算法，所用的實驗數(shù)據(jù)為維度均在50以上。本文以偏最小二乘法為基礎，研究了偏最小二乘法用于高維數(shù)據(jù)分類，全文主要分為4部分:
　　(1)從特征提取的角度分析介紹了PCA和PLS的原理，通過對PCA的介紹深入理解PLS算法的原理，實現(xiàn)了高維數(shù)據(jù)分類過程中的數(shù)據(jù)降維過程。
　　(2)PLS的一個缺點是當X向量空間的方向存在一個較大的方差，而這個方差與Y不相關時，就會出現(xiàn)PLS模型

3、性能不佳的狀況。文章第二部分將SLT算法加入到PLS過程中，結合判別分析方法，實現(xiàn)PLSDA和SLT-PLSDA分類模型的設計，并用一組實驗對比分析PLSDA和SLT-PLSDA的實現(xiàn)過程及對高維數(shù)據(jù)的分類能力。
　　(3)提出用交叉驗證方法對分類模型進行性能評價，建立交叉驗證的實現(xiàn)模型，獲得5個樣本數(shù)據(jù)集的PLSDA和SLT-PLSDA分類模型的錯誤率評估結果，并對這些實驗數(shù)據(jù)進行分析，比較PLSDA和SLT-PLSDA兩種模型

4、應用于數(shù)據(jù)分類的優(yōu)劣性。
　　(4)由于存在著潛變量數(shù)目的選取過程，因此隨機選取數(shù)據(jù)進行分類器的訓練面臨著陷入局部最小值的風險，因此即結合交互驗證過程，提出了將集成學習應用于分類模型設計的兩種方法，一是將得到的不同分類器采用投票表決的方法對未知樣本進行分類，二是基于交叉驗證分類模型的交叉驗證準確率，采用權重分配的方法，將各個分類模型整合起來，獲得唯一的分類模型。利用這兩種方法，避免了分類器設計中陷入局部最小值的風險，間接獲得了進行