基于支持向量機的若干分類問題研究.pdf

1、分類問題是實際應用中普遍存在的問題，也是機器學習領域的基礎研究之一，快速發(fā)展的信息技術對其在理論研究和實際應用中提出了許多新的難題和挑戰(zhàn)。支持向量機(Support Vector Machine，SVM)是基于統(tǒng)計學習理論，借助最優(yōu)化方法來解決機器學習問題的有力工具，目前，已表現(xiàn)出很多優(yōu)于已有方法的性能。 本文以深入探討分類問題為研究目標，立足于對支持向量分類機的理論模型和在實際中的應用進行完善、推廣和創(chuàng)新。論文的主要內容包括以

2、下幾個方面： 1. 對本文采用的基礎理論進行了介紹。主要包括機器學習的主要問題，統(tǒng)計學習理論的基本內容，以及支持向量機的基本思想和研究現(xiàn)狀。 2. 從特征空間的幾何結構入手，對核函數(shù)所蘊含的黎曼度量、距離度量和角度度量進行詳細分析，在此基礎上深入探討高斯徑向基核函數(shù)的幾何性質，并分析了映射、核與度量之間的關系，說明支持向量機算法的解本質上依賴于度量。 3. 提出一種新的解決類不平衡與代價敏感分類問題的方法。支持向

3、量機通過核函數(shù)，將數(shù)據(jù)嵌入到高維特征空間的一個低維流形表面，利用微分幾何中流形表面誘導的黎曼度量，在半徑間隔界的控制下，通過保角映射，放大類不平衡問題中少樣本類與分界面之間的間隔，從而在保證多數(shù)類準確率較高的前提下，達到提高少數(shù)類的分類準確率，有效的減少了支持向量機在類不平衡問題中的有偏性。 4.對1-v-r方法中子分類器采用不同核參數(shù)時，各決策輸出值的可比性進行了深入分析，說明此時將各子分類問題映射到不同的特征空間，其決策輸出

4、值仍具有可比性，且能提高總體分類的性能。 5. 對分解多分類方法中存在的不可分現(xiàn)象進行了研究，針對一些實際應用問題，提出一種基于決策間隔的模糊輸出支持向量機算法，該方法可以更為有效地解決不可分問題。 6. 從VC維的角度比較了有序與無序分類問題的復雜度，說明線性分類器的VC維與其分級維相同；結合支持向量機技術提出一種改進的內嵌空間算法，并在實際有序分類問題——企業(yè)信用風險評估問題中驗證了該方法的有效性。 最后，對