SVM中兩類常用分類方法的關(guān)系研究.pdf

1、支持向量機(jī)是基于統(tǒng)計(jì)學(xué)習(xí)理論，借助最優(yōu)化方法來解決機(jī)器學(xué)習(xí)問題的新工具。最近，支持向量機(jī)方法已經(jīng)成為機(jī)器學(xué)習(xí)領(lǐng)域研究的熱點(diǎn)。它將機(jī)器學(xué)習(xí)問題轉(zhuǎn)化為求解最優(yōu)化問題，并應(yīng)用最優(yōu)化理論構(gòu)造算法來解決凸二次規(guī)劃問題。論文主要是利用最優(yōu)化理論中的原始問題與對(duì)偶問題解的關(guān)系和KKT條件，對(duì)支持向量機(jī)中兩類最常用分類方法： SVC和 SVC的解的關(guān)系問題進(jìn)行研究和論證；所得的結(jié)果為其它各種方法之間的關(guān)系研究提供了理論上、思想上的依據(jù)和啟發(fā)。

2、論文首先詳細(xì)地論述了支持向量機(jī)的基本思想和各種常用的支持向量機(jī)方法，然后通過深入分析，發(fā)現(xiàn)現(xiàn)有的方法對(duì)各種方法之間的關(guān)系從最優(yōu)化理論的角度考慮甚少，因此文章針對(duì)這一問題，應(yīng)用最優(yōu)化理論進(jìn)行深入研究，主要的研究成果如下： 1) 推導(dǎo)并證明了SVM模型是非嚴(yán)格凸的二次規(guī)劃問題時(shí)，解可能不唯一性情形，但是各個(gè)解的分量之和是相等的； 2) 定義了一個(gè)關(guān)于 SVC對(duì)偶問題的解算子 和參數(shù) 的新函數(shù)，該函數(shù)是參數(shù) 定義域內(nèi)的一個(gè)恒取

3、正數(shù)的連續(xù)非增的函數(shù)；同時(shí)在新定義的這個(gè)函數(shù)和參數(shù) 之間建立了一一對(duì)應(yīng)關(guān)系，使得 SVC和 SVC有相同的最優(yōu)解集； 3) 論證了 SVC解的存在性問題； 4) 為了證明定理引入并證明了SVM的兩種方法 SVC和 SVC解集相同的充分條件的引理， SVC的對(duì)偶問題解集存在的充要條件引理以及解集相同的存在性、唯一性等結(jié)論。 目前，對(duì)支持向量機(jī)的研究主要是針對(duì)統(tǒng)計(jì)學(xué)習(xí)理論以及各種應(yīng)用領(lǐng)域的研究，而從最優(yōu)化理論的角度去