支持向量機(jī)參數(shù)選擇的研究.pdf

1、支持向量機(jī)(SVM)是目前應(yīng)用比較多的一種機(jī)器學(xué)習(xí)方法。該方法在樣本不充足時(shí)仍然能表現(xiàn)出很好效果，所以現(xiàn)在正成為當(dāng)前機(jī)器學(xué)習(xí)的研究熱點(diǎn)。大量研究表明，SVM參數(shù)選擇對分類效果有很大的影響。支持向量分類機(jī)(SVC)作為SVM的一個(gè)研究方向，一般需要優(yōu)化的兩個(gè)參數(shù)分別是懲罰參數(shù)C和核參數(shù)σ。但是目前還沒有很好的理論指導(dǎo)參數(shù)的優(yōu)化選擇。常用的方法有實(shí)驗(yàn)法、網(wǎng)格法、梯度下降法、智能優(yōu)化算法等。大部分方法是把兩個(gè)參數(shù)作為一個(gè)參數(shù)對進(jìn)行優(yōu)化選擇的。

2、這樣的操作過程往往會(huì)很繁瑣而且效果也不是很理想。本文采用先對核參數(shù)進(jìn)行選擇，然后對懲罰參數(shù)進(jìn)行選擇的方法。這樣分步驟的參數(shù)選擇方法不但簡化了參數(shù)選擇的操作過程而且基于選擇出的參數(shù)建立的SVM模型的分類性能也得到了一定程度的提升。本文主要工作如下:
　　(1)介紹統(tǒng)計(jì)學(xué)習(xí)理論，詳細(xì)介紹了SVM的基本思想，包括最優(yōu)分類超平面、線性可分支持向量機(jī)、線性不可分支持向量機(jī)、非線性支持向量機(jī)。
　　(2)分別介紹了核參數(shù)和懲罰參數(shù)對SV

3、M的影響，并詳細(xì)介紹了幾種比較常用的優(yōu)化參數(shù)方法:遺傳算法、粒子群算法、網(wǎng)格搜索算法。然后設(shè)計(jì)了改進(jìn)的參數(shù)選擇方法。即先研究分析基于矩陣相似度為標(biāo)準(zhǔn)選擇核參數(shù)不足之處并進(jìn)行改進(jìn)，改進(jìn)后的問題轉(zhuǎn)變成求一個(gè)含核參數(shù)的混合表達(dá)式的最大值，然后用遺傳算法求解使得表達(dá)式值最大的核參數(shù)就是要尋找的最優(yōu)核參數(shù)。最后再將得到的最優(yōu)核參數(shù)帶入到SVM模型中去利用混合智能算法(PG)經(jīng)過訓(xùn)練得到懲罰參數(shù)。
　　(3)通過實(shí)驗(yàn)仿真顯示，基于改進(jìn)算法選擇