支持向量機(jī)的模型選擇研究.pdf

1、支持向量分類中,高斯核不區(qū)分樣本中各個特征的重要性.顯然,各個特征對分類的貢獻(xiàn)一般是不相同的,為了體現(xiàn)這種差別從而提高支持向量機(jī)的泛化能力,文中提出了多寬度高斯核的概念.多寬度高斯核增加了支持向量機(jī)的超級參數(shù),針對這一情況,文中提出了支持向量機(jī)的多參數(shù)模型選擇的算法,該算法利用半徑-間隔的泛化誤差期望界自動實(shí)現(xiàn)模型選擇.通過實(shí)驗驗證了多寬度高斯核和多參數(shù)模型選擇算法在提高支持向量分類中的有效性。
　　高斯核是支持向量機(jī)優(yōu)先選擇的核

2、函數(shù),其寬度參數(shù)定義了核函數(shù)的泛化規(guī)模.由于樣本分布的不均勻性,單一寬度的高斯核會在樣本空間的稠密區(qū)域產(chǎn)生過學(xué)習(xí)現(xiàn)象,在稀疏區(qū)域產(chǎn)生欠學(xué)習(xí)現(xiàn)象,即存在局部泛化風(fēng)險.針對于此,文中構(gòu)造了一個“全局性”的次核去降低高斯核產(chǎn)生的局部泛化風(fēng)險,次核是為了擬補(bǔ)主核的不足,這里高斯核稱為主核,構(gòu)造的新核稱為主次核.文中利用冪級數(shù)構(gòu)造性的給出并證明了次核的正定性條件.進(jìn)一步提出了基于遺傳算法的兩階段模型選擇去解決主次核的模型選擇問題,該算法通過最小化