基于支持向量機的特征選擇方法的研究與應(yīng)用.pdf

1、浙江大學(xué)博士學(xué)位論文基于支持向量機的特征選擇方法的研究與應(yīng)用姓名：毛勇申請學(xué)位級別：博士專業(yè)：控制科學(xué)與工程指導(dǎo)教師：孫優(yōu)賢20060401Ⅱ 浙江大學(xué)博士學(xué)位論文用的需求。為此，我們從回歸特征消除的整個過程分析出發(fā)，提出了～種在基于非線性核支持向量機的回歸特征消除方法中應(yīng)用自適應(yīng)核參數(shù)的方法，并提出了一種快速整定核參數(shù)的策略。在癌癥診斷生物信息數(shù)據(jù)上的測試結(jié)果表明，這種方法的性能在某種程度上更加優(yōu)于基于遺傳算法和非線性支持向量機的特征

2、選擇算法，而且運算速率大大加快，具有一定應(yīng)用價值。4 ) 回歸特征消除的過程是一個對特征進(jìn)行逐個消除的循環(huán)過程，換言之，該算法的運算量非常大，如果特征逐個消除，那么算法的運算時間與特征的數(shù)量成正比，嚴(yán)重影響到該算法實際應(yīng)用的可能性。針對這一問題，我們根據(jù)特征對決策機器的貢獻(xiàn)，提出了一系列統(tǒng)計指標(biāo)用于在保證算法性能的前提下，加速整個特征選擇的過程。在T E P 標(biāo)準(zhǔn)數(shù)據(jù)集上的實驗表明，該算法達(dá)到了這個目的。5 ) 特征選擇的目的基本上可以

3、分為兩部分，一是為了選擇出更多的關(guān)鍵性的目標(biāo)變量，從研究的角度確定出引發(fā)故障或者疾病的根源，另外一個則是對最后的決策過程起輔助作用，消除不相關(guān)或者不重要的變量所帶來的干擾作用。我們在多類的癌癥診斷生物信息數(shù)據(jù)集和T E P 數(shù)據(jù)集上針對這兩方面都作了相關(guān)的討論，每兩類之間都應(yīng)用基于支持向量機的回歸特征消除方法，在確定最佳特征組之后，用基于參數(shù)自整定的模糊支持向量機方法來進(jìn)行診斷決策。實驗結(jié)果表明，本研究得到了較多的可供研究的關(guān)鍵變量，獲

4、得了令人滿意的決策效果。6 ) 針對現(xiàn)有單一分類器在很多決策領(lǐng)域內(nèi)難以取得滿意分類效果的問題，從現(xiàn)有的特征選擇的觀點出發(fā)，提出了一種基于特征選擇算法來構(gòu)建雙層式組合分類器的新方法。在用蛋白質(zhì)質(zhì)譜芯片所采集的卵巢癌數(shù)據(jù)集上的應(yīng)用測試表明，該方法相對于單個分類器而言具有較高的精度提升，同時避免了一般組合分類器結(jié)構(gòu)過于復(fù)雜的通病。7 ) 最后對全文進(jìn)行概括總結(jié)，并指出理論和應(yīng)用上有待進(jìn)一步研究的問題。關(guān)鍵詞：支持向量機；參數(shù)整定：遺傳算法；回