多維輸出支持向量回歸機(jī)若干研究及應(yīng)用.pdf

1、支持向量回歸機(jī)（SVR）是在統(tǒng)計(jì)學(xué)習(xí)理論和最優(yōu)化理論的基礎(chǔ)上發(fā)展起來的一種機(jī)器學(xué)習(xí)方法，它繼承了支持向量機(jī)方法的克服了“維數(shù)災(zāi)難”和“過學(xué)習(xí)”等優(yōu)點(diǎn)，具有直觀的幾何解釋和完美的數(shù)學(xué)形式，從而有力地推動(dòng)了回歸預(yù)測(cè)的發(fā)展，成為研究熱點(diǎn)。
　　本文主要研究多維輸出支持向量回歸機(jī)及其應(yīng)用問題。主要?jiǎng)?chuàng)新工作如下：
　　1、提出了多維輸出雙支持向量回歸機(jī)（Multidimensional Output Twin Support Vect

2、or Regression，MTSVR）。用擴(kuò)充的多維核函數(shù)映射空間來代替原有的一維輸出核函數(shù)空間，將雙支持向量回歸機(jī)（Twin Support Vector Regression,TSVR）改進(jìn)為適應(yīng)多維輸出的算法。實(shí)驗(yàn)結(jié)果表明對(duì)于二維輸出的情況，MTSVR算法要比TSVR算法擬合精確度更高。
　　2、提出了基于二次損失函數(shù)的多維輸出支持向量回歸機(jī)（Quadratic Loss Functionε-Support Vector

3、Machine，L2-MSVR）。引入二范數(shù)損失函數(shù)到標(biāo)準(zhǔn)支持向量回歸機(jī)（ε-SVR）中，使其適用于多維輸出的情況。實(shí)驗(yàn)結(jié)果表明二維輸出情況下，L2-MSVR比ε-SVR的回歸擬合精度高，算法對(duì)于不敏感參數(shù)的穩(wěn)定性好，且時(shí)間上更快。
　　3、提出了基于擴(kuò)充核函數(shù)和二次損失函數(shù)的多維輸出支持向量回歸機(jī)（Quadratic Loss Function Multidimensional Outputε-Support Vector Ma