基于動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的支持向量機(jī)的FPGA實(shí)現(xiàn).pdf

1、支持向量機(jī)(Support Vector Machines, SVMs)作為一種通用的機(jī)器學(xué)習(xí)算法，能夠較好的解決小樣本學(xué)習(xí)問(wèn)題。目前對(duì)支持向量機(jī)的研究主要是集中在理論研究和算法優(yōu)化方面。與之相比，在實(shí)現(xiàn)方法及應(yīng)用方面的研究相對(duì)較少，而且很多實(shí)現(xiàn)方法都是基于軟件實(shí)現(xiàn)的，使SVM的應(yīng)用受到了限制。
　　近年來(lái)，出現(xiàn)了利用神經(jīng)網(wǎng)絡(luò)解決支持向量機(jī)學(xué)習(xí)的方法，該方法將神經(jīng)網(wǎng)絡(luò)與支持向量機(jī)相結(jié)合，利用部分對(duì)偶的方法，將求解SVM的二次規(guī)劃問(wèn)

2、題轉(zhuǎn)化成對(duì)動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)方程組求解的問(wèn)題。由于神經(jīng)網(wǎng)絡(luò)具有便于硬件實(shí)現(xiàn)的特點(diǎn)，因此就使SVM的硬件實(shí)現(xiàn)成為可能。但是現(xiàn)有的SVM的硬件實(shí)現(xiàn)方法都是基于模擬器件的簡(jiǎn)單應(yīng)用。模擬電路具有拓?fù)浣Y(jié)構(gòu)一旦確定就很難改變、功耗大和占用空間大的缺點(diǎn)，所以這種方法在實(shí)際應(yīng)用中也受到了較大的限制。
　　針對(duì)上面的問(wèn)題，論文提出了SVM學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的FPGA實(shí)現(xiàn)方法。FPGA本身具有可重構(gòu)、能耗小和占用空間小的特點(diǎn)，因此該方法具有很好的靈活性。該

3、方法主要是將SVM學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的連續(xù)動(dòng)態(tài)方程組進(jìn)行離散化處理，然后對(duì)離散后的動(dòng)態(tài)方程組進(jìn)行FPGA實(shí)現(xiàn)。在此基礎(chǔ)上論文進(jìn)一步提出了最小二乘支持向量機(jī)(LS-SVM)分類與回歸學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，LS-SVM消除了網(wǎng)絡(luò)中的非線性部分，使得神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)更加簡(jiǎn)潔、實(shí)現(xiàn)更簡(jiǎn)單。同時(shí)論文也提出了LS-SVM分類與回歸學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的FPGA實(shí)現(xiàn)方法。論文分別對(duì)S V M學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的分類問(wèn)題、LS-SVM學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的分類和回歸問(wèn)題完成了Simuli