資源描述:
《新建MicrosoftOfficePowerPoint演示文稿ppt課件.pptx》由會(huì)員上傳分享,免費(fèi)在線(xiàn)閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫(kù)。
1、支持向量回歸機(jī)的原理與應(yīng)用楊旋2015.3.17一.講課的內(nèi)容1.支持向量回歸機(jī)的原理。2.Matlab中有關(guān)支持向量回歸機(jī)的函數(shù)和參數(shù)的使用說(shuō)明。3.支持向量回歸機(jī)應(yīng)用于的模擬和預(yù)測(cè)。4.支持向量回歸機(jī)對(duì)上證指數(shù)開(kāi)盤(pán)指數(shù)的預(yù)測(cè)。5.Arima模型與SVR的結(jié)合預(yù)測(cè)短期的電力需求的應(yīng)用。二.本課的目的1.深入了解支持向量回歸機(jī)的原理。2.熟練使用Matlab中的支持向量回歸機(jī)對(duì)實(shí)際的數(shù)據(jù)進(jìn)行模擬和預(yù)測(cè)。1.支持向量回歸機(jī)的原理低維可線(xiàn)性回歸的SVR1.設(shè)2維低維平面上,有一點(diǎn)集1.支持向量回歸機(jī)的原理2.定義1,若存在一個(gè)回歸超平面
2、使得對(duì)任意的i都成立,則我們稱(chēng)樣本集S是線(xiàn)性近似的。1.支持向量回歸機(jī)的原理?yè)Q句話(huà)說(shuō),在回歸超平面的上下的通道內(nèi)包含了所有的樣本點(diǎn)。在這樣的假設(shè)下,我們能知道一個(gè)事實(shí),所有的點(diǎn)到回歸超平面的距離都滿(mǎn)足下式,1.支持向量回歸機(jī)的原理顯然是S點(diǎn)集中所有點(diǎn)到回歸超平面的一個(gè)上界。滿(mǎn)足等號(hào)成立的點(diǎn)可想而知是在通道中離回歸超平面最遠(yuǎn)的點(diǎn),這樣的點(diǎn)我們把它稱(chēng)為支持向量。而支持向量恰好是能決定回歸超平面位置的點(diǎn)。下面我們看支持向量是怎樣確定回歸超平面的。1.支持向量回歸機(jī)的原理點(diǎn)集S的最優(yōu)近似回歸超平面的確定:是通過(guò)最大化支持向量到回歸超平面的距
3、離而得到的。1.支持向量回歸機(jī)的原理所以,我們只要計(jì)算一個(gè)最優(yōu)化問(wèn)題可以轉(zhuǎn)化求約束為1.支持向量回歸機(jī)的原理考慮到一些不在通道內(nèi)的值,為了減小誤差,我們?cè)趯?duì)模型加入2個(gè)松弛變量和一個(gè)懲罰變量c。最后只需解:目標(biāo)函數(shù):約束條件:略…1.支持向量回歸機(jī)的原理到現(xiàn)在為止,還有個(gè)問(wèn)題需要提出來(lái)。那就是你的支持向量是怎么確定的呢?對(duì)于低維空間線(xiàn)性不可回歸的的數(shù)據(jù),又應(yīng)該如何處理呢?1.支持向量回歸機(jī)的原理2.Matlab中有關(guān)支持向量回歸機(jī)的函數(shù)和參數(shù)的使用說(shuō)明。建?;貧w模型(訓(xùn)練模型)目的就是為了將自變量x和應(yīng)變量y之間的函數(shù)關(guān)系模擬出來(lái).
4、model=svmtrain(y,x,'-s3-t2-c2.2-g2.8-p0.01');[ptesty,tmse]=svmpredict(testy,testx,model);2.Matlab中有關(guān)支持向量回歸機(jī)的函數(shù)和參數(shù)的使用說(shuō)明。-ssvm類(lèi)型:SVM設(shè)置類(lèi)型(默認(rèn)0)0--C-SVC 1--v-SVC 2–一類(lèi)SVM 3--e-SVR 4--v-SVR-t核函數(shù)類(lèi)型:核函數(shù)設(shè)置類(lèi)型(默認(rèn)2)0–線(xiàn)性:u'v 1–多項(xiàng)式:(r*u'v+coef0)^degree 2–RBF函數(shù):exp(-r
5、u-v
6、
7、^2) 3–sigmoid:tanh(r*u'v+coef0)2.Matlab中有關(guān)支持向量回歸機(jī)的函數(shù)和參數(shù)的使用說(shuō)明。-ddegree:核函數(shù)中的degree設(shè)置(針對(duì)多項(xiàng)式核函數(shù))(默認(rèn)3)-gr(gama):核函數(shù)中的gamma函數(shù)設(shè)置(針對(duì)多項(xiàng)式/rbf/sigmoid核函數(shù))(默認(rèn)1/k)-rcoef0:核函數(shù)中的coef0設(shè)置(針對(duì)多項(xiàng)式/sigmoid核函數(shù))((默認(rèn)0)-ccost:設(shè)置C-SVC,e-SVR和v-SVR的參數(shù)(損失函數(shù))(默認(rèn)1)-nnu:設(shè)置v-SVC,一類(lèi)SVM和v-SVR的參數(shù)(默認(rèn)0
8、.5)-pp:設(shè)置e-SVR中損失函數(shù)p的值(默認(rèn)0.1)-mcachesize:設(shè)置cache內(nèi)存大小,以MB為單位(默認(rèn)40)-eeps:設(shè)置允許的終止判據(jù)(默認(rèn)0.001)-hshrinking:是否使用啟發(fā)式,0或1(默認(rèn)1)-wiweight:設(shè)置第幾類(lèi)的參數(shù)C為weight?C(C-SVC中的C)(默認(rèn)1)-vn:n-fold交互檢驗(yàn)?zāi)J?,n為fold的個(gè)數(shù),必須大于等于23.支持向量回歸機(jī)應(yīng)用于的模擬和預(yù)測(cè)。