資源描述:
《Fisher準(zhǔn)則線性分類器設(shè)計(jì).docx》由會(huì)員上傳分享,免費(fèi)在線閱讀,更多相關(guān)內(nèi)容在教育資源-天天文庫。
1、一、基于Fisher準(zhǔn)則線性分類器設(shè)計(jì)1、實(shí)驗(yàn)內(nèi)容:已知有兩類數(shù)據(jù)和二者的概率已知=,=。中數(shù)據(jù)點(diǎn)的坐標(biāo)對(duì)應(yīng)一一如下:數(shù)據(jù):x=數(shù)據(jù)點(diǎn)的對(duì)應(yīng)的三維坐標(biāo)為x2=數(shù)據(jù)的樣本點(diǎn)分布如下圖:1)請(qǐng)把數(shù)據(jù)作為樣本,根據(jù)Fisher選擇投影方向的原則,使原樣本向量在該方向上的投影能兼顧類間分布盡可能分開,類內(nèi)樣本投影盡可能密集的要求,求出評(píng)價(jià)投影方向的函數(shù),并在圖形表示出來。并在實(shí)驗(yàn)報(bào)告中表示出來,并求使取極大值的。用matlab完成Fisher線性分類器的設(shè)計(jì),程序的語句要求有注釋。2)根據(jù)上述的結(jié)果并判斷(1,,),
2、,,,,,,,,(,,),屬于哪個(gè)類別,并畫出數(shù)據(jù)分類相應(yīng)的結(jié)果圖,要求畫出其在上的投影。3)回答如下問題,分析一下的比例因子對(duì)于Fisher判別函數(shù)沒有影響的原因。2、實(shí)驗(yàn)代碼x1=[將x1、x2、x3變?yōu)樾邢蛄縳1=x1(:);x2=x2(:);x3=x3(:);%計(jì)算第一類的樣本均值向量m1m1(1)=mean(x1);m1(2)=mean(x2);m1(3)=mean(x3);%計(jì)算第一類樣本類內(nèi)離散度矩陣S1S1=zeros(3,3);fori=1:36S1=S1+[-m1(1)+x1(i)-m1(
3、2)+x2(i)-m1(3)+x3(i)]'*[-m1(1)+x1(i)-m1(2)+x2(i)-m1(3)+x3(i)];end%w2的數(shù)據(jù)點(diǎn)坐標(biāo)x4=[計(jì)算第二類的樣本均值向量m2m2(1)=mean(x4);m2(2)=mean(x5);m2(3)=mean(x6);%計(jì)算第二類樣本類內(nèi)離散度矩陣S2S2=zeros(3,3);fori=1:36S2=S2+[-m2(1)+x4(i)-m2(2)+x5(i)-m2(3)+x6(i)]'*[-m2(1)+x4(i)-m2(2)+x5(i)-m2(3)+x6
4、(i)];end%總類內(nèi)離散度矩陣SwSw=zeros(3,3);Sw=S1+S2;%樣本類間離散度矩陣SbSb=zeros(3,3);Sb=(m1-m2)'*(m1-m2);%最優(yōu)解WW=Sw^-1*(m1-m2)'%將W變?yōu)閱挝幌蛄恳苑奖阌?jì)算投影W=W/sqrt(sum(W.^2));%計(jì)算一維Y空間中的各類樣本均值M1及M2fori=1:36y(i)=W'*[x1(i)x2(i)x3(i)]';endM1=mean(y);fori=1:36y(i)=W'*[x4(i)x5(i)x6(i)]';endM2
5、=mean(y);%利用當(dāng)P(w1)與P(w2)已知時(shí)的公式計(jì)算W0p1=;p2=;W0=-(M1+M2)/2+(log(p2/p1))/(36+36-2);%計(jì)算將樣本投影到最佳方向上以后的新坐標(biāo)X1=[x1*W(1)+x2*W(2)+x3*W(3)]';X2=[x4*W(1)+x5*W(2)+x6*W(3)]';%得到投影長(zhǎng)度XX1=[W(1)*X1;W(2)*X1;W(3)*X1];XX2=[W(1)*X2;W(2)*X2;W(3)*X2];%得到新坐標(biāo)%繪制樣本點(diǎn)figure(1);plot3(x1,
6、x2,x3,'r*');%第一類holdonplot3(x4,x5,x6,'gp');%第二類legend('第一類點(diǎn)','第二類點(diǎn)');title('Fisher線性判別曲線');W1=5*W;%畫出最佳方向line([-W1(1),W1(1)],[-W1(2),W1(2)],[-W1(3),W1(3)],'color','g');%判別已給點(diǎn)的分類a1=[1,,]';a2=[,,]';a3=[,,]';a4=[,,]';a5=[,,]';A=[a1a2a3a4a5];n=size(A,2);%下面代碼在改
7、變樣本時(shí)可不修改%繪制待測(cè)數(shù)據(jù)投影到最佳方向上的點(diǎn)fork=1:nA1=A(:,k)'*W;A11=W*A1;%得到待測(cè)數(shù)據(jù)投影y=W'*A(:,k)+W0;%計(jì)算后與0相比以判斷類別,大于0為第一類,小于0為第二類ify>0plot3(A(1,k),A(2,k),A(3,k),'ro');%點(diǎn)為"rp"對(duì)應(yīng)第一類plot3(A11(1),A11(2),A11(3),'ro');%投影為"r+"對(duì)應(yīng)ro類elseplot3(A(1,k),A(2,k),A(3,k),'ch');%點(diǎn)為"bh"對(duì)應(yīng)ch類plot
8、3(A11(1),A11(2),A11(3),'ch');%投影為"b*"對(duì)應(yīng)ch類endend%畫出最佳方向line([-W1(1),W1(1)],[-W1(2),W1(2)],[-W1(3),W1(3)],'color','m');view([,30]);axis([-2,3,-1,3,,]);gridonholdoff3、實(shí)驗(yàn)結(jié)果根據(jù)求出最佳投影方向,然后按照此方向,將待測(cè)數(shù)據(jù)進(jìn)行投影。為直觀