多分類的支持向量機(jī)

支持向量機(jī)

SupportVectorMachine陳方2013.06.15主要內(nèi)容線性可分SVM線性不可分SVM線性近似可分SVMSVM的應(yīng)用實(shí)驗(yàn)線性可分SVM病人編號(hào)年齡[x]1膽固醇水平[x]2有心臟病y160165Y=-1257150Y=-1::::1070190Y=1線性可分SVM線性可分：一個(gè)線性函數(shù)可以將樣本完全正確分開線性函數(shù)：(點(diǎn)、直線、平面

)統(tǒng)稱超平面(兩類)分類標(biāo)準(zhǔn)：線性可分SVM最大分類間隔取目標(biāo)函數(shù)為線性可分SVM尋找最寬邊界問題可以表示成一個(gè)約束優(yōu)化問題：線性可分SVMLagrange函數(shù)原始函數(shù)對(duì)偶函數(shù)為

Lagrange乘子線性可分SVM借助Lagrange方法求解，只涉及到之間的點(diǎn)積運(yùn)算線性可分SVM線性可分SVM因此分類函數(shù)為：所有非SupportingVector所對(duì)應(yīng)的系數(shù)α都是等于零的?表示向量?jī)?nèi)積，是之后使用Kernel進(jìn)行非線性推廣的基本前提非線性可分SVM通過某種事先選擇的非線性映射(核函數(shù))將輸入變量映射到一個(gè)高維特征空間，在這個(gè)空間中構(gòu)造最優(yōu)分類超平面非線性可分SVM二次曲線：非線性可分SVM核函數(shù)計(jì)算兩個(gè)向量在隱式映射過后的空間中的內(nèi)積的函數(shù)叫做核函數(shù)(KernelFunction)：非線性可分SVM核函數(shù)能簡(jiǎn)化映射空間中的內(nèi)積運(yùn)算

-SVM里需要計(jì)算的地方數(shù)據(jù)向量總是以內(nèi)積的形式出現(xiàn)的非線性可分SVM

徑向基:雙曲正弦:多項(xiàng)式:幾種常見的核函數(shù)高斯核：非線昏性可闖分SV金M核函勁數(shù)存讀在條忍件：對(duì)于蔬任意的g(守x)有線性皇近似愁可分SV粥M對(duì)第i個(gè)訓(xùn)謎練點(diǎn)鞭引斗入松弛裹變量(S錘la襪ck服V猶ar搏ia就bl膀e)度,把約銀束條序件放遇松到盞。線性塔近似茂可分SV礦M把損駐失加爺入到腫目標(biāo)辱函數(shù)晨里的頃時(shí)候，引賄入一個(gè)懲罰因經(jīng)子CSV凝M用于擔(dān)多類分星類一對(duì)案多(一類妙對(duì)其余)-分類齊重疊-不可耽分類SV痛M用于片多類溉分類一對(duì)統(tǒng)一-投票服機(jī)制-分類望重疊213123SV爆M用于鉛多類常分類兩向攜無環(huán)妙圖-誤差脹累積1v煮s52v導(dǎo)s51v艙s43v誰s52v峽s41v返s34v努s53v庸s42v前s31v孔s254321SV化M的應(yīng)洪用文本分類人臉識(shí)