《梯度下降法》PPT課件.ppt

1、1,梯度下降法,2,梯度下降法,搜索尋優(yōu)原理,3,搜索尋優(yōu),4,由初始狀態(tài),搜索尋優(yōu),5,搜索尋優(yōu),由初始狀態(tài) 到,6,由初始狀態(tài) 到 目標(biāo)函數(shù)極小點(diǎn),搜索尋優(yōu),7,梯度下降法,8,搜索尋優(yōu)特點(diǎn),梯度下降法,9,梯度下降法,搜索尋優(yōu)特點(diǎn) 一點(diǎn)尋優(yōu),10,目標(biāo)函數(shù)曲面J(W),11,目標(biāo)函數(shù)曲面J(W),12,目標(biāo)函數(shù)曲面J(W)-連續(xù),13,目標(biāo)函數(shù)曲面J(W) -連續(xù)、可微,14,全局極小點(diǎn),15,全局極小點(diǎn),16,局部極小點(diǎn)1,17,局部極小點(diǎn)1,18,局部極小點(diǎn)2,19,局部極小點(diǎn)2,20,目標(biāo)函數(shù)曲面J(W),21,目標(biāo)函數(shù)曲面J(W) -連續(xù),22,目標(biāo)函數(shù)曲面J(W) -連續(xù)、可微

2、,23,由初始狀態(tài)1起,24,由初始狀態(tài)1起,搜索,25,由初始狀態(tài)1起,搜索 尋優(yōu),26,初始狀態(tài)1,27,初始狀態(tài)1,28,搜索尋優(yōu)梯度下降,29,搜索尋優(yōu)梯度下降,30,搜索尋優(yōu)梯度下降,31,搜索尋優(yōu)梯度下降,32,搜索尋優(yōu)梯度下降,33,搜索尋優(yōu)梯度下降,34,搜索尋優(yōu)梯度下降,35,搜索尋優(yōu)梯度下降,36,搜索尋優(yōu)梯度下降,37,搜索尋優(yōu)梯度下降,38,搜索尋優(yōu)梯度下降,39,搜索尋優(yōu)梯度下降,40,搜索尋優(yōu)梯度下降,41,搜索尋優(yōu)梯度下降,42,搜索尋優(yōu)梯度下降,43,目標(biāo)函數(shù)全局極小點(diǎn),44,目標(biāo)函數(shù)全局極小點(diǎn),45,目標(biāo)函數(shù)全局極小點(diǎn),46,目標(biāo)函數(shù)全局極小點(diǎn),47,目標(biāo)函數(shù)曲面,48,由初始狀態(tài)2起,49,由初始狀態(tài)2起,尋優(yōu),50,初始狀態(tài)2,51,初始狀態(tài)2,52,初始狀態(tài)2,53,搜索尋優(yōu)梯度下降,54,搜索尋優(yōu)梯度下降,55,搜索尋優(yōu)梯度下降,56,搜索尋優(yōu)梯度下降,57,搜索尋優(yōu)梯度下降,58,目標(biāo)函數(shù)局部極小點(diǎn)2,59,目標(biāo)函數(shù)局部極小點(diǎn)2,60,目標(biāo)函數(shù)局部極小點(diǎn)2,6