隨機(jī)神經(jīng)網(wǎng)絡(luò)ppt課件

《隨機(jī)神經(jīng)網(wǎng)絡(luò)ppt課件》由會(huì)員分享，可在線閱讀，更多相關(guān)《隨機(jī)神經(jīng)網(wǎng)絡(luò)ppt課件（49頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。

第六章 隨機(jī)神經(jīng)網(wǎng)絡(luò),1,隨機(jī)網(wǎng)絡(luò)：學(xué)習(xí)運(yùn)行引入隨機(jī)機(jī)制 1.存在的問(wèn)題：以目標(biāo)函數(shù)的極小值，作為學(xué)習(xí)或運(yùn)行的目的 BP算法-誤差函數(shù)，梯度下降 Hop算法-Hebb規(guī)則-能量函數(shù)E 容易陷入局部極小點(diǎn).,2,①無(wú)法避免; 從②入手：將“總是沿梯度下降方向演變”改為”大部分沿梯度下降方向演變，但允許少數(shù)情況沿上升方向演變.”,3,目 錄,引言 模擬退火算法的模型 模擬退火算法的簡(jiǎn)單應(yīng)用 模擬退火算法的參數(shù)控制問(wèn)題 Boltzmann機(jī),4,6.1 引言,模擬退火(Simulated Annealing, SA)算法是近年來(lái)特別引入注目的一種適用于解大型組合優(yōu)化問(wèn)題的優(yōu)化方法,算法來(lái)源于固體退火原理,其核心在于 模仿熱力學(xué)中液體的凍結(jié)與結(jié)晶或金屬熔液的冷卻與退火過(guò)程--物理退火過(guò)程和Metropolis準(zhǔn)則. 下面分別介紹 SA原理 SA全局優(yōu)化的直觀解釋,5,6.1.1 模擬退火原理,簡(jiǎn)單而言,在固體退火時(shí),先將固體加熱使其溫度充分高,再讓其徐徐冷卻,其物理退火過(guò)程由以下三部分組成： 加溫過(guò)程 等溫過(guò)程 冷卻過(guò)程,6,6.1.1 模擬退火原理,加溫過(guò)程 在固體退火時(shí),先將固體加熱使其溫度充分高,其目的是增強(qiáng)粒子的熱運(yùn)動(dòng),使其偏離平衡位置. 當(dāng)溫度足夠高時(shí),固體將溶解為液體,固體內(nèi)部粒子隨溫升變?yōu)闊o(wú)序狀, 彼此之間可以自由移動(dòng),從而消除系統(tǒng)原先可能存在的非均勻態(tài),使隨后進(jìn)行的冷卻過(guò)程以某一平衡態(tài)為起點(diǎn). 熔解過(guò)程(加熱固體至高溫液態(tài))與系統(tǒng)的熵增過(guò)程聯(lián)系,系統(tǒng)內(nèi)部能量也隨溫度的升高而增大.,7,6.1.1 模擬退火原理,等溫過(guò)程 物理學(xué)的知識(shí)告訴我們,對(duì)于與周圍環(huán)境交換熱量而溫度不變的封閉系統(tǒng),系統(tǒng)狀態(tài)的自發(fā)變化總是朝自由能減少的方向進(jìn)行,當(dāng)自由能達(dá)到最小時(shí),系統(tǒng)達(dá)到平衡態(tài). 冷卻過(guò)程 目的是使粒子的熱運(yùn)動(dòng)減弱并漸趨有序,系統(tǒng)能量逐漸下降,從而得到低能的晶體結(jié)構(gòu). 徐徐冷卻時(shí)粒子就會(huì)喪失由于溫度而引起的流動(dòng)性,漸趨有序,這時(shí)原子就會(huì)自己排列起來(lái)而形成一種純晶體,它們依次地朝各個(gè)方向排列成幾十億倍于單個(gè)原子大小的距離,這個(gè)純晶體狀態(tài)就是該系統(tǒng)的平衡態(tài),亦為最小能量狀態(tài).,8,6.1.1 模擬退火原理,有趣的是: 對(duì)一個(gè)徐徐冷卻的系統(tǒng),當(dāng)這些原子在逐漸失去活力的同時(shí),它們自己就同時(shí)地排列而形成一個(gè)純晶體,使這個(gè)系統(tǒng)的能量達(dá)到其最小值. 這里引起特別關(guān)注的是,在這個(gè)物理系統(tǒng)的冷卻過(guò)程中,這些原子是“同時(shí)地”把它們自己排列成一個(gè)純晶體的. 如果一種金屬熔液是被快速冷卻或潑水使其冷卻的,則它不能達(dá)到純晶體狀態(tài),而是變成一種多晶體或非晶體狀態(tài),系統(tǒng)處在這種狀態(tài)時(shí)具有較高的能量.,9,6.1.1 模擬退火原理,SA算法就是模仿上述物理系統(tǒng)徐徐退火過(guò)程的一種通用隨機(jī)搜索技術(shù),人們可用馬爾柯夫鏈的遍歷理論來(lái)給它以數(shù)學(xué)上的描述. 在搜索最優(yōu)解的過(guò)程中,SA算法除了可以接受優(yōu)化解外,還基于隨機(jī)接受準(zhǔn)則(Metropolis準(zhǔn)則)有限度地接受惡化解,并且接受惡化解的概率慢慢趨向于0. 這使得算法有可能從局部最優(yōu)中跳出,盡可能找到全局最優(yōu)解,并保證了算法的收斂. SA的思想最早是由Metropolis等(1953)提出的. Metropolis等提出了重要性采樣法,即以概率接受新狀態(tài).,10,對(duì)于某一給定溫度，系統(tǒng)若達(dá)到熱平衡狀態(tài)(循環(huán)若干次)，則該狀態(tài)下的能量服從Bottzmann分布.,6.1.1 模擬退火原理,11,6.1.1 模擬退火原理,具體而言,在溫度t,由當(dāng)前狀態(tài)i產(chǎn)生新狀態(tài)j,兩者的能量分別為Ei和Ej,若EjEi則接受新狀態(tài)j為當(dāng)前狀態(tài)；否則,若概率,大于[0,1)區(qū)間內(nèi)的隨機(jī)數(shù)則仍舊接受新狀態(tài)j為當(dāng)前狀態(tài),若不成立則保留i為當(dāng)前狀態(tài),其中k為Boltzmann常數(shù). 這種重要性采樣過(guò)程在高溫下可接受與當(dāng)前狀態(tài)能量差較大的新狀態(tài),而在低溫下基本只接受與當(dāng)前能量差較小的新狀態(tài),而且當(dāng)溫度趨于零時(shí),就不能接受比當(dāng)前狀態(tài)能量高的新狀態(tài). 這種接受準(zhǔn)則通常稱為Metropolis準(zhǔn)則.,12,6.1.1 模擬退火原理,1983年Kirkpatrick等人意識(shí)到組合優(yōu)化與物理退火的相似性,并受到Metropolis準(zhǔn)則的啟迪,首次把固體的退火過(guò)程與組合極小化聯(lián)系在一起,他們分別用目標(biāo)函數(shù)和組合極小化問(wèn)題的解替代物理系統(tǒng)的能量和狀態(tài),從而物理系統(tǒng)內(nèi)粒子的攝動(dòng)等價(jià)于組合極小化問(wèn)題的試探. SA是基于Monte Carlo迭代求解策略的一種隨機(jī)尋優(yōu)算法. 極小化過(guò)程就是: 首先在一個(gè)高溫(溫度現(xiàn)在就成為一個(gè)控制參數(shù))狀態(tài)下,利用具有概率突跳特性的Metropolis抽樣策略在解空間中進(jìn)行隨機(jī)搜索,伴隨溫度的不斷下降,重復(fù)抽樣過(guò)程,將有效地“溶化”解空間; 然后慢慢地降低溫度直到系統(tǒng)“結(jié)晶”到一個(gè)穩(wěn)定解,最終得到問(wèn)題的全局最優(yōu)解.,13,6.1.1 模擬退火原理,SA算法在組合最優(yōu)化中的成功應(yīng)用掀起了SA算法研究與應(yīng)用的高潮. 1991年Dekkers和Aarts探討將SA算法應(yīng)用于求解連續(xù)優(yōu)化問(wèn)題. 20世紀(jì)90年代以來(lái),SA算法在NN、GA、進(jìn)化算法等優(yōu)化、學(xué)習(xí)領(lǐng)域得到極大的應(yīng)用.,14,6.1.1 模擬退火原理,SA算法的主要精髓是基于Metropolis準(zhǔn)則可接受求解過(guò)程的惡化解. Metropolis準(zhǔn)則為: 粒子在溫度T時(shí)趨于平衡的概率為,其中E為溫度T時(shí)的內(nèi)能, ?E為其改變量, k為Boltzmann常數(shù).,15,6.1.1 模擬退火原理,利用上述固體退火原理來(lái)模擬求解組合優(yōu)化問(wèn)題時(shí), 將內(nèi)能E模擬為目標(biāo)函數(shù)值f,溫度T演化成控制參數(shù)t, 并以Metropolis準(zhǔn)則的概率,接受惡化解, 按照上述方法即得到解組合優(yōu)化問(wèn)題的SA算法.,16,6.1.1 模擬退火原理,SA算法的思想為: 由初始解i和控制參數(shù)初值t開始,對(duì)當(dāng)前解重復(fù) 產(chǎn)生新解 → 計(jì)算目標(biāo)函數(shù)差 → 接受或舍棄 的迭代, 并逐步衰減t值, 算法終止時(shí)的當(dāng)前解即為所得近似最優(yōu)解, 這是基于蒙特卡羅迭代求解法的一種啟發(fā)式隨機(jī)搜索過(guò)程.,17,6.1.1 模擬退火原理,退火過(guò)程由冷卻進(jìn)度表(Cooling Schedule)控制,包括控制參數(shù)的初值t及其衰減因子?t、每個(gè)t值時(shí)的迭代次數(shù)L和停止條件S.,18,6.1.2 SA全局優(yōu)化的直觀解釋,SA算法最重要的貢獻(xiàn)在于其能以較大的概率求取復(fù)雜優(yōu)化問(wèn)題的全局解. 下面通過(guò)連續(xù)函數(shù)優(yōu)化的幾何直觀解釋來(lái)說(shuō)明SA算法如何能以較大概率求得全局最優(yōu)解. 考慮如下圖所示的全局優(yōu)化問(wèn)題.,19,6.1.2 SA全局優(yōu)化的直觀解釋,20,6.1.2 SA全局優(yōu)化的直觀解釋,所謂SA優(yōu)化算法,其實(shí)質(zhì)上相當(dāng)于對(duì)該函數(shù)在水平方向上施以振動(dòng). 若需逃離極值,則 逃離出局部極值比全局極值需要更小的能量,即振動(dòng)的幅度更小.,21,6.1.2 SA全局優(yōu)化的直觀解釋,22,6.1.2 SA全局優(yōu)化的直觀解釋,但實(shí)際上相反,SA的策略為函數(shù)值大,其能量大,即振動(dòng)的幅度大.,23,6.1.2 SA全局優(yōu)化的直觀解釋,因此,SA算法使得局部極值更容易被逃逸,全局極值更穩(wěn)定. 故求得全局極值的概率較大. 從上述直觀解釋,可以得出SA算法的全局優(yōu)化的原理： 由于優(yōu)化過(guò)程中,拒絕惡化解的概率與函數(shù)值(能量)大小成正指數(shù)關(guān)系, 而且局部極值本身更容易被逃逸, 因此迭代變量落入函數(shù)值大的局部極值比落入函數(shù)值最小(能量最小)的全局極值更有可能產(chǎn)生逃逸.,24,6.2 SA算法的模型,SA算法可以分解為解空間、目標(biāo)函數(shù)和初始解三部分. SA的基本思想: Step 1 初始化:初始溫度T(充分大),初始解狀態(tài)S(是算法迭代的起點(diǎn)),每個(gè)T值的迭代次數(shù)L Step 2 對(duì)k=1,……,L做第(3)至第6步: Step 3 產(chǎn)生新解S’ Step 4 計(jì)算增量?t’=C(S’)-C(S),其中C(S)為評(píng)價(jià)函數(shù),25,6.2 SA算法的模型,Step 5 若?t’0則接受S’作為新的當(dāng)前解,否則以概率exp(-?t’/T)接受S’作為新的當(dāng)前解. Step 6 如果滿足終止條件則輸出當(dāng)前解作為最優(yōu)解,結(jié)束程序. 終止條件通常取為連續(xù)若干個(gè)新解都沒(méi)有被接受時(shí)終止算法. Step 7 T逐漸減少,且T?0,然后轉(zhuǎn)第2步. 算法對(duì)應(yīng)流程圖如下所示.,26,6.2 SA算法的模型,27,6.2 SA算法的模型,SA算法新解的產(chǎn)生和接受可分為如下四個(gè)步驟: 第一步是由一個(gè)產(chǎn)生函數(shù)從當(dāng)前解產(chǎn)生一個(gè)位于解空間的新解 第二步是計(jì)算與新解所對(duì)應(yīng)的目標(biāo)函數(shù)差 第三步是判斷新解是否被接受,判斷的依據(jù)是一個(gè)接受準(zhǔn)則 第四步是當(dāng)新解被確定接受時(shí),用新解代替當(dāng)前解.,28,6.2 SA算法的模型,第一步是由一個(gè)產(chǎn)生函數(shù)從當(dāng)前解產(chǎn)生一個(gè)位于解空間的新解. 為便于后續(xù)的計(jì)算和接受,減少算法耗時(shí),通常選擇由當(dāng)前新解經(jīng)過(guò)簡(jiǎn)單地變換即可產(chǎn)生新解的方法, 如對(duì)構(gòu)成新解的全部或部分元素進(jìn)行置換、互換等,注意到產(chǎn)生新解的變換方法決定了當(dāng)前新解的鄰域結(jié)構(gòu),因而對(duì)冷卻進(jìn)度表的選取有一定的影響.,29,6.2 SA算法的模型,第二步是計(jì)算與新解所對(duì)應(yīng)的目標(biāo)函數(shù)差. 第三步是判斷新解是否被接受,判斷的依據(jù)是一個(gè)接受準(zhǔn)則. 最常用的接受準(zhǔn)則是Metropo1is準(zhǔn)則: 若?t’a，則接受x’為新狀態(tài)，否則仍停留來(lái)原狀態(tài)X）.,30,6.2 SA算法的模型,第四步是當(dāng)新解被確定接受時(shí),用新解代替當(dāng)前解. 這只需將當(dāng)前解中對(duì)應(yīng)于產(chǎn)生新解時(shí)的變換部分予以實(shí)現(xiàn),同時(shí)修正目標(biāo)函數(shù)值即可. 此時(shí),當(dāng)前解實(shí)現(xiàn)了一次迭代.可在此基礎(chǔ)上開始下一輪試驗(yàn). 而當(dāng)新解被判定為舍棄時(shí),則在原當(dāng)前解的基礎(chǔ)上繼續(xù)下一輪試驗(yàn).,31,6.2 SA算法的模型,從算法流程上看,模擬退火算法包括三過(guò)程(函數(shù))兩準(zhǔn)則,即 狀態(tài)產(chǎn)生過(guò)程、 狀態(tài)接受過(guò)程、 溫度更新過(guò)程、 內(nèi)循環(huán)終止準(zhǔn)則和 外循環(huán)終止準(zhǔn)則, 這些環(huán)節(jié)的設(shè)計(jì)將決定SA算法的優(yōu)化性能. 其中狀態(tài)產(chǎn)生過(guò)程和外循環(huán)終止準(zhǔn)則根據(jù)SA算法應(yīng)用于不同的領(lǐng)域的不同優(yōu)化問(wèn)題,其具體過(guò)程不同. 其它過(guò)程和準(zhǔn)則則是SA算法的基本要素,基本不變.,32,6.2 SA算法的模型,A. 狀態(tài)產(chǎn)生函數(shù) 設(shè)計(jì)狀態(tài)產(chǎn)生函數(shù)(鄰域函數(shù))的出發(fā)點(diǎn)應(yīng)該是盡可能保證產(chǎn)生的候選解遍布全部的解空間. 通常,狀態(tài)產(chǎn)生函數(shù)由兩部分組成,即產(chǎn)生候選解的方式和候選解產(chǎn)生的概率分布. B. 狀態(tài)接受函數(shù) 狀態(tài)接受函數(shù)一般以概率的方式給出,不同接受函數(shù)的差別主要在于接受概率的形式不同. 設(shè)計(jì)狀態(tài)接受概率,應(yīng)該遵循以下原則： ① 在固定溫度下,接受使目標(biāo)函數(shù)值下降的候選解的概率要大于使目標(biāo)值上升的候選解的概率；,33,6.2 SA算法的模型,② 隨溫度的下降,接受使目標(biāo)函數(shù)值上升的解的概率要逐漸減??； ③ 當(dāng)溫度趨于零時(shí),只能接受目標(biāo)函數(shù)值下降的解. 狀態(tài)接受函數(shù)的引入是SA算法實(shí)現(xiàn)全局搜索的最關(guān)鍵的因素.,34,C.溫度更新函數(shù) 溫度更新函數(shù),即溫度的下降方式,用于在外循環(huán)中修改溫度值. 目前,最常用的溫度更新函數(shù)為指數(shù)退溫函數(shù),當(dāng)然還有其它不同的降溫策略.,6.2 SA算法的模型,35,6.2 SA算法的模型,D.內(nèi)循環(huán)終止準(zhǔn)則 內(nèi)循環(huán)終止準(zhǔn)則,或稱Metropolis抽樣穩(wěn)定準(zhǔn)則,用于決定在各溫度下產(chǎn)生候選解的數(shù)目. 常用的抽樣準(zhǔn)則包括： ① 檢驗(yàn)?zāi)繕?biāo)函數(shù)的均值是否穩(wěn)定； ② 連續(xù)若干步的目標(biāo)值變化較??； ③ 按一定的步數(shù)抽樣.,36,6.2 SA算法的模型,E.外循環(huán)終止準(zhǔn)則 外循環(huán)終止準(zhǔn)則,即算法終止準(zhǔn)則,用于決定算法何時(shí)結(jié)束.設(shè)置溫度終值是一種簡(jiǎn)單的方法. SA算法的收斂性理論中要求溫度終值趨于零,這顯然不合實(shí)際.通常的做法是： ① 設(shè)置終止溫度的閾值； ② 設(shè)置外循環(huán)迭代次數(shù)； ③ 算法收斂到的最優(yōu)值連續(xù)若干步保持不變； ④ 檢驗(yàn)系統(tǒng)熵是否穩(wěn)定.,37,6.3 SA算法的簡(jiǎn)單應(yīng)用,作為SA算法應(yīng)用,討論貨郎擔(dān)問(wèn)題(TSP): 設(shè)有n個(gè)城市,用數(shù)碼1,…,n代表. 城市i和城市j之間的距離為d(i,j), i, j=1,…,n TSP問(wèn)題是要找遍訪每個(gè)域市恰好一次的一條回路,且其路徑總長(zhǎng)度為最短.,38,6.3 SA算法的簡(jiǎn)單應(yīng)用,求解TSP的SA算法模型可描述如下: 解空間 解空間S是遍訪每個(gè)城市恰好一次的所有回路,是{1,……,n}的所有循環(huán)排列的集合, S中的成員記為(w1,w2 ,……,wn), 并記wn+1= w1.初始解可選為(1,……,n) 目標(biāo)函數(shù) 此時(shí)的目標(biāo)函數(shù)即為訪問(wèn)所有城市的路徑總長(zhǎng)度或稱為代價(jià)函數(shù): f(w1, w2 ,…,wn)=sum(d(wj, wj+1)) 我們要求此代價(jià)函數(shù)的最小值.,39,6.3 SA算法的簡(jiǎn)單應(yīng)用,新解的產(chǎn)生 隨機(jī)產(chǎn)生1和n之間的兩相異數(shù)k和m,若km,則將 (w1, w2 ,…,wk , wk+1 ,…,wm ,…,wn) 變?yōu)? (wm, wm-1 ,…,w1 , wm+1 ,…,wk-1 ,wn , wn-1 ,…,wk). 上述變換方法可簡(jiǎn)單說(shuō)成是“逆轉(zhuǎn)中間或者逆轉(zhuǎn)兩端”.,40,6.3 SA算法的簡(jiǎn)單應(yīng)用,也可以采用其他的變換方法,有些變換有獨(dú)特的優(yōu)越性,有時(shí)也將它們交替使用,得到一種更好方法. 代價(jià)函數(shù)差 設(shè)將(w1, w2 ,……,wn)變換為(u1, u2 ,……,un), 則代價(jià)函數(shù)差為,41,6.3 SA算法的簡(jiǎn)單應(yīng)用,根據(jù)上述分析,可寫出用SA算法求解TSP問(wèn)題的偽程序: Procedure TSPSA: begin init-of-T; { T為初始溫度} S={1,……,n}; {S為初始值} termination=false; while termination=false begin for i=1 to L do begin generate(S’ from S); { 從當(dāng)前回路S產(chǎn)生新回 路S’},42,6.3 SA算法的簡(jiǎn)單應(yīng)用,?t:=f(S’)-f(S);{f(S)為路徑總長(zhǎng)} IF(?tRandom-of-[0,1]) S=S’; IF the-halt-condition-is-TRUE THEN termination=true; End; T_lower; End; End,43,6.3 SA算法的簡(jiǎn)單應(yīng)用,SA算法的應(yīng)用很廣泛,可以以較高的效率 求解最大截問(wèn)題(Max Cut Problem)、 0-1背包問(wèn)題(Zero One Knapsack Problem)、 圖著色問(wèn)題(Graph Colouring Problem)、 調(diào)度問(wèn)題(Scheduling Problem)等等.,44,6.4 SA算法的參數(shù)控制問(wèn)題,SA算法是一種非常良好的,具有普適性的迭代優(yōu)化算法.其主要性質(zhì)有： 與初始值無(wú)關(guān),算法求得的解與初始解狀態(tài)S(是算法迭代的起點(diǎn))無(wú)關(guān); SA算法具有漸近收斂性,已在理論上被證明是一種以概率1收斂于全局最優(yōu)解的全局優(yōu)化算法; SA算法具有并行性.,45,6.4 SA算法的參數(shù)控制問(wèn)題,SA算法的應(yīng)用很廣泛,可以求解NP完全問(wèn)題,但其參數(shù)難以控制,其主要問(wèn)題有以下三點(diǎn): 溫度T的初始值設(shè)置問(wèn)題. 退火速度問(wèn)題. 溫度管理問(wèn)題.,46,6.4 SA算法的參數(shù)控制問(wèn)題,A. 溫度T的初始值設(shè)置問(wèn)題. 初始溫度、溫度更新函數(shù)、內(nèi)循環(huán)終止準(zhǔn)則和外循環(huán)終止準(zhǔn)則通常被稱為退火歷程(annealing schedule). 實(shí)驗(yàn)表明,初溫越大,獲得高質(zhì)量解的幾率越大,但花費(fèi)的計(jì)算時(shí)間將增加. 初始溫度高,則搜索到全局最優(yōu)解的可能性大,但因此要花費(fèi)大量的計(jì)算時(shí)間; 反之,則可節(jié)約計(jì)算時(shí)間,但全局搜索性能可能受到影響.,47,6.4 SA算法的參數(shù)控制問(wèn)題,因此,初溫的確定是影響SA算法全局搜索性能的重要因素之一,應(yīng)折衷考慮優(yōu)化質(zhì)量和優(yōu)化效率, 實(shí)際應(yīng)用過(guò)程中,初始溫度一般需要依據(jù)實(shí)驗(yàn)結(jié)果進(jìn)行若干次調(diào)整.,48,6.4 SA算法的參數(shù)控制問(wèn)題,B. 退火速度問(wèn)題. SA算法的全局搜索性能也與退火速度密切相關(guān). 一般來(lái)說(shuō),同一溫度下的“充分”搜索(退火)是相當(dāng)必要的,但這需要計(jì)算時(shí)間. 實(shí)際應(yīng)用中,要針對(duì)具體問(wèn)題的性質(zhì)和特征設(shè)置合理的退火平衡條件. C. 溫度管理問(wèn)題. 溫度管理問(wèn)題也是SA算法難以處理的問(wèn)題之一. 實(shí)際應(yīng)用中,由于必須考慮計(jì)算復(fù)雜度的切實(shí)可行性等問(wèn)題,常采用如下所示的降溫方式: T(t+1)＝k?T(t) 式中k為正的略小于1.00的常數(shù),t為降溫的次數(shù).,49,