非光滑優(yōu)化問題的拉格朗日神經(jīng)網(wǎng)絡(luò)研究.pdf

1、如今在科學(xué)和工程領(lǐng)域中,如信號處理、最優(yōu)控制、統(tǒng)計(jì)、模式識別等等都常會用到最優(yōu)化問題。神經(jīng)網(wǎng)絡(luò)方法為解決最優(yōu)化問題提供了一個(gè)有效的發(fā)展方向,通過使用具備高度并行計(jì)算能力的相對簡單的神經(jīng)網(wǎng)絡(luò)體系結(jié)構(gòu),即使相對復(fù)雜的最優(yōu)化問題也可以得到實(shí)時(shí)解決。在過去的三十年,研究者們對解決最優(yōu)化問題提出了很多神經(jīng)網(wǎng)絡(luò)模型,使得光滑最優(yōu)化問題得到了很好的解決,但是在實(shí)際應(yīng)用中往往是非光滑最優(yōu)化問題更具一般性和普遍性。本文研究利用拉格朗日神經(jīng)網(wǎng)絡(luò)模型解決非光

2、滑最優(yōu)化問題,具體內(nèi)容如下:
　　文中首先針對目標(biāo)函數(shù)是局部Lipschitz函數(shù)的非光滑最優(yōu)化問題,其可行域由一組等式約束的光滑凸函數(shù)組成,通過引進(jìn)光滑逼近技術(shù)將目標(biāo)函數(shù)由非光滑函數(shù)轉(zhuǎn)換成相應(yīng)的光滑函數(shù),進(jìn)而構(gòu)造一類基于拉格朗日乘子理論的神經(jīng)網(wǎng)絡(luò),以尋找滿足約束條件的最優(yōu)解。證明了神經(jīng)網(wǎng)絡(luò)的平衡點(diǎn)集合是原始非光滑最優(yōu)化問題關(guān)鍵點(diǎn)集合的一個(gè)子集;當(dāng)原始問題的目標(biāo)函數(shù)是凸函數(shù)時(shí),最小點(diǎn)集合與神經(jīng)網(wǎng)絡(luò)的平衡點(diǎn)集合是一致的等結(jié)論。最后,

3、通過Matlab編程進(jìn)行仿真實(shí)驗(yàn)驗(yàn)證了理論結(jié)果。
　　其次,傳統(tǒng)的罰函數(shù)神經(jīng)網(wǎng)絡(luò)方法解決最優(yōu)化問題在計(jì)算上有很大的困難,增廣拉格朗日神經(jīng)網(wǎng)絡(luò)有效的解決了這種計(jì)算上的困難。文中采用拉格朗日乘子理論和罰函數(shù)方法相結(jié)合構(gòu)造微分包含的增廣拉格朗日神經(jīng)網(wǎng)絡(luò),用來解決目標(biāo)函數(shù)是局部Lipschitz函數(shù),可行域由一組等式約束函數(shù)組成的非光滑最優(yōu)化問題。
　　最后,通過把約束函數(shù)合并到一個(gè)修正目標(biāo)函數(shù)中來處理約束。相比已經(jīng)存在的基于罰函數(shù)