具有充分下降性的非線性共軛梯度法.pdf

1、最優(yōu)化是一門應用相當廣泛的學科，它討論決策問題的最佳選擇，構(gòu)造尋求最優(yōu)解的計算方法。雖然最優(yōu)化問題可以追溯到古老的極值問題，但直到1947年Dantzig提出一般線性規(guī)劃問題的單純形法后，它才成為一門獨立的學科。近年來隨著系統(tǒng)科學的發(fā)展和計算機的廣泛應用，最優(yōu)化理論和方法在工程、國防、經(jīng)濟、管理等領(lǐng)域以及許多數(shù)學分支都有著直接或間接的應用，成為一門十分活躍的學科。共軛梯度法是最優(yōu)化中常用的方法之一，它具有算法簡單、存儲需求少、易于實現(xiàn)等

2、優(yōu)點，十分適合求解大規(guī)模無約束優(yōu)化問題。本文研究了求解無約束優(yōu)化問題的非線性共軛梯度法，并探討了全局收斂性和數(shù)值表現(xiàn)。主要研究內(nèi)容如下： ⑴介紹了最優(yōu)化問題的提出以及判斷最優(yōu)解常用的最優(yōu)性條件；回顧了求解無約束優(yōu)化問題常用的幾類導數(shù)下降類算法。 ⑵介紹了本文將要研究的問題背景和已有結(jié)果以及目前的研究現(xiàn)狀。 ⑶提出了兩種修正的非線性共軛梯度法，分別為修正FR方法和修正HS方法，這兩種修正方法的一個重要特征就是能產(chǎn)生

3、充分下降方向，即搜索方向dk滿足gkTdk=-‖gk‖2．這種性質(zhì)不依賴于方法所采用的線性搜索。此外，當采用精確線性搜索時，本文的修正FR方法和修正HS方法分別退化為原始的FR方法和HS方法。因此，當目標函數(shù)是嚴格凸二次函數(shù)，且采用精確線性搜索時，這些修正的共軛梯度法具有共軛性和二次終止性。在一定的條件下，我們證明了采用標準Armijo線搜索的修正共軛梯度法求解非凸極小化問題的全局收斂性。在非單調(diào)Armijo線搜索下證明了修正HS方法的