非線性共軛梯度法收斂性的研究.pdf

1、共軛梯度法已有五十多年的歷史,它最早是由Hestenes和Stiefel于1952年在求解線性方程組時提出的,并由Fletcher和Reeves于1964年推廣到非線性優(yōu)化領(lǐng)域.隨后,Beale,Powell,Fletcher等著名的優(yōu)化專家對非線性共軛梯度法進行了深入研究,取得了十分優(yōu)秀的成果.但幾乎同時間世的擬牛頓方法由于其良好的計算表現(xiàn)以及豐富的收斂性分析很快受到了青睞,從而在很長一段時間里共軛梯度法被研究者所忽視.近年來,隨著計

2、算機的飛速發(fā)展以及實際問題的需要,大規(guī)模優(yōu)化問題越來越受到重視,而共軛梯度法正是求解大規(guī)模問題的一種主要方法.于是,共軛梯度法的理論研究又受到人們的關(guān)注. 本文在共軛梯度法的已有成果的基礎(chǔ)上,對共軛梯度法進行了較為深入地探討,得到了一些收斂性結(jié)果,豐富了共軛梯度法的理論分析.此外,還提出了幾種新的共軛梯度法,增加了共軛梯度法的廣度. 本文對近年來受關(guān)注的非線性共軛梯度法進行了研究,主要研究結(jié)果歸納如下： 1.第一

3、章介紹了非線性共軛梯度法的基本知識、前人所得的共軛梯度法全局收斂性的部分結(jié)果以及本文的主要工作. 2.第二章提出了求解步長因子的一種新的線性搜索方法在此線搜索的基礎(chǔ)上,提出了一種HS方法和DY方法相結(jié)合的混合共軛梯度法,并證明了算法的全局收斂性. 3.張秀軍在文獻[1]中提出了一種改進的可以控制步長的新線性搜索并在此線搜索下證明了DY方法的全局收斂性.結(jié)合HS方法好的數(shù)值表現(xiàn)和DY方法好的收斂性,本文在此線搜索下提出了一