最小二乘法的原理和應(yīng)用【畢業(yè)論文】

1、1（20_20__屆）屆）本科畢業(yè)設(shè)計(jì)本科畢業(yè)設(shè)計(jì)數(shù)學(xué)與應(yīng)用數(shù)學(xué)最小二乘法的原理和應(yīng)用3摘要：最小二乘法在建立回歸模型中得到了廣泛的應(yīng)用。最小二乘法求解擬合直線(xiàn)方程，計(jì)算的測(cè)量誤差，均未超出測(cè)試數(shù)據(jù)的極限偏差。用最小二乘法線(xiàn)性擬合是處理回歸問(wèn)題的一種常用方法。關(guān)鍵詞：最小二乘法；擬合直線(xiàn)；廣義的最小二乘法；偏最小二乘法；在自然科學(xué)、社會(huì)科學(xué)等領(lǐng)域內(nèi)，為確定客觀(guān)存在著的變量之間的函數(shù)關(guān)系，需根據(jù)大量的實(shí)驗(yàn)、觀(guān)測(cè)或者社會(huì)調(diào)查所得數(shù)據(jù)建立函數(shù)

2、關(guān)系式。這些數(shù)據(jù)中往往帶有隨機(jī)的誤差。1.1.最小二乘法的引入最小二乘法的引入天文學(xué)自古代至18世紀(jì)是應(yīng)用數(shù)學(xué)中最發(fā)達(dá)的領(lǐng)域。觀(guān)測(cè)和數(shù)學(xué)天文學(xué)給出了建立數(shù)學(xué)模型及數(shù)據(jù)擬合的最初例子，在此種意義下，天文學(xué)家就是最初的數(shù)理統(tǒng)計(jì)學(xué)家。天文學(xué)的問(wèn)題逐漸引導(dǎo)到算術(shù)平均，以及參數(shù)模型中的種種估計(jì)方法，以最小二乘法為頂峰。1801年，意大利天文學(xué)家朱賽普皮亞齊發(fā)現(xiàn)了第一顆小行星谷神星。經(jīng)過(guò)40天的跟蹤觀(guān)測(cè)后，由于谷神星運(yùn)行至太陽(yáng)背后，使得皮亞齊失去了

3、谷神星的位置。隨后全世界的科學(xué)家利用皮亞齊的觀(guān)測(cè)數(shù)據(jù)開(kāi)始尋找谷神星，但是根據(jù)大多數(shù)人計(jì)算的結(jié)果來(lái)尋找谷神星都沒(méi)有結(jié)果。時(shí)年24歲的高斯也計(jì)算了谷神星的軌道。奧地利天文學(xué)家海因里希奧爾伯斯根據(jù)高斯計(jì)算出來(lái)的軌道重新發(fā)現(xiàn)了谷神星。高斯使用的最小二乘法的方法發(fā)表于1809年他的著作《天體運(yùn)動(dòng)論》中。勒讓德是法國(guó)軍事學(xué)校的教授，曾任多界政府委員，后來(lái)成了多科工藝學(xué)校的總監(jiān)，直至1833年逝世。有記載最小二乘法最早出現(xiàn)在勒讓德1805年發(fā)表的論著

4、《計(jì)算彗星軌道的新方法》附錄中。他在該書(shū)中描述了最小二乘法的思想、具體做法及其優(yōu)點(diǎn)。勒讓德的成功在于它從一個(gè)新的角度來(lái)看待這個(gè)問(wèn)題，不像其前輩那樣致力于找出幾個(gè)方程（個(gè)數(shù)等于未知數(shù)的個(gè)數(shù)）再去求解，而是考慮誤差在整體上的平衡。從某種意義講，最小二乘法是一個(gè)處理觀(guān)測(cè)值的純粹代數(shù)方法。要將其應(yīng)用于統(tǒng)計(jì)推斷問(wèn)題就需要考慮觀(guān)測(cè)值的誤差，確定誤差分布的函數(shù)形式。勒讓德曾與高斯為誰(shuí)最早創(chuàng)立最小二乘法原理發(fā)生爭(zhēng)執(zhí)。1829年，高斯提供了最小二乘法的優(yōu)