Can you summarize the following document?
        
  

  最小平方法發展於天文學和大地測量學領域,科學家和數學家嘗試為大航海探索時期的海洋航行挑戰提供解決方案。準確描述天體的行為是船艦在大海洋上航行的關鍵,水手不能再依靠陸上目標導航作航行。  這個方法是在十八世紀期間一些進步的集大成:

  1801年,義大利天文學家朱塞普·皮亞齊發現了第一顆小行星穀神星。經過40天的追蹤觀測後,由於穀神星執行至太陽背後,使得皮亞齊失去了穀神星的位置。隨後全世界的科學家利用皮亞齊的觀測資料開始尋找穀神星,但是根據大多數人計算的結果來尋找穀神星都沒有結果。當年24歲的高斯也計算了穀神星的軌道。奧地利天文學家海因裡希·奧伯斯根據高斯計算出來的軌道重新發現了穀神星。  高斯使用的最小平方法的方法發表於1809年他的著作《天體運動論》中,而法國科學家勒壤得於1806年獨立發現“最小平方法”,但因不為世人所知而沒沒無聞。兩人曾為誰最早創立最小平方法原理髮生爭執。  1829年,高斯提供了最小平方法的優化效果強於其他方法的證明,見高斯-馬爾可夫定理。

  某次實驗得到了四個資料點 formula_1:formula_2、formula_3、formula_4、formula_5(右圖紅色的點)。我們希望找出一條和這四個點最匹配的直線 formula_6,即找出在某種「最佳情況」下能夠大致符合如下超定線性方程組的 formula_7 和 formula_8:  最小平方法採用的方法是儘量使得等號兩邊的平方差最小,也就是找出這個函式的最小值:  最小值可以通過對 formula_11 分別求 formula_7 和 formula_8 的偏導數,然後使他們等於零得到。  如此就得到了一個只有兩個未知數的方程組,很容易就可以解出:  也就是說直線 formula_18 是最佳的。

  人們對由某一變數formula_19 或多個變數formula_20......formula_21 構成的相關變數formula_22感興趣。如彈簧的形變與所用的力相關,一個企業的盈利與其營業額,投資收益和原始資本有關。為了得到這些變數同formula_22之間的關係,便用不相關變數去構建formula_22,使用如下函式模型  formula_26個獨立變數或formula_27個係數去擬合。  通常人們將一個可能的、對不相關變數t的構成都無困難的函式型別稱作函式模型(如拋物線函式或指數函式)。引數b是為了使所選擇的函式模型同觀測值y相匹配。(如在測量彈簧形變時,必須將所用的力與彈簧的膨脹係數聯絡起來)。其目標是合適地選擇引數,使函式模型最好的擬合觀測值。一般情況下,觀測值遠多於所選擇的引數。  其次的問題是怎樣判斷不同擬合的質量。高斯和勒讓德的方法是,假設測量誤差的平均值為0。令每一個測量誤差對應一個變數並與其它測量誤差不相關(隨機無關)。人們假設,在測量誤差中絕對不含系統誤差,它們應該是純偶然誤差(有固定的變異數),圍繞真值波動。除此之外,測量誤差符合正態分佈,這保證了偏差值在最後的結果y上忽略不計。  確定擬合的標準應該被重視,並小心選擇,較大誤差的測量值應被賦予較小的權。並建立如下規則:被選擇的引數,應該使算出的函式曲線與觀測值之差的平方和最小。用函式表示為:  formula_28  用歐幾里得度量表達為:  formula_29  又因為formula_30 ≥0,  所以也可以表示為formula_31  最小化問題的精度,依賴於所選擇的函式模型。

  典型的一類函式模型是線性函式模型。最簡單的線性式是formula_32,寫成矩陣式,為  直接給出該式的引數解:  其中formula_36,為t值的算術平均值。也可解得如下形式:

  隨機選定10艘戰艦,並分析它們的長度與寬度,尋找它們長度與寬度之間的關係。由下面的描點圖可以直觀地看出,一艘戰艦的長度(t)與寬度(y)基本呈線性關係。散點圖如下: 以下圖表列出了各戰艦的資料,隨後步驟是採用最小二乘法確定兩變數間的線性關係。  仿照上面給出的例子  formula_38 並得到相應的formula_39.  然後確定b  可以看出,戰艦的長度每變化1m,相對應的寬度便要變化16cm。並由下式得到常數項b:  在這裡隨機理論不加闡述。可以看出點的擬合非常好,長度和寬度的相關性大約為96.03%。 利用Matlab得到擬合直線:

  若含有更多不相關模型變數formula_43,可如組成線性函式的形式  即線性方程組  通常人們將"t"記作資料矩陣 "A",引數"b"記做引數向量"b",觀測值"y"記作"Y",則線性方程組又可寫成:  上述方程運用最小二乘法匯出為線性平方差計算的形式為:

  formula_49  的特解為A的廣義逆矩陣與Y的乘積,這同時也是二範數極小的解,其通解為特解加上A的零空間。證明如下:  先將Y拆成A的值域及其正交補兩部分 所以formula_53,可得 故當且僅當formula_55是formula_56解時,formula_55即為最小二乘解,即formula_58。  又因為 故formula_60的通解為 因為 所以formula_63又是二範數極小的最小二乘解。
最小二乘法(英語:least squares method),又稱最小平方法,是一種數學優化方法。它通過最小化誤差的平方和尋找資料的最佳函式匹配。