Can you summarize the following document?
        
  

  給一個隨機樣本formula_5,一個線性迴歸模型假設迴歸子formula_6和迴歸量formula_7之間的關係是除了X的影響以外,還有其他的變數存在。我們加入一個誤差項formula_8(也是一個隨機變數)來捕獲除了formula_9之外任何對formula_6的影響。所以一個多變數線性迴歸模型表示為以下的形式: 其他的模型可能被認定成非線性模型。一個線性迴歸模型不需要是自變數的線性函式。線性在這裡表示formula_6的條件均值在引數formula_13裡是線性的。例如:模型formula_14在formula_15和formula_16裡是線性的,但在formula_17裡是非線性的,它是formula_18的非線性函式。

  區分隨機變數和這些變數的觀測值是很重要的。通常來說,觀測值或資料(以小寫字母表記)包括了"n"個值 formula_19.  我們有formula_20個引數formula_21需要決定,為了估計這些引數,使用矩陣表記是很有用的。  其中"Y"是一個包括了觀測值formula_23的列向量,formula_24包括了未觀測的隨機成分formula_25以及迴歸量的觀測值矩陣formula_26:  "X"通常包括一個常數項。  如果"X"列之間存線上性相關,那麼引數向量formula_13就不能以最小二乘法估計除非formula_13被限制,比如要求它的一些元素之和為0。  這些假設意味著殘差項不依賴自變數的值,所以formula_8和自變數X(預測變數)之間是相互獨立的。

  在這些假設下,建立一個顯式線性迴歸作為條件預期模型的簡單線性迴歸,可以表示為:

  

  迴歸分析的最初目的是估計模型的引數以便達到對資料的最佳擬合。在決定一個最佳擬合的不同標準之中,最小二乘法是非常優越的。這種估計可以表示為:

  對於每一個formula_33,我們用formula_34代表誤差項formula_24的方差。一個無偏誤的估計是: 其中formula_37是誤差平方和(殘差平方和)。估計值和實際值之間的關係是: 其中formula_39服從卡方分佈,自由度是formula_40  對普通方程的解可以冩為: 這表示估計項是因變數的線性組合。進一步地說,如果所觀察的誤差服從正態分佈。引數的估計值將服從聯合正態分佈。在當前的假設之下,估計的引數向量是精確分佈的。 其中formula_43表示多變數正態分佈。  引數估計值的標準差是:  引數formula_45的formula_46置信區間可以用以下式子來計算:  誤差項可以表示為:

  單變數線性迴歸,又稱簡單線性迴歸(simple linear regression, SLR),是最簡單但用途很廣的迴歸模型。其迴歸式為:  為了從一組樣本formula_50(其中formula_51)之中估計最合適(誤差最小)的formula_52和formula_53,通常採用最小二乘法,其計算目標為最小化殘差平方和:  使用微分法求極值:將上式分別對formula_55和formula_13做一階偏微分,並令其等於0:  此二元一次線性方程組可用克萊姆法則求解,得解formula_58:  協方差矩陣是:  平均響應置信區間為:  預報響應置信區間為:

  在方差分析(ANOVA)中,總平方和分解為兩個或更多部分。  總平方和SST (sum of squares for total) 是:  同等地:  迴歸平方和SSReg (sum of squares for regression。也可寫做模型平方和,SSM,sum of squares for model) 是:  殘差平方和SSE (sum of squares for error) 是:  總平方和SST又可寫做SSReg和SSE的和:  迴歸係數R是:

  

  廣義最小二乘法可以用在當觀測誤差具有異方差或者自相關的情況下。

  總體最小二乘法用於當自變數有誤時。

  廣義線性模式應用在當誤差分佈函式不是正態分佈時。比如指數分佈,伽瑪分佈,逆高斯分佈,泊松分佈,二項式分佈等。

  將平均絕對誤差最小化,不同於線上性迴歸中是將均方誤差最小化。

  

  一條趨勢線代表著時間序列資料的長期走勢。它告訴我們一組特定資料(如GDP、石油價格和股票價格)是否在一段時期內增長或下降。雖然我們可以用肉眼觀察資料點在座標系的位置大體畫出趨勢線,更恰當的方法是利用線性迴歸計算出趨勢線的位置和斜率。

  有關吸菸對死亡率和發病率影響的早期證據來自採用了迴歸分析的觀察性研究。為了在分析觀測資料時減少偽相關,除最感興趣的變數之外,通常研究人員還會在他們的迴歸模型裡包括一些額外變數。例如,假設我們有一個迴歸模型,在這個迴歸模型中吸菸行為是我們最感興趣的獨立變數,其相關變數是經數年觀察得到的吸菸者壽命。研究人員可能將社會經濟地位當成一個額外的獨立變數,已確保任何經觀察所得的吸菸對壽命的影響不是由於教育或收入差異引起的。然而,我們不可能把所有可能混淆結果的變數都加入到實證分析中。例如,某種不存在的基因可能會增加人死亡的機率,還會讓人的吸菸量增加。因此,比起採用觀察資料的迴歸分析得出的結論,隨機對照試驗常能產生更令人信服的因果關係證據。當可控實驗不可行時,迴歸分析的衍生,如工具變數回歸,可嘗試用來估計觀測資料的因果關係。

  資本資產定價模型利用線性迴歸以及Beta係數的概念分析和計算投資的系統風險。這是從聯絡投資回報和所有風險性資產回報的模型Beta係數直接得出的。

  線性迴歸是經濟學的主要實證工具。例如,它是用來預測消費支出,固定投資支出,存貨投資,一國出口產品的購買,進口支出,要求持有流動性資產,勞動力需求、勞動力供給。
在統計學中,線性迴歸(英語:linear regression)是利用稱為線性迴歸方程的最小平方函式對一個或多個自變數和因變數之間關係進行建模的一種迴歸分析。這種函式是一個或多個稱為迴歸係數的模型引數的線性組合。只有一個自變數的情況稱為簡單迴歸,大於一個自變數情況的叫做多元迴歸(英語:multivariable linear regression)。