線性迴歸範例問題及討論
線性迴歸是一種用於確定兩個或多個變數之間關係的統計方法。此方法廣泛應用於經濟學、商業、社會科學和自然科學等各個領域。本文將探討線性迴歸的概念、計算方法，並提供幾個例題及解釋，以幫助讀者深入理解這個概念。
理解線性迴歸
線性迴歸是一種分析方法，用於建立一個或多個自變數（預測變數）與一個因變數（反應變數）之間的關係模型。簡單線性迴歸涉及一個自變量和一個因變量，而多元線性迴歸涉及多個自變量。
簡單線性迴歸線的方程式為：
\[ Y = a + bX \]
在哪裡：
– \( Y \) 是因變數。
– \( X \) 是自變數。
– \( a \) 是截距，即當 X = 0 時 Y 的值。
– \( b \) 是迴歸係數，即當 X 變化一個單位時，Y 變化多少。
線性迴歸步驟
1. 收集資料：首先，收集要分析的資料。
2.繪製資料：建立散佈圖，看看變數之間是否存在線性關係。
3. 計算迴歸係數：使用最小平方法確定最佳直線。
4. 檢定模型：以 t 檢定檢定迴歸係數的顯著性，並確定 R 平方值，以查看模型與資料的適合程度。
範例問題及討論
例題 1：簡單線性迴歸
問題：
一位研究者想要了解學習時間（X）與學生考試成績（Y）之間的關係。所獲得的數據如下：
| 學習時長（X） | 考試成績（Y） |
|—————–|—————–|
| 2 | 70 |
| 3 | 75 |
| 5 | 80 |
| 7 | 85 |
| 8 | 90 |
根據這些數據建立線性迴歸方程式！
討論：
1. 計算平均值：
\[
X̄ = (2 + 3 + 5 + 7 + 8)/5 = 5
\]
\[
\bar{Y} = \frac{70 + 75 + 80 + 85 + 90}{5} = 80
\]
2. 計算迴歸係數 \( b \):
\[
b = \frac{\sum (X_i – \bar{X})(Y_i – \bar{Y})}{\sum (X_i – \bar{X})^2}
\]
\[
\sum (X_i – \bar{X})(Y_i – \bar{Y}) = (2 – 5)(70 – 80) + (3 – 5)(75 – 80) + (5 – 5)(80 – 80) + (7 – 5)(85 – 80) + (8 – 5)(
\]
\[
= (-3)(-10) + (-2)(-5) + (0)(0) + (2)(5) + (3)(10) = 30 + 10 + 0 + 10 + 30 = 80
\]
\[
\sum (X_i – \bar{X})^2 = (2 – 5)^2 + (3 – 5)^2 + (5 – 5)^2 + (7 – 5)^2 + (8 – 5)^2
\]
\[
= 9 + 4 + 0 + 4 + 9 = 26
\]
\[
b = \frac{80}{26} \approx 3.08
\]
3. 計算截距 \( a \):
\[
a = \bar{Y} – b\bar{X}
\]
\[
a = 80 – 3.08 × 5 = 80 – 15.4 = 64.6
\]
4. 迴歸方程式：
\[
Y = 64.6 + 3.08X
\]
因此，此數據的線性迴歸方程式為 \( Y = 64.6 + 3.08X \)。這意味著每增加一小時的學習時間，預計考試成績將提高 3.08 分。
例題 2：模型測驗及解釋
問題：
繼續使用相同的數據，計算 R 平方 (R²) 值來衡量模型與數據的適合度。此外，檢定迴歸係數 \( b \) 的顯著性。
討論：
1. 計算總平方和（SST）、迴歸平方和（SSR）和誤差平方和（SSE）：
\[
SST = \sum (Y_i – \bar{Y})^2
\]
\[
SST = (70 – 80)^2 + (75 – 80)^2 + (80 – 80)^2 + (85 – 80)^2 + (90 – 80)^2 = 100 + 25 + 0 + 25 + 100 = 250
\]
\[
SSR = \sum (\hat{Y}_i – \bar{Y})^2
\]
其中 \( \hat{Y}_i \) 是迴歸方程式的預測值：
\[
\hat{Y}_i = 64.6 + 3.08X_i
\]
\[
\hat{Y} = [67.76, 70.84, 76.0, 82.16, 85.24]
\]
\[
Ȳ = 80
\]
\[
SSR = (67.76 – 80)^2 + (70.84 – 80)^2 + (76.0 – 80)^2 + (82.16 – 80)^2 + (85.24 – 80)^2
\]
\[
SSR = (-12.24)^2 + (-9.16)^2 + (-4.0)^2 + 2.16^2 + 5.24^2 = 149.8
\]
2. 計算 SSE：
\[
SSE = SST – SSR = 250 – 149.8 = 100.2
\]
3. 計算 R 平方值：
\[
R² = \frac{SSR}{SST} = \frac{149.8}{250} \approx 0.6
\]
R平方值為0.6表示此模型可解釋資料中約60%的變異。這表示迴歸線與資料擬合得相當好。
4. 係數 \( b \) 顯著性的 t 檢定：
\[
t = \frac{b}{SE(b)}
\]
\[
SE(b) = \sqrt{\frac{SSE}{n-2}} / \sqrt{\sum (X_i – \bar{X})^2}
\]
\[
SE(b) = \sqrt{\frac{100.2}{5-2}} / \sqrt{26}
\]
\[
SE(b) = \sqrt{33.4} / \sqrt{26} \approx 1.13
\]
\[
t = \frac{3.08}{1.13} \approx 2.73
\]
假設 t 統計量約為 2.73，並使用常用的顯著性閾值 (α = 0.05)，則將其與 t 分佈表進行比較。例如，對於自由度 df = 3，臨界 t 值約為 2.353。此時，t 觀測值大於臨界值，表示該係數顯著。
結論
本文介紹了線性迴歸的基礎知識，包括如何計算迴歸係數和截距，以及如何透過例題解釋結果。熟練運用此方法需要經常使用各種資料集進行練習。線性迴歸是資料分析中一種非常有效的工具，能夠深入揭示變數之間的關係。
