Einfach linear Regressiounsanalyse
Einfach linear Regressioun ass eng statistesch Technik, déi benotzt gëtt fir d'Bezéiung tëscht zwou quantitativen Variablen z'analyséieren. D'Variabel, déi mir versichen ze viraussoen, gëtt ofhängeg oder Äntwertvariabel genannt, während d'Variabel, déi benotzt gëtt fir d'Prognose ze maachen, onofhängeg oder Prädiktorvariabel genannt gëtt. Bei einfacher linearer Regressioun versichen mir déi bescht riicht Linn ze fannen, déi d'Bezéiung tëscht dësen zwou Variablen beschreift.
Grondkonzepter vun der einfacher linearer Regressioun
Déi einfach linear Regressioun baséiert op der Viraussetzung, datt et eng linear Bezéiung tëscht der ofhängeger Variabel \(Y\) an der onofhängeger Variabel \(X\) gëtt. Déi allgemeng Form vun engem einfache lineare Regressiounsmodell ass:
[Y = β₀ + β₁ X + E]
Wou:
– \(Y \) ass déi ofhängeg Variabel.
– \(X \) ass déi onofhängeg Variabel.
– \( \β_0 \) ass den Ofschnëtt, deen de Wäert vun \(Y\) ass wann \(X = 0\).
– \( \β_1 \) ass d'Steigung oder de Gradient, deen déi duerchschnëttlech Ännerung vun \(Y\) fir all Eenheetsännerung vun \(X\) ass.
– \( \epsilon \) ass den Fehler- oder Reschtterm, deen d'Variabilitéit an \(Y\) representéiert, déi net duerch \(X\) erkläert ka ginn.
D'Zil vun der einfacher linearer Regressioun ass et, d'Parameteren β0 an β1 ze schätzen, sou datt de Modell benotzt ka ginn, fir de Wäert vun β(Y) ze viraussoen, deen mam Wäert vun β(X) assoziéiert ass.
Method vun de klengste Quadraten
Eng vun den heefegsten benotzte Methoden fir e einfacht lineart Regressiounsmodell unzepassen ass d'Method vun de klengste Quadraten. Dës Method zielt drop of, d'Zomm vun de Quadraten vun den vertikalen Ofwäichungen tëscht den tatsächlechen Observatiounen an de vum Modell virausgesoten Wäerter ze minimiséieren. Mir huelen un, mir hunn n Observatiounen, déi aus Puer \((x_i, y_i)\) fir \(i = 1, 2, …, n\) bestinn. D'Funktioun, déi miniméiert soll ginn, ass:
[ S(β₀, β₁) = \sum_{i=1}^{n} (y_i – (β₀ + β₁ x_i))^2 \]
Fir β₀ an β₁ ze fannen, déi dës Funktioun miniméieren, huele mir déi partiell Ofleedung vun S(β₀, β₁) a Bezuch op all Parameter a setzen dës Ofleedungen op Null. Déi mathematesch Berechnung kann wéi follegt vereinfacht ginn:
[β1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2}]
\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]
Wou:
– \(\bar{x}\) ass den Duerchschnëtt vun \(X\)
– \(\bar{y}\) ass den Duerchschnëtt vun \(Y\)
Nodeems d'Parameteren β0 an β1 kritt goufen, kann e einfacht lineart Regressiounsmodell benotzt ginn, fir de Wäert vun β(Y) fir all Wäert vun β(X) virauszesoen.
Unnahmen an der einfacher linearer Regressioun
Fir valabel a verlässlech Resultater geet eng einfach linear Regressioun vun e puer Saachen aus:
1. Linearitéit: D'Relatioun tëscht der ofhängeger Variabel an der onofhängeger Variabel muss linear sinn.
2. Onofhängegkeet: Observatioune mussen onofhängeg vuneneen sinn.
3. Homoscedastizitéit: Déi reschtlech Variabilitéit muss am ganze Wäertberäich vun der onofhängeger Variabel konstant sinn.
4. Residualnormalitéit: Residualer (Feeler) mussen enger Normalverdeelung verfollegen.
Wann dës Viraussetzungen net erfëllt sinn, sinn d'Resultater vun engem einfache lineare Regressiounsmodell onzouverlässeg a kënnen eventuell keng korrekt Prognosen maachen.
Bewäertung vum Regressiounsmodell
Eng Méiglechkeet fir ze bewäerten, wéi gutt e einfacht lineart Regressiounsmodell virausgesot huet, ass de Bestëmmungskoeffizient (\(R^2\)) ze benotzen. De Bestëmmungskoeffizient weist den Undeel vun der Variabilitéit an der ofhängeger Variabel, déi duerch d'Variabilitéit an den onofhängege Variabelen erkläert ka ginn.
[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
Wou:
– \(\hat{y}_i\) ass de virausgesoten Wäert vun \(Y\).
– \(y_i\) ass den tatsächleche Wäert vun \(Y\).
– \(\bar{y}\) ass den Duerchschnëtt vun de Wäerter vun \(Y\).
De Wäert \(R^2\) läit tëscht 0 an 1. En Wäert \(R^2\) no bei 1 weist drop hin, datt de Modell de gréissten Deel vun der Variabilitéit an der ofhängeger Variabel erkläre kann.
Ëmsetzung an der Programméiersprooch
Fir eng einfach linear Regressioun ëmzesetzen, kënne mir verschidde statistesch Software oder Programméiersprooche benotzen. Hei drënner ass eng Beispillimplementatioun a Python mat der `scikit-learn` Bibliothéik:
"Python
importéiert numpy als np
import matplotlib.pyplot als plt
aus sklearn.linear_model Import LinearRegression
aus sklearn.metrics Import mean_squared_error, r2_score
Daten
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
Modell
model = LinearRegressioun ()
model.fit (X, y)
Viraussoen
y_pred = model.predict (X)
Koeffizient
beta_0 = modell.intercept_
beta_1 = modell.coef_[0]
drécken(f'Intercept: {beta_0}')
drécken(f'Steigung: {beta_1}')
print(f'Mëttelquadratfehler: {mean_squared_error(y, y_pred)}')
print(f'Bestimmungskoeffizient (R^2): {r2_score(y, y_pred)}')
Datendiagramm a Regressiounslinn
plt.scatter(X, y, Faarf='blo')
plt.plot(X, y_pred, color='rout')
plt.xlabel('X')
plt.ylabel('Y')
plt.show ()
""
Am uewe genannten Beispill importéiere mir als éischt déi néideg Bibliothéiken, definéieren d'Donnéeën \(X\) an \(Y\), an dann benotze mir den `LinearRegression`-Objet aus `scikit-learn` fir e Modell un d'Donnéeën unzepassen. Soubal de Modell ugepasst ass, maache mir Prognosen a berechnen d'Koeffizienten, souwéi de mëttleren Quadratfehler an de Bestëmmungskoeffizient. Schlussendlech plotte mir d'Donnéeën an d'Regressiounslinn.
Conclusioun
Einfach linear Regressioun ass e mächtegt statistescht Analyseinstrument, dat benotzt gëtt fir d'Bezéiung tëscht zwou quantitativen Variablen z'erklären. Mat e puer Grondviraussetzungen iwwer Linearitéit, Onofhängegkeet, Homoscedastizitéit a Normalitéit kënne mir de Wäert vun der ofhängeger Variabel op Basis vun de Wäerter vun den onofhängege Variablen viraussoen. D'Method vun de klengste Quadraten bitt eng effektiv Method fir eng Regressiounslinn unzepassen an optimal Parameter ze bestëmmen. D'Modellbewäertung duerch de Bestëmmungskoeffizient (R2) gëtt Abléck an d'Leistung vun eisem Modell.
Och wann eng einfach linear Regressioun Aschränkungen huet, wéi zum Beispill d'Méiglechkeet, nëmmen zwou Variabelen ze verschaffen an d'Unahmen, déi erfëllt musse ginn, bleift dës Technik eng wichteg Basis an der Statistik an der Datenanalyse, a gëtt dacks als éischte Schrëtt benotzt fir d'Bezéiung tëscht Variabelen ze verstoen, ier op méi komplex Methode weidergeet.