Analiza e thjeshtë e regresionit linear
Regresioni linear i thjeshtë është një teknikë statistikore e përdorur për të analizuar marrëdhënien midis dy variablave sasiore. Variabli që po përpiqemi të parashikojmë quhet variabël i varur ose i përgjigjes, ndërsa variabli i përdorur për të bërë parashikimin quhet variabël i pavarur ose parashikues. Në regresionin linear të thjeshtë, ne përpiqemi të gjejmë vijën më të mirë të drejtë që përshkruan marrëdhënien midis këtyre dy variablave.
Konceptet Bazë të Regresionit të Thjeshtë Linear
Regresioni i thjeshtë linear bazohet në supozimin se ekziston një marrëdhënie lineare midis variablit të varur \(Y\) dhe variablit të pavarur \(X\). Forma e përgjithshme e një modeli të thjeshtë regresioni linear është:
\[ Y = \beta_0 + \beta_1 X + \epsilon \]
Ku:
– \( Y \) është ndryshorja e varur.
– \( X \) është ndryshorja e pavarur.
– \( β_0 \) është prerja, e cila është vlera e \(Y \) kur \(X = 0 \).
– \( β_1 \) është pjerrësia ose gradienti, që është ndryshimi mesatar në \(Y \) për çdo ndryshim njësie në \(X \).
– \( \epsilon \) është gabimi ose termi mbetës që përfaqëson ndryshueshmërinë në \(Y \) që nuk mund të shpjegohet nga \(X \).
Qëllimi i regresionit të thjeshtë linear është të vlerësojë parametrat \(\beta_0\) dhe \(\beta_1\) në mënyrë që modeli të mund të përdoret për të parashikuar vlerën e \(Y\) të lidhur me vlerën e \(X\).
Metoda e Katrorëve më të Vogël
Një nga metodat më të përdorura për përshtatjen e një modeli të thjeshtë regresioni linear është metoda e Katrorëve Më të Vogël. Kjo metodë synon të minimizojë shumën e katrorëve të devijimeve vertikale midis vëzhgimeve aktuale dhe vlerave të parashikuara nga modeli. Supozojmë se kemi n vëzhgime që përbëhen nga çifte \((x_i, y_i)\) për \(i = 1, 2, …, n\). Funksioni që duhet të minimizohet është:
\[ S(\beta_0, \beta_1) = \sum_{i=1}^{n} (y_i – (\beta_0 + \beta_1 x_i))^2 \]
Për të gjetur \(\beta_0\) dhe \(\beta_1\) që minimizojnë këtë funksion, marrim derivatet e pjesshme të \(S(\beta_0, \beta_1)\) në lidhje me secilin parametër dhe i vendosim këto derivate në zero. Llogaritja matematikore mund të thjeshtohet si më poshtë:
\[ β_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]
Ku:
– \(\bar{x}\) është mesatarja e \(X\)
– \(\bar{y}\) është mesatarja e \(Y\)
Pas marrjes së parametrave \(\beta_0\) dhe \(\beta_1\), një model i thjeshtë regresioni linear mund të përdoret për të parashikuar vlerën e \(Y\) për secilën vlerë të \(X\).
Supozimet në Regresionin Linear të Thjeshtë
Për rezultate të vlefshme dhe të besueshme, regresioni i thjeshtë linear supozon disa gjëra:
1. Lineariteti: Marrëdhënia midis variablit të varur dhe variablit të pavarur duhet të jetë lineare.
2. Pavarësia: Vëzhgimet duhet të jenë të pavarura nga njëra-tjetra.
3. Homoskedasticiteti: Ndryshueshmëria e mbetur duhet të jetë konstante në të gjithë diapazonin e vlerave të variablit të pavarur.
4. Normaliteti i Mbetjeve: Mbetjet (gabimet) duhet të ndjekin një shpërndarje normale.
Nëse këto supozime nuk plotësohen, rezultatet e një modeli të thjeshtë regresioni linear do të jenë të pabesueshme dhe mund të mos jenë në gjendje të bëjnë parashikime të sakta.
Vlerësimi i Modelit të Regresionit
Një mënyrë për të vlerësuar se sa mirë ka parashikuar një model i thjeshtë regresioni linear është përdorimi i Koeficientit të Përcaktimit (\(R^2\)). Koeficienti i përcaktimit tregon përqindjen e ndryshueshmërisë në ndryshoren e varur që mund të shpjegohet nga ndryshueshmëria në ndryshoret e pavarura.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
Ku:
– \(\hat{y}_i\) është vlera e parashikuar e \(Y\).
– \(y_i\) është vlera aktuale e \(Y\).
– \(\bar{y}\) është mesatarja e vlerave të \(Y\).
Vlera \(R^2\) varion nga 0 në 1. Një vlerë \(R^2\) afër 1 tregon se modeli mund të shpjegojë pjesën më të madhe të ndryshueshmërisë në variablin e varur.
Implementimi në Gjuhën e Programimit
Për të zbatuar regresionin linear të thjeshtë, mund të përdorim programe të ndryshme statistikore ose gjuhë programimi. Më poshtë është një shembull zbatimi në Python duke përdorur bibliotekën `scikit-learn`:
“Python
importoni numpy si np
import matplotlib.pyplot si plt
nga importi i sklearn.linear_model Regresioni Linear
nga importi i sklearn.metrics mean_squared_error, r2_score
Data
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
Model
modeli = Regresioni Linear()
model.fit(X, y)
Parashikim
y_pred = model.predict(X)
Koeficienti
beta_0 = model.intercept_
beta_1 = model.coef_[0]
print(f'Intercept: {beta_0}')
print(f'Pjerrësia: {beta_1}')
print(f'Gabimi mesatar në katror: {mean_squared_error(y, y_pred)}')
print(f'Koeficienti i përcaktimit (R^2): {r2_score(y, y_pred)}')
Grafiku i të dhënave dhe vija e regresionit
plt.scatter(X, y, ngjyra='blu')
plt.plot(X, y_pred, ngjyra='e kuqe')
plt.xlabel('X')
plt.ylabel('Y')
plt.show ()
""
Në shembullin e mësipërm, së pari importojmë libraritë e nevojshme, përcaktojmë të dhënat \(X\) dhe \(Y\), dhe më pas përdorim objektin `LinearRegresion` nga `scikit-learn` për të përshtatur një model me të dhënat. Pasi modeli të jetë përshtatur, bëjmë parashikime dhe llogarisim koeficientët, si dhe gabimin mesatar në katror dhe koeficientin e përcaktimit. Së fundmi, paraqesim të dhënat dhe vijën e regresionit.
konkluzioni
Regresioni i thjeshtë linear është një mjet i fuqishëm analize statistikore që përdoret për të shpjeguar marrëdhënien midis dy variablave sasiore. Me disa supozime themelore rreth linearitetit, pavarësisë, homoskedasticitetit dhe normalitetit, ne mund të parashikojmë vlerën e variablit të varur bazuar në vlerat e variablave të pavarura. Metoda e Katrorëve Më të Vogël ofron një mënyrë efektive për të përshtatur një vijë regresioni dhe për të përcaktuar parametrat optimalë. Vlerësimi i modelit përmes koeficientit të përcaktimit (R2) ofron një pasqyrë se sa mirë funksionon modeli ynë.
Edhe pse regresioni i thjeshtë linear ka kufizime, siç është aftësia për të trajtuar vetëm dy variabla dhe supozimet që duhet të përmbushen, kjo teknikë mbetet një themel i rëndësishëm në statistikë dhe analizën e të dhënave, dhe shpesh përdoret si hap i parë në kuptimin e marrëdhënies midis variablave përpara se të kalohet në metoda më komplekse.
