Erregresio Lineal Sinplearen Analisia
Erregresio lineal sinplea bi aldagai kuantitatiboen arteko erlazioa aztertzeko erabiltzen den teknika estatistikoa da. Aurreikusi nahi dugun aldagaiari mendeko edo erantzun aldagaia deitzen zaio, eta aurreikuspena egiteko erabiltzen denari, berriz, independente edo aurreikusle aldagaia. Erregresio lineal sinplean, bi aldagai hauen arteko erlazioa deskribatzen duen lerro zuzen onena aurkitzen saiatzen gara.
Erregresio Lineal Sinplearen Oinarrizko Kontzeptuak
Erregresio lineal sinplea mendeko aldagaiaren (Y) eta aldagai independentearen (X) artean erlazio lineal bat dagoela dioen hipotesian oinarritzen da. Erregresio lineal sinple baten eredu orokorra hau da:
Y = β0 + β1 X + ε
Non:
– \(Y \) mendeko aldagaia da.
– \(X \) aldagai independentea da.
– \( \beta_0 \) ebakidura da, hau da, \(Y\)-ren balioa \(X = 0\) denean.
– \( \beta_1 \) malda edo gradientea da, hau da, \(Y\)-ren batez besteko aldaketa \(X\-ren unitate-aldaketa bakoitzeko.
– \( \epsilon \) errorea edo hondar-terminoa da, \(X\)-ren bidez azaldu ezin den \(Y\)-ren aldakortasuna adierazten duena.
Erregresio lineal sinplearen helburua \(\beta_0\) eta \(\beta_1\) parametroak kalkulatzea da, eredua \(X\) balioarekin lotutako \(Y\) balioa aurreikusteko erabili ahal izateko.
Karratu txikienen metodoa
Erregresio lineal sinple baten eredua doitzeko metodorik erabilienetako bat Karratu Txikienen metodoa da. Metodo honen helburua behaketa errealen eta ereduak aurreikusitako balioen arteko desbideratze bertikalen karratuen batura minimizatzea da. Demagun n behaketa ditugula, \((x_i, y_i)\) bikotez osatuak, \(i = 1, 2, …, n\) baliorako. Minimizatu beharreko funtzioa hau da:
S(β0, β1) = i=1/n batura (yi – (β0 + β1 xi))²
Funtzio hau minimizatzen duten \(\beta_0\) eta \(\beta_1\) aurkitzeko, \(S(\beta_0, \beta_1)\)-ren deribatu partzialak hartzen ditugu parametro bakoitzarekiko eta deribatu hauek zero bihurtzen ditugu. Kalkulu matematikoa honela sinplifikatu daiteke:
\[ \beta_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]
Non:
– \(\bar{x}\) \(X\)-ren batez bestekoa da
– \(\bar{y}\) \(Y\)-ren batez bestekoa da
\(\beta_0\) eta \(\beta_1\) parametroak lortu ondoren, erregresio lineal sinple baten eredua erabil daiteke \(X\) balio bakoitzerako \(Y\)-ren balioa aurreikusteko.
Erregresio Lineal Sinplearen Suposizioak
Emaitza baliozko eta fidagarriak lortzeko, erregresio lineal sinpleak hainbat gauza hartzen ditu bere gain:
1. Linealtasuna: Aldagai mendekoaren eta aldagai independentearen arteko erlazioa lineala izan behar da.
2. Independentzia: Behaketak elkarrengandik independenteak izan behar dira.
3. Homoszedastizitatea: hondar-aldakortasuna konstantea izan behar da aldagai independentearen balio-tarte osoan.
4. Hondarren Normaltasuna: Hondarrek (erroreek) banaketa normal bat jarraitu behar dute.
Suposizio hauek betetzen ez badira, erregresio lineal sinple baten emaitzak ez dira fidagarriak izango eta baliteke iragarpen zehatzak egiteko gai ez izatea.
Erregresio Ereduaren Ebaluazioa
Erregresio lineal sinple baten eredu batek zenbaterainoko iragarpena egin duen ebaluatzeko modu bat Determinazio Koefizientea (\(R^2\)) erabiltzea da. Determinazio koefizienteak aldagai independenteen aldakortasunak azal dezakeen aldakortasunaren proportzioa erakusten du.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
Non:
– \(\hat{y}_i\) \(Y\-ren aurreikusitako balioa da.
– \(y_i\) \(Y\-ren benetako balioa da.
– \(\bar{y}\) \(Y\-ren balioen batez bestekoa da.
\(R^2\) balioa 0tik 1era bitartekoa da. \(R^2\) balioa 1etik hurbil dagoenean, ereduak mendeko aldagaiaren aldakortasun gehiena azaldu dezakeela adierazten da.
Programazio-lengoaian inplementazioa
Erregresio lineal sinplea ezartzeko, hainbat software estatistiko edo programazio-lengoaia erabil ditzakegu. Jarraian, Pythonen inplementazio baten adibidea dago `scikit-learn` liburutegia erabiliz:
"`python"
inportatu numpy np gisa
inportatu matplotlib.pyplot plt gisa
sklearn.linear_model-etik inportatu ErregresioLineala
sklearn.metrics-etik inportatu mean_squared_error, r2_score
Data
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
Model
eredua = ErregresioLineala()
eredua.egokitu(X, y)
Iragarpena
y_pred = model.predict(X)
Koefizientea
beta_0 = model.intercept_
beta_1 = model.koef_[0]
inprimatu(f'Atzematea: {beta_0}')
inprimatu(f'Malda: {beta_1}')
inprimatu(f'Batez besteko errore karratua: {batez_errore_karratua(y, y_aurrezpena)}')
inprimatu(f'Determinazio koefizientea (R^2): {r2_score(y, y_pred)}')
Datuen grafikoa eta erregresio-lerroa
plt.scatter(X, y, kolorea='urdina')
plt.plot(X, y_aurreikuspena, kolorea='gorria')
plt.xlabel('X')
plt.ylabel('Y')
plt.show()
"`
Goiko adibidean, lehenik beharrezko liburutegiak inportatzen ditugu, \(X\) eta \(Y\) datuak definitzen ditugu, eta ondoren `scikit-learn`-eko `LinearRegression` objektua erabiltzen dugu modelo bat datuetara egokitzeko. Modeloa egokitu ondoren, iragarpenak egiten ditugu eta koefizienteak kalkulatzen ditugu, baita batez besteko errore karratua eta determinazio-koefizientea ere. Azkenik, datuak eta erregresio-lerroa marrazten ditugu.
Ondorioa
Erregresio lineal sinplea bi aldagai kuantitatiboen arteko erlazioa azaltzeko erabiltzen den analisi estatistiko tresna indartsua da. Linealtasunari, independentziari, homoszedastizitateari eta normaltasunari buruzko oinarrizko hipotesi batzuekin, mendeko aldagaiaren balioa iragar dezakegu aldagai independenteen balioetan oinarrituta. Karratu txikienen metodoak erregresio-lerro bat doitzeko eta parametro optimoak zehazteko modu eraginkorra eskaintzen du. Determinazio-koefizientearen (R2) bidezko ereduaren ebaluazioak gure ereduak nola funtzionatzen duen erakusten digu.
Erregresio lineal sinpleak mugak baditu ere, hala nola bi aldagai bakarrik maneiatu ahal izatea eta bete behar diren hipotesiak, teknika hau oinarri garrantzitsua izaten jarraitzen du estatistika eta datuen analisian, eta askotan erabiltzen da aldagaien arteko erlazioa ulertzeko lehen urrats gisa, metodo konplexuagoetara igaro aurretik.
