Anàlisi de regressió lineal simple
La regressió lineal simple és una tècnica estadística que s'utilitza per analitzar la relació entre dues variables quantitatives. La variable que intentem predir s'anomena variable dependent o de resposta, mentre que la variable utilitzada per fer la predicció s'anomena variable independent o predictora. En la regressió lineal simple, intentem trobar la millor línia recta que descrigui la relació entre aquestes dues variables.
Conceptes bàsics de la regressió lineal simple
La regressió lineal simple es basa en la suposició que hi ha una relació lineal entre la variable dependent \(Y\) i la variable independent \(X\). La forma general d'un model de regressió lineal simple és:
Y = β0 + β1 X + ε
On:
– \(Y \) és la variable dependent.
– \(X \) és la variable independent.
– \( \beta_0 \) és la intersecció amb el terme, que és el valor de \(Y\) quan \(X = 0\).
– \( \beta_1 \) és el pendent o gradient, que és el canvi mitjà en \(Y\) per cada canvi unitari en \(X\).
– \(\epsilon\) és l'error o terme residual que representa la variabilitat en \(Y\) que no es pot explicar per \(X\).
L'objectiu de la regressió lineal simple és estimar els paràmetres \(\beta_0\) i \(\beta_1\) de manera que el model es pugui utilitzar per predir el valor de \(Y\) associat amb el valor de \(X\).
Mètode dels mínims quadrats
Un dels mètodes més utilitzats per ajustar un model de regressió lineal simple és el mètode dels mínims quadrats. Aquest mètode pretén minimitzar la suma dels quadrats de les desviacions verticals entre les observacions reals i els valors predits pel model. Suposem que tenim n observacions que consisteixen en parells \((x_i, y_i)\) per a \(i = 1, 2, …, n\). La funció que cal minimitzar és:
S(β0, β1) = sum_{i=1}^{n} (yi – (β0 + β1 x_i))^2)
Per trobar \(\beta_0\) i \(\beta_1\) que minimitzen aquesta funció, prenem les derivades parcials de \(S(\beta_0, \beta_1)\) respecte a cada paràmetre i posem aquestes derivades a zero. El càlcul matemàtic es pot simplificar de la següent manera:
\[ β_1 = \frac{\sum_{i=1}^{n} (x_i – \bar{x})(y_i – \bar{y})}{\sum_{i=1}^{n} (x_i – \bar{x})^2} \]
\[ \beta_0 = \bar{y} – \beta_1 \bar{x} \]
On:
– \(\bar{x}\) és la mitjana de \(X\)
– \(\bar{y}\) és la mitjana de \(Y\)
Després d'obtenir els paràmetres \(\beta_0\) i \(\beta_1\), es pot utilitzar un model de regressió lineal simple per predir el valor de \(Y\) per a cada valor de \(X\).
Supòsits en la regressió lineal simple
Per obtenir resultats vàlids i fiables, la regressió lineal simple assumeix diverses coses:
1. Linealitat: La relació entre la variable dependent i la variable independent ha de ser lineal.
2. Independència: Les observacions han de ser independents entre si.
3. Homoscedasticitat: La variabilitat residual ha de ser constant en tot el rang de valors de la variable independent.
4. Normalitat residual: Els residuals (errors) han de seguir una distribució normal.
Si no es compleixen aquestes suposicions, els resultats d'un model de regressió lineal simple no seran fiables i potser no podran fer prediccions precises.
Avaluació del model de regressió
Una manera d'avaluar l'eficàcia d'un model de regressió lineal simple en la predicció és utilitzar el coeficient de determinació (\(R^2\)). El coeficient de determinació mostra la proporció de variabilitat en la variable dependent que es pot explicar per la variabilitat en les variables independents.
\[ R^2 = \frac{\sum_{i=1}^{n} (\hat{y}_i – \bar{y})^2}{\sum_{i=1}^{n} (y_i – \bar{y})^2} \]
On:
– \(\hat{y}_i\) és el valor predit de \(Y\).
– \(y_i\) és el valor real de \(Y\).
– \(\bar{y}\) és la mitjana dels valors de \(Y\).
El valor de \(R^2\) oscil·la entre 0 i 1. Un valor de \(R^2\) proper a 1 indica que el model pot explicar la major part de la variabilitat de la variable dependent.
Implementació en llenguatge de programació
Per implementar una regressió lineal simple, podem utilitzar diversos programaris estadístics o llenguatges de programació. A continuació es mostra un exemple d'implementació en Python utilitzant la biblioteca `scikit-learn`:
"`pitó
importar numpy com a np
importa matplotlib.pyplot com a plt
des de sklearn.linear_model importar LinearRegression
des de sklearn.metrics import mean_squared_error, r2_score
dades
X = np.array([[1], [2], [3], [4], [5]]).astype(np.float64)
y = np.array([1.5, 3.6, 3.5, 2.9, 5.5]).astype(np.float64)
model
model = Regression lineal ()
model.fit(X, y)
Predicció
y_pred = model.predict(X)
Coeficient
beta_0 = model.intercepció_
beta_1 = model.coef_[0]
imprimir(f'Intercepció: {beta_0}')
imprimir(f'Pendent: {beta_1}')
print(f'Error quadràtic mitjà: {error_quadràtic_mitjà(y, y_pred)}')
print(f'Coeficient de determinació (R^2): {r2_score(y, y_pred)}')
Gràfic de dades i línia de regressió
plt.scatter(X, y, color='blau')
plt.plot(X, y_pred, color='vermell')
plt.xlabel('X')
plt.ylabel('Y')
plt.show ()
“
A l'exemple anterior, primer importem les biblioteques necessàries, definim les dades \(X\) i \(Y\) i després utilitzem l'objecte `LinearRegression` de `scikit-learn` per ajustar un model a les dades. Un cop ajustat el model, fem prediccions i calculem els coeficients, així com l'error quadràtic mitjà i el coeficient de determinació. Finalment, representem gràficament les dades i la recta de regressió.
Conclusió
La regressió lineal simple és una potent eina d'anàlisi estadística que s'utilitza per explicar la relació entre dues variables quantitatives. Amb algunes suposicions bàsiques sobre linealitat, independència, homoscedasticitat i normalitat, podem predir el valor de la variable dependent en funció dels valors de les variables independents. El mètode dels mínims quadrats proporciona una manera eficaç d'ajustar una recta de regressió i determinar els paràmetres òptims. L'avaluació del model mitjançant el coeficient de determinació (R2) proporciona informació sobre el rendiment del nostre model.
Tot i que la regressió lineal simple té limitacions, com ara que només pot gestionar dues variables i les suposicions que s'han de complir, aquesta tècnica continua sent una base important en estadística i anàlisi de dades, i sovint s'utilitza com a primer pas per comprendre la relació entre variables abans de passar a mètodes més complexos.
