Primjeri pitanja i rasprava o linearnoj regresiji
Linearna regresija je statistička metoda koja se koristi za određivanje odnosa između dvije ili više varijabli. Ova se metoda široko koristi u raznim područjima, uključujući ekonomiju, poslovanje, društvene i prirodne znanosti. U ovom ćemo članku raspravljati o linearnoj regresiji, kako je izračunati i pružiti nekoliko primjera problema s objašnjenjima kako bismo čitateljima pomogli da detaljnije razumiju ovaj koncept.
Razumijevanje linearne regresije
Linearna regresija je analitička metoda koja se koristi za modeliranje odnosa između jedne ili više nezavisnih varijabli (prediktora) i zavisne varijable (odgovora). Jednostavna linearna regresija uključuje jednu nezavisnu varijablu i jednu zavisnu varijablu, dok višestruka linearna regresija uključuje više od jedne nezavisne varijable.
Jednadžba jednostavne linearne regresijske linije je:
\[ Y = a + bX \]
Gdje:
– \( Y \) je zavisna varijabla.
– \( X \) je nezavisna varijabla.
– \( a \) je odsječak na osi Y kada je X = 0.
– \( b \) je koeficijent regresije, odnosno koliko se Y mijenja ako se X promijeni za jednu jedinicu.
Koraci linearne regresije
1. Prikupljanje podataka: Prvo prikupite podatke koji će se analizirati.
2. Prikazivanje podataka: Napravite dijagram raspršenja kako biste vidjeli postoji li linearni odnos između varijabli.
3. Izračunajte koeficijent regresije: Koristite metodu najmanjih kvadrata za određivanje najbolje linije.
4. Testiranje modela: Testirajte značajnost regresijskih koeficijenata t-testom i odredite vrijednost R-kvadrata kako biste vidjeli koliko dobro model odgovara podacima.
Primjeri pitanja i rasprava
Primjer pitanja 1: Jednostavna linearna regresija
Pitanje:
Istraživač želi znati odnos između broja sati učenja (X) i rezultata studenata na ispitima (Y). Dobiveni podaci su sljedeći:
| Sati učenja (X) | Rezultat ispita (Y) |
|——————–|——————–|
| 2 | 70 |
| 3 | 75 |
| 5 | 80 |
| 7 | 85 |
| 8 | 90 |
Napravite jednadžbu linearne regresije iz ovih podataka!
Rasprava:
1. Izračun prosjeka:
\[
\bar{X} = \frac{2 + 3 + 5 + 7 + 8}{5} = 5
\]
\[
\bar{Y} = \frac{70 + 75 + 80 + 85 + 90}{5} = 80
\]
2. Izračun koeficijenta regresije \( b \):
\[
b = \frac{\suma (X_i – \bar{X})(Y_i – \bar{Y})}{\suma (X_i – \bar{X})^2}
\]
\[
zbroj (X_i – X)(Y_i – Y) = (2 – 5)(70 – 80) + (3 – 5)(75 – 80) + (5 – 5)(80 – 80) + (7 – 5)(85 – 80) + (8 – 5)(90 – 80)
\]
\[
= (-3)(-10) + (-2)(-5) + (0)(0) + (2)(5) + (3)(10) = 30 + 10 + 0 + 10 + 30 = 80
\]
\[
\sum (X_i – \bar{X})^2 = (2 – 5)^2 + (3 – 5)^2 + (5 – 5)^2 + (7 – 5)^2 + (8 – 5)^2
\]
\[
= 9 + 4 + 0 + 4 + 9 = 26
\]
\[
b = \frac{80}{26} \približno 3.08
\]
3. Izračun odsječka \( a \):
\[
a = \bar{Y} – b\bar{X}
\]
\[
a = 80 – 3.08 puta 5 = 80 – 15.4 = 64.6
\]
4. Jednadžba regresije:
\[
Y = 64.6 + 3.08X
\]
Dakle, jednadžba linearne regresije za podatke je \( Y = 64.6 + 3.08X \). To znači da se očekuje da će svaki dodatni sat učenja povećati rezultat testa za 3.08 bodova.
Primjer pitanja 2: Test modela i interpretacija
Pitanje:
Nastavljajući s istim podacima, izračunajte vrijednost R-kvadrata (R²) kako biste izmjerili koliko dobro model odgovara podacima. Također, testirajte značajnost koeficijenta regresije (b).
Rasprava:
1. Izračunajte ukupnu sumu kvadrata (SST), regresijsku sumu kvadrata (SSR) i sumu kvadrata pogrešaka (SSE):
\[
SST = \sum (Y_i – \bar{Y})^2
\]
\[
SST = (70 – 80)^2 + (75 – 80)^2 + (80 – 80)^2 + (85 – 80)^2 + (90 – 80)^2 = 100 + 25 + 0 + 25 + 100 = 250
\]
\[
SSR = \sum (\hat{Y}_i – \bar{Y})^2
\]
Gdje je \( \hat{Y}_i \) predviđena vrijednost regresijske jednadžbe:
\[
\hat{Y}_i = 64.6 + 3.08X_i
\]
\[
\hat{Y} = [67.76, 70.84, 76.0, 82.16, 85.24]
\]
\[
\bar{Y} = 80
\]
\[
SSR = (67.76 – 80)^2 + (70.84 – 80)^2 + (76.0 – 80)^2 + (82.16 – 80)^2 + (85.24 – 80)^2
\]
\[
SSR = (-12.24)^2 + (-9.16)^2 + (-4.0)^2 + 2.16^2 + 5.24^2 = 149.8
\]
2. Izračun SSE-a:
\[
SSE = SST – SSR = 250 – 149.8 = 100.2
\]
3. Izračun R-kvadrata:
\[
R^2 = \frac{SSR}{SST} = \frac{149.8}{250} \approx 0.6
\]
Vrijednost R-kvadrata od 0.6 pokazuje da ovaj model objašnjava približno 60% varijacije u podacima. To ukazuje na to da regresijska linija prilično dobro odgovara podacima.
4. t-test za značajnost koeficijenta \( b \):
\[
t = \frac{b}{SE(b)}
\]
\[
SE(b) = √(SSE)n-2 / √(X_i – X)^2
\]
\[
SE(b) = \sqrt{\frac{100.2}{5-2}} / \sqrt{26}
\]
\[
SE(b) = 33.4 / 26 = približno 1.13
\]
\[
t = \frac{3.08}{1.13} \približno 2.73
\]
S t-statistikom od približno 2.73, ako koristimo zajednički prag značajnosti (α = 0.05), uspoređujemo ga s t-tablicom. Na primjer, za df = 3, kritični prag (t) je približno 2.353. Tada je t-opažano > t-kritično, što ukazuje da je koeficijent značajan.
Zaključak
U ovom članku obradili smo osnove linearne regresije, kako izračunati koeficijent regresije i odsječak na osi te kako interpretirati rezultate pomoću primjera problema. Česta praksa s različitim skupovima podataka ključna je za vješto korištenje ove metode. Linearna regresija vrijedan je alat u analizi podataka i može pružiti dubok uvid u odnose između varijabli.
