Esimerkki pienimmän neliösumman menetelmästä - keskustelukysymykset
Pienimmän neliösumman menetelmä (LEM) on tilastollinen menetelmä, jota käytetään löytämään parhaiten sopiva ja dataa ennustava suora. Tätä menetelmää käytetään usein lineaarisessa regressioanalyysissä riippumattomien ja riippuvien muuttujien välisen suhteen havaitsemiseksi. Tässä artikkelissa käsitellään pienimmän neliösumman menetelmän peruskäsitteitä sekä annetaan esimerkkejä ja vaiheittaisia selityksiä menetelmän toiminnan syventämiseksi.
Pienimmän neliösumman menetelmän peruskäsitteet
Pienimmän neliösumman menetelmän tavoitteena on minimoida havaittujen arvojen ja regressiomallin ennustamien arvojen välisten erojen neliöiden summa. Yksinkertaisen lineaarisen regressiosuoran yhtälö voidaan kirjoittaa seuraavasti:
[y = a + bx]
Di mana:
– \(y \) on riippuva muuttuja,
– \(x \) on riippumaton muuttuja,
– \(a \) on leikkauspiste (\(y \):n arvo, kun \(x = 0 \)),
– \(b \) on suoran kulmakerroin (kulmakerroin eli regressiokerroin).
Pienimmän neliösumman menetelmällä arvioidaan parametrit \(a \) ja \(b \), jotka minimoivat seuraavan funktion:
\[ \text{SSE} = \sum_{i=1}^{n} (y_i – \hat{y_i})^2 \]
Jossa SSE on neliövirheiden summa, \(y_i \) on todellinen arvo ja \(\hat{y_i} = a + bx_i \) on ennustettu arvo.
Pienimmän neliösumman menetelmän vaiheet
Selventääksemme käsitettä ratkaisemme esimerkkiongelman, jossa käytetään pienimmän neliösumman menetelmää.
Ongelmaesimerkki
Seuraavat tiedot huomioon ottaen:
| x (Opiskelutunnit) | y (Tenttipisteet) |
|———————–|———————–|
| 2 | 81 |
| 4 | 93 |
| 6 | 91 |
| 8 | 97 |
| 10 | 103 |
Määritä lineaarinen regressiosuora, joka parhaiten sopii dataan.
Keskustelu
1. Keskiarvon laskeminen \( \bar{x} \) ja \( \bar{y} \) välillä
\[
\bar{x} = \frac{\sum x_i}{n} = \frac{2 + 4 + 6 + 8 + 10}{5} = 6
\]
\[
\bar{y} = \frac{\sum y_i}{n} = \frac{81 + 93 + 91 + 97 + 103}{5} = 93
\]
2. Parametrin \(b \) laskeminen (kulmakerroin)
Parametri \(b \) lasketaan seuraavasti:
\[
b = \frac{\summa (x_i – ∫bar{x})(y_i – ∫bar{y})}{\summa (x_i – ∫bar{x})^2}
\]
Kunkin komponentin laskeminen:
\[
\sum (x_i – \bar{x})(y_i – \bar{y}) = (2-6)(81-93) + (4-6)(93-93) + (6-6)(91-93) + (8-6)(97-93) + (10-6)(103-93)
\]
\[
= (-4)(-12) + (-2)(0) + (0)(-2) + (2)(4) + (4)(10)
\]
\[
= 48 + 0 + 0 + 8 + 40 = 96
\]
\[
\sum(x_i – \bar{x})^2 = (2-6)^2 + (4-6)^2 + (6-6)^2 + (8-6)^2 + (10-6)^2
\]
\[
= (-4)^2 + (-2)^2 + 0^2 + 2^2 + 4^2
\]
\[
= 16 + 4 + 0 + 4 + 16 = 40
\]
Jotta:
\[
b = ∫\frac{96}{40} = 2.4
\]
3. Parametrin \(a \) laskeminen (leikkauspiste)
Käyttämällä \( \bar{x} \) ja \( \bar{y} \) keskiarvoa:
\[
a = ∫bar{y} – b∫bar{x} = 93 – 2.4 kertaa 6 = 93 – 14.4 = 78.6
\]
4. Regressiosuoran yhtälön kirjoittaminen
Löydettyjen parametrien avulla voimme kirjoittaa regressiosuoran yhtälön:
\[
y = 78.6 + 2.4x
\]
Tulkinta ja todentaminen
Jotta voimme varmistaa regressiosuoran sopivuuden, voimme laskea ennustetun y-arvon (\(\hat{y}\)) jokaiselle x:lle lähtötiedoissa sekä laskea neliövirheiden summan (SSE) ennusteen tarkkuuden validoimiseksi.
| x | y | \(\hat{y}\) | \((y – \hat{y})^2\) |
|—|—-|————|———————–|
| 2 | 81 | 83.4 | (81-83.4)^2 = 5.76 |
| 4 | 93 | 88.2 | (93-88.2)^2 = 23.04|
| 6 | 91 | 93.0 | (91-93.0)^2 = 4.00 |
| 8 | 97 | 97.8 | (97-97.8)^2 = 0.64 |
|10 |103 |102.6 | (103-102.6)^2 = 0.16|
SSS:
\[
SSE = 5.76 + 23.04 + 4.00 + 0.64 + 0.16 = 33.6
\]
Suhteellisen pienen SSE:n perusteella voimme päätellä, että pienimmän neliösumman menetelmällä tuotettu regressiosuora sopii hyvin tälle datalle.
Johtopäätös
Pienimmän neliösumman menetelmä on tehokas tilastollinen analyysityökalu, jolla voidaan määrittää parhaiten sopiva suora tietojoukolle ja minimoida ennustevirhe poikkeamien neliön perusteella. Käyttämällä keskiarvon laskemisen, kulmakertoimen ja leikkauspisteen arvioimisen sekä regressiosuoran yhtälön kirjoittamisen ja tarkistamisen vaiheita voimme ennustaa tarkasti riippuvan muuttujan arvon riippumattomien muuttujien perusteella.
Tämän menetelmän hyvä ymmärtäminen on erittäin hyödyllistä esimerkiksi taloustieteessä, biostatistiikassa, tekniikassa ja yhteiskuntatieteissä, joilla regressioanalyysia käytetään usein. Tämä artikkeli havainnollistaa konkreettisten esimerkkien avulla tämän menetelmän merkitystä ja hyödyllisyyttä data-analyysissä.
