Példa a legkisebb négyzetek módszerére – vitakérdések
A legkisebb négyzetek módszere (LEM) egy statisztikai módszer, amelyet az adatok leghatékonyabb előrejelzését lehetővé tevő illeszkedési egyenes megtalálására használnak. Ezt a módszert gyakran használják lineáris regresszióanalízisben a független és függő változók közötti kapcsolat kimutatására. Ez a cikk a legkisebb négyzetek módszerének alapfogalmait ismerteti, példákkal és lépésről lépésre bemutatott magyarázatokkal együtt, hogy mélyebben megértsük a módszer működését.
A legkisebb négyzetek módszerének alapfogalmai
A legkisebb négyzetek módszerének célja a megfigyelt értékek és a regressziós modell által előrejelzett értékek közötti különbségek négyzetösszegének minimalizálása. Egy egyszerű lineáris regressziós egyenes egyenlete a következőképpen írható fel:
[y = a + bx]
Di mana:
– \(y \) a függő változó,
– \(x \) a független változó,
– \(a \) a tengelymetszet (az \(y \) értéke, amikor \(x = 0 \)),
– \(b \) az egyenes meredeksége (meredekség, vagy regressziós együttható).
A legkisebb négyzetek módszere becsli az \(a \) és \(b \) paramétereket, amelyek minimalizálják a következő függvényt:
\[ \text{SSE} = \sum_{i=1}^{n} (y_i – \hat{y_i})^2 \]
Ahol az SSE a négyzetes hibák összege, az y_i a tényleges érték, a y_i pedig a becsült érték.
Legkisebb négyzetek módszerének lépései
A koncepció tisztázása érdekében egy példafeladatot fogunk megoldani, amely a legkisebb négyzetek módszerét használja.
Problémákra példa
A következő adatok alapján:
| x (Tanulmányi órák) | y (Vizsgapontszám) |
|———————–|———————–|
| 2 | 81 |
| 4 | 93 |
| 6 | 91 |
| 8 | 97 |
| 10 | 103 |
Határozza meg az adatokhoz legjobban illeszkedő lineáris regressziós egyenest.
Vita
1. Az \( \bar{x} \) és \( \bar{y} \) átlagának kiszámítása
\[
\bar{x} = \frac{\sum x_i}{n} = \frac{2 + 4 + 6 + 8 + 10}{5} = 6
\]
\[
\bar{y} = \frac{\y_i összeg}{n} = \frac{81 + 93 + 91 + 97 + 103}{5} = 93
\]
2. A \(b \) paraméter kiszámítása (meredekség)
A \(b \) paramétert a következőképpen számítjuk ki:
\[
b = \frac{\sum (x_i – ∫bar{x})(y_i – ∫bar{y})}{\sum (x_i – ∫bar{x})^2}
\]
Az egyes komponensek kiszámítása:
\[
\sum (x_i – \bar{x})(y_i – \bar{y}) = (2-6)(81-93) + (4-6)(93-93) + (6-6)(91-93) + (8-6)(97-93) + (10-6)(103-93)
\]
\[
= (-4)(-12) + (-2)(0) + (0)(-2) + (2)(4) + (4)(10)
\]
\[
= 48 + 0 + 0 + 8 + 40 = 96
\]
\[
∫(x_i – ∫(x))^2 = (2-6)^2 + (4-6)^2 + (6-6)^2 + (8-6)^2 + (10-6)^2
\]
\[
= (-4)^2 + (-2)^2 + 0^2 + 2^2 + 4^2
\]
\[
= 16 + 4 + 0 + 4 + 16 = 40
\]
Tehát, hogy:
\[
b = ∫\frac{96}{40} = 2.4
\]
3. Az \(a \) paraméter kiszámítása (metszéspont)
A \( \bar{x} \) és \( \bar{y} \) átlagának felhasználásával:
\[
a = ∫bar{y} – b∫bar{x} = 93 – 2.4 × 6 = 93 – 14.4 = 78.6
\]
4. A regressziós egyenes egyenletének felírása
A megtalált paraméterek birtokában felírhatjuk a regressziós egyenes egyenletét:
\[
y = 78.6 + 2.4x
\]
Értelmezés és ellenőrzés
Annak érdekében, hogy ez a regressziós egyenes illeszkedjen, kiszámíthatjuk az előrejelzett y-értéket (\(\hat{y}\)) minden x-hez a kezdeti adatokban, valamint kiszámíthatjuk a négyzetes hibák összegét (SSE) a predikció pontosságának validálásához.
| x | y | \(\hat{y}\) | \((y – \hat{y})^2\) |
|—|—-|————|———————–|
| 2 | 81 | 83.4 | (81-83.4)^2 = 5.76 |
| 4 | 93 | 88.2 | (93-88.2)^2 = 23.04|
| 6 | 91 | 93.0 | (91-93.0)^2 = 4.00 |
| 8 | 97 | 97.8 | (97-97.8)^2 = 0.64 |
|10 |103 |102.6 | (103-102.6)^2 = 0.16|
SSS:
\[
SSE = 5.76 + 23.04 + 4.00 + 0.64 + 0.16 = 33.6
\]
Egy viszonylag kis SSE alapján arra a következtetésre juthatunk, hogy a legkisebb négyzetek módszerével előállított regressziós egyenes jól illeszkedik ezekre az adatokra.
Következtetés
A legkisebb négyzetek módszere egy hatékony statisztikai elemzőeszköz, amely segít meghatározni egy adathalmaz legjobban illeszkedő egyenesét, minimalizálva az eltérések négyzetén alapuló predikciós hibát. Az átlag kiszámításának, a meredekség és a metszéspont becslésének, valamint a regressziós egyenes egyenletének felírásának és ellenőrzésének lépéseivel pontosan megjósolhatjuk a függő változó értékét a független változókból.
A módszer alapos ismerete rendkívül hasznos olyan területeken, mint a közgazdaságtan, a biostatisztika, a mérnöki tudományok és a társadalomtudományok, ahol a regresszióanalízist gyakran alkalmazzák. Ez a cikk konkrét példákkal illusztrálja a módszertan fontosságát és hasznosságát az adatelemzésben.
