Прыклад пытанняў для абмеркавання метаду найменшых квадратаў
Метад найменшых квадратаў (МНК) — гэта статыстычны метад, які выкарыстоўваецца для пошуку лініі найлепшага набліжэння, якая найбольш эфектыўна прадказвае дадзеныя. Гэты метад часта выкарыстоўваецца ў лінейным рэгрэсійным аналізе для выяўлення сувязі паміж незалежнымі і залежнымі зменнымі. У гэтым артыкуле будуць разгледжаны асноўныя паняцці метаду найменшых квадратаў, а таксама прыклады і пакрокавыя тлумачэнні для больш глыбокага разумення таго, як працуе гэты метад.
Асноўныя паняцці метаду найменшых квадратаў
Мэта метаду найменшых квадратаў — мінімізаваць суму квадратаў рознасцей паміж назіранымі значэннямі і значэннямі, прадказанымі рэгрэсійнай мадэллю. Ураўненне простай лінейнай рэгрэсіі можна запісаць наступным чынам:
\[y = a + bx \]
Дзе:
– \(y \) — залежная зменная,
– \(x \) — незалежная зменная,
– \(a \) — гэта кропка перасячэння з воссю (значэнне \(y \) пры \(x = 0 \)),
– \(b \) — нахіл прамой (каэфіцыент рэгрэсіі).
Метад найменшых квадратаў ацэньвае параметры (a) і (b), якія мінімізуюць наступную функцыю:
\[ \text{SSE} = \sum_{i=1}^{n} (y_i – \hat{y_i})^2 \]
Дзе SSE — сума квадратаў памылак, \(y_i \) — фактычнае значэнне, а \( \hat{y_i} = a + bx_i \) — прагназаванае значэнне.
Этапы метаду найменшых квадратаў
Каб удакладніць канцэпцыю, мы вырашым прыклад задачы, які ўключае выкарыстанне метаду найменшых квадратаў.
Прыклад задачы
Улічваючы наступныя дадзеныя:
| x (Гадзіны вучобы) | y (Вынік экзамену) |
|——————–|——————–|
| 2 | 81 |
| 4 | 93 |
| 6 | 91 |
| 8 | 97 |
| 10 | 103 |
Вызначце лінію лінейнай рэгрэсіі, якая найлепшым чынам адпавядае дадзеным.
Абмеркаванне
1. Вылічэнне сярэдняга значэння \( \bar{x} \) і \( \bar{y} \)
\[
\bar{x} = \frac{\sum x_i}{n} = \frac{2 + 4 + 6 + 8 + 10}{5} = 6
\]
\[
\bar{y} = \frac{\sum y_i}{n} = \frac{81 + 93 + 91 + 97 + 103}{5} = 93
\]
2. Вылічэнне параметра \(b \) (нахіл)
Параметр \(b \) вылічваецца па формуле:
\[
b = \frac{\sum (x_i – \bar{x})(y_i – \bar{y})}{\sum (x_i – \bar{x})^2}
\]
Разлік кожнага кампанента:
\[
\sum (x_i – \bar{x})(y_i – \bar{y}) = (2-6)(81-93) + (4-6)(93-93) + (6-6)(91-93) + (8-6)(97-93) + (10-6)(103-93)
\]
\[
= (-4)(-12) + (-2)(0) + (0)(-2) + (2)(4) + (4)(10)
\]
\[
= 48 + 0 + 0 + 8 + 40 = 96
\]
\[
\sum (x_i – \bar{x})^2 = (2-6)^2 + (4-6)^2 + (6-6)^2 + (8-6)^2 + (10-6)^2
\]
\[
= (-4)^2 + (-2)^2 + 0^2 + 2^2 + 4^2
\]
\[
= 16 + 4 + 0 + 4 + 16 = 40
\]
Такім чынам:
\[
b = \frac{96}{40} = 2.4
\]
3. Вылічэнне параметра \(a \) (перасячэнне з воссю)
Выкарыстоўваючы сярэдняе значэнне \( \bar{x} \) і \( \bar{y} \):
\[
a = y – b x = 93 – 2.4 множаныя на 6 = 93 – 14.4 = 78.6
\]
4. Запіс ураўнення лініі рэгрэсіі
З атрыманымі параметрамі можна запісаць ураўненне лініі рэгрэсіі:
\[
y = 78.6 + 2.4x
\]
Інтэрпрэтацыя і праверка
Каб пераканацца ў тым, што гэтая лінія рэгрэсіі адпавядае рэпрэзентацыі, мы можам вылічыць прагназаванае значэнне y (\(\hat{y}\)) для кожнага x у зыходных дадзеных, а таксама вылічыць суму квадратаў памылак (SSE) для праверкі дакладнасці прагнозу.
| х | у | \(\hat{y}\) | \((y – \hat{y})^2\) |
|—|—-|————|——————–|
| 2 | 81 | 83.4 | (81-83.4)^2 = 5.76 |
| 4 | 93 | 88.2 | (93-88.2)^2 = 23.04|
| 6 | 91 | 93.0 | (91-93.0)^2 = 4.00 |
| 8 | 97 | 97.8 | (97-97.8)^2 = 0.64 |
|10 |103 |102.6 | (103-102.6)^2 = 0.16|
SSE:
\[
ССЕ = 5.76 + 23.04 + 4.00 + 0.64 + 0.16 = 33.6
\]
Пры адносна невялікай SSE можна зрабіць выснову, што лінія рэгрэсіі, атрыманая метадам найменшых квадратаў, добра падыходзіць для гэтых дадзеных.
Выснова
Метад найменшых квадратаў — гэта магутны інструмент статыстычнага аналізу для вызначэння лініі найлепшага набліжэння для набору даных, мінімізуючы памылку прагназавання на аснове квадрата адхіленняў. Выкарыстоўваючы этапы вылічэння сярэдняга значэння, ацэнкі нахілу і перасячэння з воссю асновы, а таксама запісу і праверкі ўраўнення лініі рэгрэсіі, мы можам дакладна прадказаць значэнне залежнай зменнай з незалежных зменных.
Добрае разуменне гэтага метаду надзвычай карыснае ў такіх галінах, як эканоміка, біястатыстыка, інжынерыя і сацыяльныя навукі, дзе часта ўжываецца рэгрэсійны аналіз. Гэты артыкул з дапамогай канкрэтных прыкладаў ілюструе важнасць і карыснасць гэтай метадалогіі ў аналізе дадзеных.
