Mbinu ya Viwanja Vidogo: Mbinu ya Hisabati ya Makadirio
Pendauluan
Mbinu ya miraba midogo ni mbinu ya takwimu inayotumika kukadiria vigezo katika modeli ya urejelezaji kwa kupunguza jumla ya makosa ya miraba kati ya thamani halisi na thamani zilizotabiriwa na modeli. Njia hii ni maarufu sana na hutumika mara kwa mara katika nyanja mbalimbali kama vile uchumi, uhandisi, biolojia, na sayansi ya kijamii. Wazo la miraba midogo lilipendekezwa kwa mara ya kwanza na Adrien-Marie Legendre mwanzoni mwa karne ya 19 na baadaye likaendelezwa zaidi na Carl Friedrich Gauss.
Uelewa wa Msingi
Kwa ujumla, mbinu ya miraba midogo inalenga kupata mstari wa urejelezaji unaofaa zaidi kwa seti ya data kwa kupunguza jumla ya miraba ya mabaki, au makosa ya utabiri. Mabaki ni tofauti kati ya thamani iliyoonekana na thamani iliyotabiriwa.
Ikiwa tuna seti ya data inayojumuisha jozi za uchunguzi \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)\), basi lengo letu ni kupata mstari \(y = mx + b\) unaopunguza jumla ya makosa ya mraba sum\( \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \).
Njia hii inaweza kutumika kwa urejeshaji rahisi wa mstari na urejeshaji mwingi wa mstari. Katika urejeshaji rahisi wa mstari, tuna kigezo kimoja huru (x), huku urejeshaji mwingi wa mstari ukihusisha zaidi ya kigezo kimoja huru.
Urejeshaji Rahisi wa Mstari
Tuanze na urejeshaji rahisi wa mstari. Tuseme tuna seti ya data \((x_1, y_1), (x_2, y_2), …, (x_n, y_n)). Mfano rahisi wa urejeshaji wa mstari tunaotaka kutoshea ni:
\[ y = mx + b + \epsilon \]
ambapo \( m \) ni mteremko, \( b \) ni kukatiza, na \( \epsilon \) ni kosa la nasibu.
Kwa kutumia mbinu ya miraba midogo, tunaweza kupata makadirio ya vigezo \( m \) na \( b \) kwa kupunguza chaguo la kukokotoa hitilafu ya mraba:
\[ S(m, b) = \sum_{i=1}^{n} (y_i – (mx_i + b))^2 \]
Ili kupunguza \( S(m, b) \), tunapata derivatives zisizo kamili za \( S \) kuhusiana na \( m \) na \( b \), na kisha tunatatua mlinganyo huu wa \( m \) na \( b \):
\[ \begin{aligned}
\frac{\partial S}{\partial m} &= -2 \sum_{i=1}^{n} x_i (y_i – (mx_i + b)) = 0 \\
\frac{\partial S}{\partial b} &= -2 \sum_{i=1}^{n} (y_i – (mx_i + b)) = 0
\end{iliyopangwa} \]
Baada ya kurahisisha, tunapata milinganyo miwili ya kawaida ifuatayo:
\[ \begin{aligned}
n\bar{y} &= m \sum_{i=1}^{n} x_i + nb \\
\sum_{i=1}^{n}x_i y_i &= m \sum_{i=1}^{n}x_i^2 + b \sum_{i=1}^{n}x_i
\end{iliyopangwa} \]
Kwa kutatua mfumo wa milinganyo hapo juu, tunaweza kupata thamani za \( m \) na \( b \) zinazopunguza hitilafu ya mraba.
Urejeshaji wa Mistari Mingi
Katika urejeshaji wa mstari mwingi, tunakabiliwa na hali ambapo tuna zaidi ya kigezo kimoja huru. Tuseme tuna data katika umbo la tuple \((x_{i1}, x_{i2}, …, x_{ik}, y_i)\). Mfano wa urejeshaji tunaotumia ni:
\[ y = b_0 + b_1 x_1 + b_2 x_2 + … + b_k x_k + \epsilon \]
Mlinganyo huu unaweza kuandikwa katika umbo la matriki kama:
\[ \mathbf{y} = \mathbf{X} \mathbf{b} + \mathbf{\epsilon} \]
Wapi:
– \( \mathbf{y} \) ni vekta ya safu wima ya thamani za y zilizoonekana.
– \( \mathbf{X} \) ni matrix ya thamani za x zilizoonekana (ikiwa ni pamoja na safu wima ya 1 ya kukatiza).
– \( \mathbf{b} \) ni vekta ya safu wima ya vigezo (ikiwa ni pamoja na \( b_0 \)).
Lengo la mbinu ya miraba midogo ni kupunguza kitendakazi kifuatacho cha hitilafu ya quadratic:
\[ S(\mathbf{b}) = (\mathbf{y} – \mathbf{Xb})^T (\mathbf{y} – \mathbf{Xb}) \]
Ili kupunguza chaguo hili la utendaji, tunachukua derivative isiyo kamili ya S kuhusiana na \( \mathbf{b} \) na kuiweka hadi sifuri. Hii hutoa mlinganyo wa kawaida kwa urejelezaji mwingi wa mstari:
\[ \mathbf{X}^T \mathbf{Xb} = \mathbf{X}^T \mathbf{y} \]
Kwa kutatua mfumo wa milinganyo hapo juu, tunaweza kupata makadirio ya kigezo \( \mathbf{b} \):
\[ \mathbf{b} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y} \]
Faida na Mapungufu
Mbinu ya miraba midogo ina faida nyingi. Ni njia bora na rahisi kutumia. Inatoa suluhisho la kipekee ikiwa \( \mathbf{X}^T \mathbf{X} \) haiwezi kugeuzwa, na kuifanya iwe ya kuaminika kwa matumizi mengi ya vitendo.
Hata hivyo, mbinu ya miraba midogo pia ina mapungufu. Ni nyeti sana kwa vitu vya nje kwa sababu hitilafu ya mraba inasisitiza tofauti kubwa zaidi kuliko ndogo. Zaidi ya hayo, dhana ya kitamaduni kwamba makosa yana usambazaji wa kawaida bila wastani wa sifuri na tofauti thabiti lazima itimizwe kwa matokeo mazuri.
Matumizi ya Vitendo
Mbinu ya least squares hutumika mara nyingi katika uchanganuzi wa mwenendo wa data, utabiri, na ujifunzaji wa mashine ili kujenga mifumo ya utabiri. Katika tasnia ya fedha, mbinu ya least squares hutumika kutabiri bei za hisa au utendaji wa soko. Katika dawa, hutumika kuiga uhusiano kati ya kipimo cha dawa na mwitikio wa mgonjwa. Katika sayansi ya kijamii, husaidia kuelewa uhusiano kati ya vigezo kama vile elimu na mapato.
Hitimisho
Mbinu ya miraba midogo ni mojawapo ya mbinu za msingi katika takwimu na uchambuzi wa data. Ingawa ni rahisi katika dhana, njia hii inatoa nguvu kubwa katika uundaji wa mifano na kuelewa uhusiano kati ya vigeu. Kwa matumizi yaliyoenea katika nyanja mbalimbali, uelewa thabiti wa njia hii ni muhimu sana kwa wataalamu na watafiti vile vile. Katika siku zijazo, kwa kuongezeka kwa idadi ya data inayopatikana katika enzi ya data kubwa, marekebisho na matumizi ya mbinu za kitamaduni kama vile miraba midogo yatakuwa muhimu zaidi.
